Après les élections de mi-mandat aux États-Unis, des créateurs de contenus ont utilisé l’intelligence artificielle pour inonder internet de fausses vidéos mettant en scène des candidats et des célébrités. La plupart de ces montages relèvent de la parodie et de l’humour plutôt que de la tromperie, selon les chercheurs qui suivent la diffusion de ces contenus.
Parmi les plus partagés, une scène créée par IA reprend le casting de la série à succès «The Office». On y voit le patron s’adapter à une société plus progressiste, vêtu d’un pull aux couleurs du drapeau de la fierté, et réclamer une «journée de la diversité» d’urgence. La vidéo a dépassé les 16 millions de vues sur une seule publication sur X.
Des parodies plus que des tromperies
Cette vidéo illustre le type de faux créés par IA qui ont circulé sur les réseaux sociaux pendant la période électorale. Beaucoup des contenus les plus populaires cherchaient à faire rire, parfois à susciter des moqueries, à travers un mélange d’événements extravagants qui ne se sont évidemment jamais produits.
Pour les chercheurs qui surveillent la diffusion des deepfakes, ces résultats apportent un soulagement modeste, mais aussi un moment de bilan. Depuis 2020 au moins, les experts préviennent à chaque élection américaine que les répliques de personnes réelles et les autres contenus trompeurs générés par la technologie pourraient ébranler la démocratie, en induisant les électeurs en erreur sur de faux scandales ou de faux propos scabreux.
Quelques publicités diffusées cette année montraient des versions réalistes de candidats. Mais la grande majorité des vidéos en circulation en ligne étaient des parodies, des blagues et des mèmes trop absurdes pour être crédibles. Des internautes ont ainsi représenté le président Trump en propriétaire d’une petite entreprise, avec le vice-président JD Vance comme fils et employé. D’autres créateurs, opposés à la candidature du sénateur élu Abdul El-Sayed, ont publié une multitude de vidéos le dénigrant, en recourant souvent à des stéréotypes racistes.
Des publicités plus ancrées dans le réel
Des centaines de publicités de campagne générées par IA ont également envahi internet et les ondes, dont certaines étaient trompeuses et n’étaient pas signalées comme créées par IA, selon un rapport du Wesleyan Media Project, groupe de recherche de la Wesleyan University. La grande majorité de ces publicités étaient manifestement fausses et montraient des scènes impossibles.
Certaines étaient plus proches de la réalité, comme une publicité montrant une version IA de Vikki Goodwin, alors candidate démocrate au poste de lieutenant-gouverneur du Texas, prétendument favorable à une «death tax». «Il y a beaucoup de gens qui ne me connaissent pas encore et qui pourraient penser que c’est moi», a-t-elle déclaré au New York Times en septembre. L’équipe de campagne à l’origine de la publicité avait alors affirmé qu’il s’agissait d’«une parodie évidente, produite pour divertir». Mme Goodwin a finalement remporté sa course avec plus de six points d’avance.
Autre cible fréquente de ces publicités d’attaque, le sénateur élu James Talarico, démocrate du Texas, a remporté son élection nettement. Malgré la grande quantité de contenus le concernant qui pourraient servir à générer des faux ou des clones audio, les experts n’ont trouvé aucune preuve d’un deepfake trompeur se faisant passer pour une véritable séquence. Il apparaît en revanche dans des dizaines de vidéos générées par IA où il danse et chante, vues des millions de fois en ligne.
Ces faux peuvent néanmoins avoir un poids politique, en galvanisant les partisans et en donnant corps aux critiques formulées contre les candidats, qui peuvent rester ancrées dans l’esprit des électeurs. «Les campagnes politiques font cela depuis toujours, ce n’est pas nouveau, a déclaré Henry Ajder, expert en IA et fondateur du cabinet de conseil Latent Space Advisory. Les moyens de production sont nouveaux, la capacité de diffusion à grande échelle, l’accès aussi. Le côté viscéral, lui, est différent.»
Des chercheurs de l’université McGill et de l’Université de Montréal ont constaté que les contenus générés par IA représentaient environ 6 % des images liées à l’élection sur X lors de l’élection fédérale canadienne. Plus de 90 % des vues sont cependant allées à des contenus plus anodins, comme des mèmes, des blagues ou de fausses représentations de candidats en super-héros ou en super-vilains.
Les experts évoquent quelques cas passés où des faux générés par IA semblaient avoir induit les électeurs en erreur. En 2023, un extrait audio généré par IA aurait pu infléchir le cours d’une élection en Slovaquie. En 2024, une réplique IA de la voix du président Joseph R. Biden a été utilisée pour appeler des électeurs du New Hampshire, leur conseillant de ne pas participer à la primaire.
Cette année, un groupe politique a également créé une ligne téléphonique proposant une version alimentée par IA de Nithya Raman, candidate à la mairie de Los Angeles qui a finalement remporté sa course. Sur cette ligne, elle semblait approuver les campements de tentes.
Ces faux ciblent davantage les partisans, plus enclins à les croire, que les électeurs indécis, généralement plus sceptiques. Ils peuvent aussi circuler plus facilement dans les groupes de discussion privés, selon les chercheurs. Pendant ce temps, les vidéos à caractère comique ont recueilli des millions de vues.
«La menace des deepfakes n’a pas disparu, a déclaré Shaina Raza, chercheuse scientifique à l’Institut Vector d’intelligence artificielle, qui étudie les risques liés à l’IA. Elle prend des formes différentes de celles que l’on avait anticipées.»
