faisant de la chanteuse la victime la plus célèbre d'un fléau que les plateformes technologiques et les groupes anti-abus ont eu du mal à réparer.
De fausses images sexuellement explicites et abusives de Swift ont commencé à circuler largement cette semaine sur la plateforme de médias sociaux X.
Ses fervents fans de « Swifties » se sont rapidement mobilisés, lançant une contre-offensive sur la plateforme anciennement connue sous le nom de Twitter et un hashtag #ProtectTaylorSwift pour l'inonder d'images plus positives de la pop star.
Certains ont déclaré qu’ils signalaient des comptes partageant des deepfakes.
Le groupe de détection de deepfakes Reality Defender a déclaré avoir suivi un déluge de matériel pornographique non consensuel représentant Swift, en particulier sur X. Certaines images ont également été diffusées sur Facebook, propriété de Meta, et sur d'autres plateformes de médias sociaux.
« Malheureusement, ils se sont propagés à des millions et des millions d'utilisateurs au moment où certains d'entre eux ont été supprimés », a déclaré Mason Allen, responsable de la croissance de Reality Defender.
Les chercheurs ont trouvé au moins deux douzaines d’images uniques générées par l’IA. Les plus largement partagées étaient liées au football, montrant un Swift peint ou ensanglanté qui l'objectivait et, dans certains cas, infligeait des dommages violents à son faux personnage.
Les chercheurs ont déclaré que le nombre de deepfakes explicites avait augmenté au cours des dernières années, à mesure que la technologie utilisée pour produire de telles images est devenue plus accessible et plus facile à utiliser. En 2019, un rapport publié par la société d’IA DeepTrace Labs montrait que ces images étaient majoritairement utilisées comme une arme contre les femmes. La plupart des victimes, selon le communiqué, étaient des acteurs hollywoodiens et des chanteurs de K-pop sud-coréens.
Université de New York, affirme que les fans de Swift se mobilisent rapidement pour soutenir leur artiste, en particulier ceux qui prennent leur fandom très au sérieux et dans des situations d'actes répréhensibles.
« Cela pourrait être une affaire énorme si elle intentait réellement une action en justice », a-t-elle déclaré.
Spanos affirme que le problème de la fausse pornographie s'aligne sur d'autres problèmes rencontrés par Swift dans le passé, soulignant son procès de 2017 contre un DJ d'une station de radio qui l'aurait pelotée ; les jurés ont accordé à Swift 1 $ de dommages et intérêts, une somme que son avocat, Douglas Baldridge, a qualifié de « un seul dollar symbolique, dont la valeur est incommensurable pour toutes les femmes dans cette situation » au milieu du mouvement MeToo.
(Le procès à 1 $ est devenu une tendance par la suite, comme dans le contre-poursuite de Gwyneth Paltrow en 2023 contre un skieur.)
images nues non consensuelles sur sa plateforme. L’entreprise a également fortement réduit ses équipes de modération de contenu depuis qu’Elon Musk a repris la plateforme en 2022.
« Nos équipes suppriment activement toutes les images identifiées et prennent les mesures appropriées contre les comptes responsables de leur publication », a écrit la société dans le post X vendredi matin. « Nous surveillons de près la situation pour garantir que toute nouvelle violation soit immédiatement corrigée et que le contenu soit supprimé. »
Dans le même temps, Meta a déclaré dans un communiqué qu'elle condamnait fermement « le contenu apparu sur différents services Internet » et s'efforçait de le supprimer.
« Nous continuons de surveiller nos plateformes pour détecter tout contenu violant et prendrons les mesures appropriées si nécessaire », a déclaré la société.
Un représentant de Swift n'a pas immédiatement répondu à une demande de commentaires vendredi.
Allen a déclaré que les chercheurs sont sûrs à 90 % que les images ont été créées par des modèles de diffusion, qui sont un type de modèle d'intelligence artificielle générative capable de produire de nouvelles images photoréalistes à partir de messages écrits.
Les plus connus sont Stable Diffusion, Midjourney et DALL-E d'OpenAI. Le groupe d'Allen n'a pas essayé de déterminer la provenance.
OpenAI a déclaré avoir mis en place des garanties pour limiter la génération de contenus préjudiciables et « refuser les demandes qui demandent le nom d’une personnalité publique, y compris Taylor Swift ».
Microsoft, qui propose un générateur d'images basé en partie sur DALL-E, a déclaré vendredi qu'il était en train d'enquêter pour savoir si son outil avait été utilisé à mauvais escient. Tout comme d'autres services commerciaux d'IA, il a déclaré qu'il n'autorisait pas « les contenus intimes réservés aux adultes ou non consensuels, et toute tentative répétée de produire du contenu allant à l'encontre de nos politiques peut entraîner une perte d'accès au service ».
le PDG de Microsoft, Satya Nadella, a déclaré à l'animateur Lester Holt dans une interview diffusée mardi qu'il y avait encore beaucoup à faire pour mettre en place des garanties en matière d'IA et « il nous incombe d'agir rapidement sur ce point ».
« C'est absolument alarmant et terrible, et donc oui, nous devons agir », a déclaré Nadella.
Midjourney, OpenAI et Stable Diffusion-maker Stability AI n'ont pas immédiatement répondu aux demandes de commentaires.
Les législateurs fédéraux qui ont présenté des projets de loi visant à imposer davantage de restrictions ou à criminaliser la pornographie deepfake ont indiqué que l'incident montre pourquoi les États-Unis doivent mettre en œuvre de meilleures protections.
« Pendant des années, les femmes ont été victimes de deepfakes non consensuelles, donc ce qui est arrivé à Taylor Swift est plus courant que la plupart des gens ne le pensent », a déclaré la représentante américaine Yvette D. Clarke, une démocrate de New York qui a présenté une législation obligeant les créateurs à filigraner numériquement le contenu deepfake.
« Generative-AI aide à créer de meilleurs deepfakes à une fraction du coût », a déclaré Clarke.
Le représentant américain Joe Morelle, un autre démocrate de New York qui défend un projet de loi qui criminaliserait le partage de pornographie deepfake en ligne, a déclaré que ce qui est arrivé à Swift était inquiétant et était devenu de plus en plus répandu sur Internet.
« Les images sont peut-être fausses, mais leurs impacts sont bien réels », a déclaré Morelle dans un communiqué. « Les deepfakes arrivent chaque jour aux femmes du monde entier dans notre monde de plus en plus numérique, et il est temps d'y mettre un terme. »
