intelligence artificielle imitant la voix du président Joe Biden aux électeurs avant la primaire présidentielle du New Hampshire fait face à une amende de 6 millions de dollars et à plus de deux douzaines d'accusations criminelles.
La Commission fédérale des communications a déclaré que l'amende qu'elle a proposée jeudi à Steven Kramer était la première impliquant une technologie d'IA générative. La société accusée d'avoir transmis les appels, Lingo Telecom, encourt une amende de 2 millions de dollars, même si dans les deux cas, les parties pourraient régler ou négocier davantage, a indiqué la FCC.
Kramer a admis avoir orchestré un message qui a été envoyé à des milliers d'électeurs deux jours avant la première primaire du pays le 23 janvier. Le message diffusait une voix générée par l'IA similaire à celle du président démocrate qui utilisait sa phrase « Quel bande de conneries » et a suggéré à tort que voter à la primaire empêcherait les électeurs de voter en novembre.
Kramer fait face à 13 accusations criminelles alléguant qu'il a violé une loi du New Hampshire interdisant de tenter de dissuader quelqu'un de voter en utilisant des informations trompeuses. Il fait également face à 13 accusations de délit l'accusant de se présenter faussement comme candidat par sa propre conduite ou celle d'une autre personne. Les accusations ont été déposées dans quatre comtés et seront poursuivies par le bureau du procureur général de l'État.
Le procureur général John Formella a déclaré que le New Hampshire s'engageait à garantir que ses élections « restent exemptes de toute ingérence illégale ».
Ce qu'il faut savoir sur les élections de 2024
« Je suis heureux de voir que nos partenaires fédéraux s'engagent également à protéger les consommateurs et les électeurs contre les appels automatisés nuisibles et la suppression des électeurs », a déclaré Formella, nommé par le gouverneur républicain Chris Sununu.
Lingo Telecom a déclaré qu'elle était fortement en désaccord avec l'action de la FCC, qu'elle a qualifiée de tentative d'imposer de nouvelles règles de manière rétroactive.
« Lingo Telecom prend ses obligations réglementaires extrêmement au sérieux et a pleinement coopéré avec les agences fédérales et étatiques pour aider à identifier les parties responsables de la campagne d'appels automatisés du New Hampshire », a déclaré la société. « Lingo Telecom n'a pas été impliqué du tout dans la production de ces appels et les actions qu'elle a entreprises étaient conformes à toutes les réglementations fédérales et normes de l'industrie applicables. »
Les appels du New Hampshire ont été faussement présentés aux destinataires comme provenant du numéro de téléphone portable personnel de Kathy Sullivan, une ancienne présidente du Parti démocrate de l'État qui a aidé à diriger la campagne écrite de Biden. Elle a déclaré jeudi dans un courrier électronique qu’elle espérait que Kramer apprenait « qu’il y a un prix élevé à payer pour tenter de truquer une élection ».
« Nous espérons que l'action rapide et décisive du ministère de la Justice du New Hampshire et de la FCC dissuadera d'autres acteurs mauvais et/ou stupides qui ne respectent pas la démocratie », a-t-elle déclaré.
il n'essayait pas d'influencer le résultat de l'élection, mais qu'il souhaitait plutôt lancer un signal d'alarme sur les dangers potentiels de l'intelligence artificielle lorsqu'il a payé 150 $ à un magicien de la Nouvelle-Orléans pour créer l'enregistrement.
« Peut-être que je suis un méchant aujourd'hui, mais je pense qu'en fin de compte, nous obtiendrons un meilleur pays et une meilleure démocratie grâce à ce que j'ai fait délibérément », a déclaré Kramer en février.
La répression des électeurs est passible d’une peine de prison de 3 1/2 à 7 ans de prison. Se faire passer pour un candidat est passible d'une peine pouvant aller jusqu'à un an de prison.
Dans une interview quelques jours après avoir été publiquement identifié comme la source des appels, Kramer a déclaré qu'il n'était pas d'accord avec le fait que son appel automatisé avait supprimé la participation électorale, notant que Biden avait remporté la primaire démocrate par une large marge en tant que candidat inscrit. Alors qu'il effectuait des travaux d'accès aux bulletins de vote pour un autre ancien candidat démocrate à la présidentielle, le représentant Dean Phillips du Minnesota, Kramer a déclaré qu'il avait agi seul.
«J'ai lutté à l'université. Je suis prêt pour le combat », a déclaré Kramer, qui doit comparaître devant le tribunal le 5 juin. « S'ils veulent me jeter en prison, bonne chance. »
Depuis les appels automatisés du New Hampshire, la FCC a pris des mesures pour lutter contre l’utilisation croissante des outils d’intelligence artificielle dans les communications politiques. En février, il a confirmé que les outils de clonage vocal de l'IA dans les appels automatisés sont interdits par la loi en vigueur, et mercredi, il a présenté une proposition visant à obliger les annonceurs politiques à divulguer lorsqu'ils utilisent du contenu généré par l'intelligence artificielle dans des publicités télévisées et radiodiffusées.
Si elles sont adoptées, les nouvelles règles ajouteraient une couche de transparence que de nombreux législateurs et experts en IA réclament, alors que les outils d’IA générative qui progressent rapidement produisent des images, des vidéos et des clips audio réalistes qui menacent d’induire les électeurs en erreur lors des prochaines élections américaines.
La présidente de la FCC, Jessica Rosenworcel, a déclaré jeudi que les régulateurs s'engageaient à aider les États à poursuivre les auteurs de ces actes. Dans un communiqué, elle a qualifié les appels automatisés du New Hampshire de « troublants ».
« Parce que lorsqu'un appelant ressemble à un homme politique que vous connaissez, à une célébrité que vous aimez ou à un membre de la famille que vous connaissez, chacun d'entre nous pourrait être amené à croire quelque chose qui n'est pas vrai avec les appels utilisant la technologie de l'IA », a-t-elle déclaré dans un communiqué. déclaration. « C'est exactement ainsi que les mauvais acteurs derrière ces appels indésirables aux voix manipulées veulent que vous réagissiez. »
___
Swenson a rapporté de New York.
___
Pour en savoir plus sur l’initiative démocratique d’AP L'