La technologie de l’IA, capable de recréer de manière convaincante les voix humaines, s’annonce comme une préoccupation majeure des législateurs.
« Le clonage vocal est une selected qui m’empêche de dormir la nuit », a déclaré Bruce Reed, chef de cupboard adjoint de la Maison Blanche, à Politico. Reed, qui a été chargé de diriger la stratégie d’IA de l’administration Biden, a qualifié la technologie de « terriblement bonne », même si elle est encore assez nouvelle.
« La société n’a pas encore réalisé à quel stage la idea de fausses voix parfaites pourrait bouleverser nos vies. Personne ne répondra au téléphone s’il ne peut pas être sûr si la voix de l’autre côté est réelle ou fausse », a-t-il déclaré. Politique.
Les fraudeurs téléphoniques, par exemple, exploitent déjà les progrès de la technologie de clonage vocal pour rendre leurs stratagèmes moreover crédibles.
En mars, la FTC a déclaré que les escrocs s’appuyaient sur la technologie de l’IA pour « améliorer » leurs escroqueries familiales en cas d’urgence, en utilisant des programmes de clonage vocal pour convaincre les gens que les membres de leur famille étaient en détresse.
En avril, une mère de l’Arizona a reçu un appel d’un escroc qui avait utilisé un logiciel de clonage vocal pour prétendre avoir kidnappé sa fille. « C’était entièrement sa voix. C’était son inflexion », avait-elle déclaré à l’époque à un média neighborhood. Les fraudeurs n’ont besoin que de trois ou quatre secondes de la voix d’une personne pour créer un clone convaincant avec une correspondance à 85 %, selon un rapport du logiciel de sécurité McAfee.
Dans le même temps, le maire de la ville de New York, Eric Adams, affirme que les clones de sa propre voix générés par l’IA l’ont aidé à se connecter avec une partie furthermore substantial de la population de la ville.
Depuis l’année dernière, il lance des appels automatisés aux résidents dans une poignée de langues qu’il ne parle pas, notamment le mandarin, l’espagnol et le yiddish. Adams affirme que les appels automatisés l’ont aidé à toucher davantage de résidents non anglophones de la ville. Des gens l’ont même arrêté dans la rue pour lui demander s’il parle mandarin. Certains universitaires et authorities en matière de protection de la vie privée affirment que l’initiative d’Adam est encore trompeuse, ou du moins souligne le fait que les politiciens doivent établir des règles de foundation in addition claires sur la manière dont ils utilisent l’IA.
Beaucoup de ces plateformes sont prêtes à être utilisées à mauvais escient. Ils sont accessibles et leur utilisation est assez uncomplicated.
Adams s’appuie sur une plate-forme de clonage vocal d’ElevenLabs qui est gratuite et nécessite moins d’une minute de l’audio d’un individu pour générer un clone de « haute qualité », selon son website Web. Et peu de temps après son lancement en variation bêta en janvier, ElevenLabs a publié une déclaration affirmant avoir remarqué un nombre croissant de « cas d’utilisation abusive du clonage vocal ».
Week-finish fou : merci à tous d’avoir essayé notre plateforme bêta. Alors que nous constatons que notre technologie est massivement appliquée à un usage positif, nous constatons également un nombre croissant de cas d’utilisation abusive du clonage vocal. Nous souhaitons contacter la communauté Twitter pour obtenir des idées et des commentaires !
/p>
ElevenLabs n’a pas fourni de détails spécifiques sur ces cas à l’époque, mais Vice a rapporté que de faux clips audio de Joe Rogan, Ben Shapiro et Emma Watson faisant des commentaires racistes, violents et transphobes générés through son logiciel avaient été téléchargés sur le internet site imageboard. 4chan.
