Un doubleur a déclaré qu’il était « violant » de découvrir que sa voix avait été utilisée pour une scène sexuellement suggestive générée par l’IA sans sa authorization.
Allegra Clark a interprété de nombreux personnages, dont Beidou, un capitaine de navire du jeu vidéo « Genshin Effect ». Lorsque Clark est tombé pour la première fois sur une edition générée par l’IA de Beidou jouant la scène sur TikTok, Clark a déclaré à Forbes qu’elle craignait que ses clients la voient et pensent qu’elle l’avait fait volontairement.
La voix de Clark avait été reproduite et manipulée avec un outil d’IA générative appelé ElevenLabs, elle a donc écrit à l’entreprise pour exprimer ses inquiétudes.
« Non seulement cela peut nous causer bien des ennuis si les gens pensent que nous avons dit mais c’est aussi, franchement, très violent de s’entendre parler alors que ce n’est pas vraiment vous », a-t-elle écrit dans l’e-mail examiné par Forbes.
Elle a déclaré à Forbes qu’ElevenLabs n’avait pas réussi à répondre à ses préoccupations et que le manque de propriété personnelle de sa voix la laissait impuissante.
ElevenLabs n’a pas immédiatement répondu à la demande de commentaires d’Inisder, formulée en dehors des heures normales de travail. Le PDG de l’entreprise, Mati Staniszewski, a déclaré que les utilisateurs de Forbes avaient besoin du consentement explicite de la personne si le contenu créé avec leur voix pouvait être « préjudiciable ou diffamatoire ».
Forbes a rapporté que la société avait depuis lancé un outil de « captcha vocal ». Cela semblait avoir été conçu pour servir de mesure de sécurité.
L’utilisation de l’IA dans les médias est une concern de moreover en plus tendue parmi les acteurs professionnels.
Les programmes avancés d’IA générative ont réussi à imiter les voix et les visages d’artistes musicaux et de personnalités politiques avec une précision alarmante. Les risques que cette technologie fait peser sur les moyens de subsistance professionnels des acteurs ont été l’un des problèmes clés de la grève actuelle des acteurs hollywoodiens.
Les acteurs espèrent obtenir un nouveau contrat qui limiterait l’utilisation par les studios des nouvelles technologies d’IA et leur donnerait le contrôle de leurs répliques numériques.
