Lacroix
Cela ressemble à Luke Combs et sonne comme Luke Combs, mais les mots que la star de la place « prononce » dans une publicité en ligne vendant des gommes amaigrissantes « miraculeuses » ne sont certainement pas les siens.
«J’étais au additionally bas, puis Dieu m’a béni avec les gommes à la racine miracle. Mon bon ami Lainey Wilson me les avait recommandés », dit une voix qui ressemble à celle de Combs dans la vidéo, qui a commencé à circuler sur Facebook et Instagram le mois dernier.
Il n’est pas surprenant que ce ne soit que des conneries : la recommandation de Wilson, le témoignage de Combs sur la façon dont il « a rasé 46 livres » et, surtout, la voix – un fac-similé méticuleux de l’IA du baryton twangy de Caroline du Nord de Combs.
Combs et Wilson ne sont que les derniers chanteurs country, rejoignant des noms comme Tim McGraw, Garth Brooks et Miranda Lambert, à se faire pirater en ligne par des escrocs de l’IA. Ce qui est effrayant, c’est que certains tombent dans le panneau, automobile, du moins dans le cas de Combs, la voix de l’IA est tout aussi bonne. Et les gens de l’industrie de la musique nation sont énervés.
“La première edition de celui-ci, vous pouvez dire que ce n’était certainement pas Luke. Mais les deuxième et troisième versions, où ils ont continué à peaufiner la voix, se sont rapprochées de furthermore en plus », a déclaré Chris Kappy, le manager de Combs, à Rolling Stone. « Je connais la voix de Luke comme ma poche, mais les gens que je connais étaient tombés amoureux. Ensuite, j’ai commencé à recevoir des e-mails de fans disant : “Hé, je n’ai pas encore reçu mes gommes” ou demandant : “Est-ce que c’est réel ?” J’étais comme, ‘Oh, mon Dieu, je dois dire quelque selected.’
Kappy a publié des informations sur les fausses publicités sur Instagram pour avertir les followers et sonner l’alarme de l’IA pour l’industrie. “Pour les autres professionals, l’IA est une selected effrayante et ils l’utilisent contre nous”, a-t-il écrit. “Si vous voyez cela se produire, veuillez le signaler le as well as rapidement probable.”
“Les escroqueries existent dans la base de lovers de musique nation depuis longtemps, et c’est parce que la base de admirers est si passionnément fidèle aux artistes qu’ils peuvent en profiter”, explique Kappy. “J’ai parlé à différents managers et j’ai dit:” Vous devez faire très notice à cela automobile ils vont venir pour tout le monde. Nous devons garder la tête sur un pivot en ce second car or truck cela ne fera qu’empirer. C’est notre travail de continuer à éduquer les supporters sur la façon dont cela se passe et ce que nous faisons.
Choix de l’éditeur
Malheureusement, comme le savent tous ceux dont l’identité a été usurpée (y compris les journalistes de Rolling Stone), arrêter les imposteurs peut être, au mieux, un jeu de Whack-a-Mole. Techniquement, Instagram a mis en location des politiques pour empêcher l’usurpation d’identité, mais il y a eu des difficultés à les appliquer, déclare le responsable de Combs : “Instagram est envahi par de faux comptes”.
Les publicités proviennent de quelque component en Inde.
Ou la société de logiciels? Qui est la cible ici ?
Alors que son équipe travaillait pour fermer les publicités dans les coulisses, Wilson, qui est devenue la nouvelle star du pays avec la sortie de son album Bell Base Country, une série de prix CMA et une première position pour Combs lors de sa tournée du stade, a publié une vidéo personnelle en ligne avertissant les followers de l’arnaque. “Je suis sûr que beaucoup de personnes ont vu des publicités sur ma perte de poids, mon hospitalisation et que j’ai commencé à prendre des gommes amaigrissantes et bla bla bla qui m’ont sauvé la vie. Eh bien, surprise, ce n’est pas vrai, dit-elle. “Je ne veux tout simplement pas que vous dépensiez de l’argent pour quelque selected qui n’est pas réel.”
C’est ce vers quoi les gens sont attirés et gravitent – et c’est la tempête parfaite pour que l’IA entre en scène.
C’est une tempête alimentée par les supporters de country qui se rapportent aux chanteurs et à la disponibilité d’une technologie bon marché. Zach Wener, le fondateur de la begin-up vocale AI Uberduck, affirme que recréer une voix est l’un des exploits les additionally simples de l’IA. « Il existe des produits commerciaux où vous pouvez sortir et vous inscrire pour 10 $ par mois, prendre un extrait de la voix de quelqu’un et générer une voix qui lui ressemble un peu. Tapez ensuite ce que vous voulez dans une zone de texte et générez une sortie audio », dit-il.
C’est encore additionally réussi s’il y a des interviews et de l’audio préexistants – et pour les célébrités, il y en a une tonne. Pour le faux Combs, les escrocs ont probablement extrait des mots et des phrases de l’apparition du chanteur sur le podcast de Joe Rogan. “Avec des podcasts, comme celui de Joe Rogan, l’audio est évidemment super propre, ils utilisent des micros de haute qualité et il n’y a aucun bruit de fond”, dit Wener, “de sorte que les données feraient le travail de quelqu’un qui voulait recréer un voix beaucoup moreover facile.
Cela donne également une longueur d’avance aux escrocs de l’IA si la personne qu’ils imitent a parlé du sujet spécifique dans le passé. Par exemple, Combs a parlé ouvertement de l’image corporelle, et Wilson a reconnu aux followers qu’elle avait récemment maigri, non pas à induce des gommes amaigrissantes, mais à trigger d’un horaire chargé de performances.
« Lainey est connue pour être as well as voluptueuse, puis elle a perdu du poids. Les gens commençaient à commenter cela », dit Monchick. “Il y a donc à nouveau cette partie authentique.”
L’authenticité et l’ouverture inhérentes à la musique country sont sans doute ce qui rend également ses stars – et leurs bases de lovers – si exploitables : les fans veulent croire. Même les propres chauffeurs de bus de Wilson ont été presque dupés par les publicités.
“Quand les trucs gommeux ont commencé, nous en parlions dans le bus”, dit Monchick, “et Lainey a deux dames qui conduisent, et l’une d’elles dit:” Attendez une seconde, ce sont les mêmes gommes que Miranda Lambert avait été en utilisant?'”
Jennifer Grygiel, professeure agrégée en communication à l’Université de Syracuse et experte en mèmes, dit qu’il peut sembler que les escrocs se concentrent spécifiquement sur les lovers de state, mais c’est en fait moreover nuancé que cela.
“C’est une question d’audience, et ce n’est pas nouveau”, dit Grygiel. “Mais si vous parlez de ces deux stars nation que vous avez mentionnées, il y aura un groupe démographique légèrement différent. Celui qui vend ces gommes amaigrissantes a essentiellement dit que c’est lui qui, selon lui, sera attiré par ce produit. La lifestyle américaine a mis en avant cette idée que vous êtes censé avoir une certaine apparence, et c’est vraiment malsain.
Bien que tout gadget de perte de poids puisse avoir de graves effets secondaires, Kappy s’inquiète de la possibilité que les faux IA vendent un jour as well as de produits malveillants. “Que se passe-t-il lorsqu’ils commencent à dire : “Investis dans ceci ou fais ceci” ?” il dit. “C’est ce qui me fait peur, quand ils commencent à l’utiliser activement contre le lover.”
“Cela peut diluer et détruire la confiance des consommateurs dans les artistes”, déclare Monchick. “Je déteste l’apocalypse, mais je pense qu’une mauvaise merde va se produire avant qu’ils ne fassent quelque selected à ce sujet.”
Pendant ce temps, Combs a reconnu les publicités, mais d’une manière subtile d’autodérision : “PS”, a-t-il légendé un récent submit Instagram de photos de lui-même, “les bonbons gélifiés pour la perte de poids ne fonctionnent pas”.
