Chloé Moreau
Une équipe de l’Université de Chicago affirme avoir trouvé un nouveau moyen de protéger l’art de l’IA. /li> Téléchargé plus de 890 000 fois, il offre aux artistes une chance de contrer l’IA en prenant leur travail sans consentement.
À l’automne 2022, l’IA est venue pour Autumn Beverly.
Ce n’est que quelques mois après que la femme de 31 ans basée dans l’Ohio a commencé à poursuivre l’art à plein temps et a quitté son travail de jour en tant que dresseuse de chiens. Elle tweetait son travail, principalement des croquis d’animaux au crayon de couleur, essayant de se faire un nom. Les concert events ont afflué – une demande de symbol ici, un travail d’art conceptuel là-bas.
À l’époque, l’intelligence artificielle générative commençait à impressionner les internautes. L’IA serait bientôt meilleure que les artistes humains, a-t-on dit à Beverly. Sa nouvelle carrière lui échappait, mais elle ne pouvait pas faire grand-chose.
Son travail récent n’était qu’une fraction de ce qui avait été récolté. Même les dessins qu’elle a publiés il y a des années sur la plateforme de partage d’images DeviantArt ont été utilisés pour créer un bot qui pourrait un jour la remplacer.
Des milliers d’artistes partagent son dilemme alors que l’intelligence artificielle domine l’attention mondiale : s’ils commercialisent leur travail en ligne, ils alimenteraient la machine même sur le point de tuer leur carrière.
Glaze exploite un “écart gigantesque” entre la façon dont l’IA et les humains comprennent l’art
Ben Zhao, professeur d’informatique à l’Université de Chicago, dit que la réponse pourrait résider dans la façon dont l’IA voit les informations visuelles différemment des humains.
Son équipe a produit cette année un programme gratuit appelé Glaze, qui, selon eux, peut modifier une graphic d’une manière qui trompe les modèles d’apprentissage de l’IA tout en gardant les changements peu visibles à l’œil humain.
Si Beverly modifiait son art avec Glaze, un humain serait toujours capable de dire à quoi ressemble la pièce. Mais le camouflage permettrait à une IA de voir des caractéristiques distinctes d’un autre design d’art, comme les peintures abstraites de Jackson Pollock, a déclaré Zhao.
Une variation émaillée d’une scène mettant en scène des bisons et des loups par Autumn Beverly. Automne Beverly
Glaze permet aux utilisateurs de régler l’intensité du masquage, ainsi que la durée du rendu, qui peut prendre jusqu’à 60 minutes.
Selon ce que l’utilisateur choisit, les différences visuelles peuvent être importantes.
“moyen” (deuxième à droite) et “très haut” (à droite) réglages d’intensité. Celso Flores/Flickr
Glaze peut sembler déformer légèrement une image, mais le nouveau rendu modify complètement la façon dont un modèle d’IA perçoit la photo ou l’illustration, a déclaré Zhao.
Et cela devrait fonctionner dans tous les domaines avec les modèles d’apprentissage d’aujourd’hui, car or truck il exploite un écart fondamental entre la façon dont l’IA lit les photographs et la façon dont les humains les voient, a déclaré Zhao.
“Cet écart gigantesque existe depuis 10 ans. Les gens ont compris cet écart, en essayant de le combler, en essayant de le minimiser. Il s’est avéré vraiment robuste et résilient, et c’est la raison pour laquelle vous pouvez toujours effectuer des attaques contre des modèles de machines”, a-t-il déclaré. a dit.
Mélanger les webcomics avec Van Gogh
Le stage principal de Glaze est de protéger le model individuel d’un artiste, a déclaré Zhao. Son équipe a conceptualisé le programme lorsqu’ils ont été contactés par des artistes inquiets que les modèles d’IA ciblent spécifiquement leur travail personnel.
Cela se produit déjà, a-t-il ajouté. L’équipe de l’Université de Chicago a vu des personnes colporter des programmes en ligne formés pour imiter les dessins et peintures d’un seul artiste.
“Donc, quelqu’un télécharge un tas d’œuvres d’art à partir d’un compte particulier appartenant à un artiste particulier, l’entraîne sur ces modèles et dit:” Cela remplace l’artiste, vous pouvez l’avoir si vous le téléchargez de moi et me payez quelques dollars », a déclaré Zhao.
“Si vous voulez me harceler, vous pouvez taper” personnage de Sarah Andersen “, pensez à quelque selected de vraiment offensant, et cela crachera quatre pictures”, a déclaré Andersen.
Andersen a déclaré avoir remarqué que certains générateurs d’art sont devenus moins efficaces pour imiter son travail après avoir soulevé le problème avec certaines entreprises. Cependant, une invite d’IA envoyée en avril à Midjourney contenant son nom – ainsi que des guidance génériques sans rapport avec le design and style de dessin – a produit des résultats avec des similitudes stylistiques discutables avec son personnage. Généré par l’IA/Midjourney
C’est là que Glaze est naturellement positionné pour intervenir, a déclaré Zhao. Si une IA ne peut pas recueillir des données précises sur le design d’un artiste, elle ne peut espérer le remplacer ou copier son travail.
En attendant, Andersen n’a aucun moyen de retirer tout son travail, qu’elle a constamment mis en ligne au cours des 12 dernières années. En outre, les médias sociaux contribuent à la quasi-totalité de ses revenus actuels, a-t-elle déclaré.
Elle est l’une des principales plaignantes dans un recours collectif de 1 milliard de bucks contre des sociétés d’IA comme OpenAI et Security AI, qui affirme que les entreprises ont formé leurs modèles sur des milliards d’œuvres d’art sans le consentement des artistes.
Alors que la procédure judiciaire se poursuit, Andersen espère que Glaze lui servira de mesure défensive provisoire.
“Avant Glaze, nous n’avions aucun recours pour nous protéger contre l’IA. On parle d’une option de retrait, mais quand vous êtes un artiste en ligne comme moi depuis plus d’une décennie, votre travail est partout”, a-t-elle déclaré.
Glaze pourrait déclencher une training course aux armements entre les artistes et l’IA, mais ce n’est pas le sujet
En fin de compte, si une entreprise d’IA voulait contourner Glaze, elle pourrait facilement le faire, a déclaré Haibing Lu, professeur d’infoanalyse à l’Université de Santa Clara qui étudie l’IA.
Cela pourrait théoriquement conduire à une pseudo-program aux armements, où les sociétés d’IA et l’équipe de Glaze essaient continuellement de se surpasser. Mais si les entreprises d’intelligence artificielle consacrent des ressources au cracking Glaze, cela a déjà partiellement atteint son objectif, a déclaré Zhao.
“L’intérêt de la sécurité est de placer la barre si haut que quelqu’un qui fait quelque chose qu’il ne devrait pas abandonner et trouvera à la position quelque selected de moins cher à faire”, a déclaré Zhao.
“Personnellement, je peux imaginer que les juges seront disposés à dire que c’est le cas”, a déclaré Senftleben.
Que peuvent espérer d’autre les artistes ?
Les artistes inquiets de l’IA pourraient avoir peu d’alternatives à Glaze. Si des créateurs comme Beverly ou Andersen veulent poursuivre les sociétés d’intelligence artificielle pour violation du droit d’auteur, ils auraient un chemin difficile vers la victoire, a déclaré Senftleben.
“Le problème est que la basic imitation de design ne suffit normalement pas pour déposer une réclamation pour droit d’auteur, automobile les principles, les types, les idées, and many others. restent libres en vertu des règles du droit d’auteur”, a déclaré Senftleben. Par exemple, l’auteur de “Harry Potter”, JK Rowling, n’a pas le monopole des histoires sur un jeune garçon découvrant qu’il a des pouvoirs magiques, a-t-il ajouté.
Un cours juridique pour les artistes pourrait être un système de licence qui les rémunère lorsque leur art est utilisé pour enseigner l’IA, a déclaré Senftleben. Ou les pays pourraient prélever des bénéfices sur les œuvres générées par l’IA pour réinjecter de l’argent dans les poches des artistes, a-t-il ajouté. Mais cela pourrait prendre des années, voire une décennie, pour que ces lois entrent en vigueur, a-t-il déclaré.
Glaze vise à combler le vide jusqu’à ce que ces lois ou directives soient raffermies, a déclaré Zhao.
“Glaze n’a jamais été censé être une selected parfaite”, a-t-il déclaré. “Le but était de faire confront à cette menace pour les artistes, où soit vous perdez complètement vos revenus, soit vous sortez et savez que quelqu’un pourrait vous remplacer par un modèle.”
Pendant ce temps, Beverly a recommencé à publier son travail en ligne avec Glaze et est l’un des défenseurs de la plateforme. Elle avait complètement arrêté de dessiner d’août à octobre, croyant que sa carrière était terminée, mais elle crée et promeut maintenant approximativement 10 nouvelles pièces par mois.
“Je pense que s’il y a une voie éthique à suivre, nous devons absolument pousser pour cela. Je suis une artiste numérique. J’utilise tout le temps des programmes mis à jour dans mon travail. Je ne suis pas contre le progrès”, a-t-elle déclaré. “Mais je n’aime pas être exploité.”
L’équipe de presse de Security AI a refusé de commenter Glaze vehicle il s’agit d’un logiciel tiers non affilié, mais a déclaré qu’il implémentait des demandes de désactivation dans les nouvelles versions de son générateur d’art.
