Le générateur d'visuals IA de Meta a été accusé de préjugés raciaux après que les utilisateurs ont découvert qu'il était incapable de créer une image d'un homme asiatique avec une femme blanche.
#39outil de produire une picture d'un homme asiatique avec une femme blanche, seules des photographs de couples asiatiques ont été affichées.
Méta Imagine
Le parti pris clear de l'IA est surprenant étant donné que Mark Zuckerberg, PDG de Meta, est marié à une femme d'origine est-asiatique.
Priscilla Chan, la fille d'immigrés chinois en Amérique, a rencontré Zuckerberg alors qu'elle étudiait à Harvard. Le couple s'est marié en 2012.
Certains utilisateurs ont utilisé X pour partager des photos de Zuckerberg et Chan, en plaisantant en disant qu'ils avaient réussi à créer les pictures à l'aide d'Imagine.
Le journal The Verge a évoqué le problème pour la première fois mercredi, lorsque la journaliste Mia Sato a affirmé avoir tenté « des dizaines de fois » de créer des pictures d'hommes et de femmes asiatiques avec des partenaires et amis blancs.
Sato a déclaré que le générateur d'photographs n'était able de renvoyer qu'une seule graphic précise des programs spécifiées dans ses invites.
Meta n'a pas immédiatement répondu à une demande de commentaire de BI, formulée en dehors des heures normales de travail.
Meta n’est en aucun cas la première grande entreprise technologique à être critiquée pour son IA « raciste ».
En février, Google a été contraint de suspendre son générateur d'pictures Gemini après que les utilisateurs ont découvert qu'il créait des illustrations or photos historiquement inexactes.
Les utilisateurs ont découvert que le générateur d'photographs produirait des visuals de nazis asiatiques dans l'Allemagne de 1940, de Vikings noirs ou même de femmes chevaliers médiévaux.
L’entreprise technologique a été accusée d’être trop « réveillée » en conséquence.
À l'époque, Google avait déclaré : « La génération d'illustrations or photos IA de Gemini génère effectivement un significant éventail de personnes. Et c'est généralement une bonne selected parce que des gens du monde entier l'utilisent. Mais ici, elle manque la cible. »
Mais les préjugés raciaux d’IA sont depuis longtemps une supply d’inquiétude.
#39on appelle « IA » sont si largement utilisés, il peut être difficile de reconnaître que ces prédictions sont souvent basé sur rien de additionally qu'une régurgitation rapide d'viewpoints, de stéréotypes ou de mensonges issus du crowdsourcing.
« Les prédictions algorithmiques excluent, stéréotypent et ciblent injustement des individus et des communautés sur la base de données extraites, par exemple, de Reddit », a-t-elle déclaré.
Les IA génératives comme Gemini et Picture sont formées sur des quantités massives de données provenant de la société dans son ensemble.
S’il y a moins d’images de couples métis dans les données utilisées pour entraîner le modèle, c’est peut-être pour cela que l’IA a du mal à générer ce variety d’images.
