Le conseil de surveillance de Meta a annoncé mardi qu’il enquêterait sur les politiques de l’entreprise concernant les deepfakes explicites de femmes par l’IA.
Le conseil d’administration du géant de la technologie a déclaré qu’il étudiait deux cas spécifiques, l’un sur Instagram et l’autre sur Facebook.
L’un des cas concerne une impression générée par l’IA ressemblant à une personnalité publique américaine nue avec un homme la pelotant. Le personnage a été nommé dans la légende et publié dans un groupe Facebook pour les créations d’IA.
Le conseil de surveillance de Meta n’a pas précisé quelle personnalité publique féminine avait été utilisée dans le deepfake de l’IA.
Le conseil de surveillance a déclaré qu’un autre utilisateur avait déjà publié le nu généré par l’IA avant qu’il ne soit partagé dans le groupe Facebook. La image explicite a été supprimée pour violation de la politique en matière d’intimidation et de harcèlement relative aux « photoshops ou dessins sexualisés désobligeants ».
L’utilisateur qui a publié la photograph a fait appel de la suppression, ce qui a été rejeté par le système automatisé.
L’utilisateur a alors fait appel à la Commission.
Les deepfakes pornographiques de Taylor Swift sur X ont fait feeling sur World-wide-web en janvier. De nombreuses visuals montraient la pop star se livrant à des actes sexuels dans des stades de football.
Une publication mise en ligne par un utilisateur vérifié sur X, anciennement Twitter, a attiré furthermore de 45 tens of millions de vues avant d’être supprimée par les modérateurs approximativement 17 heures additionally tard.
L’autre enquête concerne une impression générée par l’IA d’une femme nue qui ressemble à une personnalité publique indienne. Le contenu a été publié sur un compte Instagram qui partage uniquement des photographs de femmes indiennes générées par l’IA.
Dans ce cas, Meta n’a pas réussi à supprimer le contenu après qu’il ait été signalé deux fois. L’utilisateur a fait appel auprès du Conseil et Meta a estimé que sa décision de conserver le contenu était une erreur. Il a ensuite supprimé le information pour violation de la norme communautaire sur l’intimidation et le harcèlement.
Le Conseil a déclaré avoir sélectionné ces cas pour voir si Meta traitait efficacement les visuals explicites générées par l’IA.
Des hommes politiques, des personnalités publiques et des cooks d’entreprise se sont prononcés sur les deepfakes et les risques qu’ils posent.
La secrétaire de presse de la Maison Blanche, Karine Jean-Pierre, a précédemment déclaré que l’software laxiste des deepfakes avait un effect disproportionné sur les femmes ainsi que sur les filles « qui sont les cibles écrasantes ».
Jean-Pierre a également déclaré que même si la législation devrait jouer un rôle dans la résolution de ce problème, les plateformes de médias sociaux devraient elles-mêmes interdire les contenus nuisibles à l’IA.
Le PDG de Microsoft, Satya Nadella, a qualifié les deepfakes nus de Taylor Swift d' »alarmants et terribles » et a appelé à as well as de security contre ces photographs.
Déjà, des appels générés par l’IA falsifiant des messages du président Joe Biden ont été signalés lors des primaires.
Le conseil de surveillance de Meta souhaite que le general public ait son mot à dire sur les deux cas. Il a demandé des commentaires suggérant des stratégies sur la façon de résoudre ce problème et des commentaires sur sa gravité.
Le conseil de surveillance délibérera sur les décisions au cours des prochaines semaines avant de publier les résultats, a-t-il indiqué dans le communiqué. Bien que les recommandations du conseil d’administration ne soient pas contraignantes, Meta doit y répondre dans un délai de 60 jours.
