Une petite ville du sud de l’Espagne a été secouée par la diffusion d’images de jeunes filles générées par l’IA dans plusieurs écoles. Les photographs, principalement tirées des comptes des réseaux sociaux des filles et les montrant entièrement habillées, ont été diffusées dans au moins quatre des cinq collèges d’Almendralejo, a rapporté El País. Les images ont été traitées par une software d’IA qui a créé de nouvelles fausses photographs montrant les filles nues, selon le rapport. Les deepfakes ont été réalisés à l’aide de Clothoff, une software basée sur l’IA qui permet aux utilisateurs de « Déshabiller une fille gratuitement », a rapporté Euronews. In addition de 20 filles âgées de 11 à 17 ans ont été identifiées comme victimes dans la ville, située dans la région d’Estrémadure, à l’ouest de l’Espagne. L’histoire a été révélée après que Miriam Al Adib, médecin et mère de l’une des filles concernées, ait utilisé son profil important sur les réseaux sociaux pour attirer l’attention sur l’incident. Elle a déclaré dans une vidéo sur Instagram : « Quand je suis arrivée à la maison, une de mes filles a dit avec un immense dégoût ‘regarde ce qu’elles m’ont fait’. Ils avaient pris une photograph d’elle et avaient donné l’impression qu’elle était nue.. Ils lui ont fait ça, ainsi qu’à des dizaines d’autres filles. Une autre fille a dit à sa mère : « Elles l’ont fait avec une application d’intelligence artificielle. J’ai peur. Certaines filles l’ont également reçue », rapporte El País. Il est vite devenu évident que des dizaines de filles avaient été touchées et les dad and mom ont créé un groupe WhatsApp pour apporter leur soutien aux victimes. María Blanco Rayo, la mère d’une jeune fille de 14 ans, a déclaré à BBC Information que les illustrations or photos avaient un impact significatif sur certaines des filles. Certains « ne quittent même pas leur maison », dit-elle. Dans la légende de sa publication Instagram, Al Adib a écrit que les choses « n’allaient pas rester comme ça. Nous sommes tous ici pour arrêter cela maintenant ». Au moins 10 personnes ont été identifiées comme suspects dans cette affaire, la police affirmant que certaines étaient âgées de 13 ans ou moins. Les enfants de moins de 14 ans ne peuvent pas faire l’objet de poursuites pénales en Espagne. La law enforcement nationale espagnole, la Policía Naciónal, continue on d’enquêter sur cette affaire.
