L’application tendance Lensa – actuellement la meilleure software photo dans les magasins Apple et Google Play – génère des modifications artistiques basées sur des pics de référence téléchargées par l’utilisateur, mais sa technologie d’apprentissage automatique semble créer des nus involontaires de ses utilisateurs.
“D’accord, j’ai mis mes 20 photographs les furthermore chaudes dans lensa au lieu des 20 premiers selfies que j’ai pu trouver et il est revenu avec un tas de nus générés par IA”, a écrit un utilisateur sur Twitter. “Pour être clair, AUCUNE des pics que j’ai soumises n’incluait de nudité, ce que l’application interdit spécifiquement ! ”
Ce sentiment a été repris par des dizaines d’autres, pour la plupart des femmes, affirmant que l’application avait automatiquement généré des images d’elles sexualisées ou carrément nues, bien qu’elles aient évité les photographs de référence non sûres pour le travail dans leurs téléchargements.
Alors que le PDG et co-fondateur de la société mère de Lensa, Prisma Lab, Andrey Usoltsev, a déclaré à TechCrunch que de telles illustrations or photos “ne peuvent pas être produites accidentellement” par l’application, il a déclaré qu’il pourrait être provoqué de créer des photographs nues par “faute intentionnelle”, comme le téléchargement de nus contre les disorders d’utilisation (qui interdisent le téléchargement de contenu “obscène, pornographique, indécent, obscène, suggestif” ou autrement sexualisé).
Bien qu’il ne soit pas clair à quelle fréquence l’application génère des illustrations or photos nues sans y être invité, plusieurs utilisateurs signalent que c’était le cas pour eux.
“Ce qui est étrange, c’est que je n’ai pas soumis de nus vehicle cela irait à l’encontre de la politique de cette application Lensa, mais cela a fini par générer des nus de toute façon ???” un autre utilisateur posté sur Twitter.
Certains utilisateurs sont particulièrement préoccupés par la problem de savoir si l’application a accédé d’une manière ou d’une autre à des photographs de la mémoire interne qui n’ont pas été téléchargées et si la politique de confidentialité de l’application autorise l’utilisation des données générées par l’application par des sociétés tierces telles que Google Cloud Platform et Amazon Internet Providers..
et je suis inquiète. Je m’inquiète de savoir si l’application a accédé à d’autres images sur mon téléphone et des droits sur cette image.”
Usoltsev a déclaré à TechCrunch que la technologie utilisée pour générer les retouches photo apprend au fur et à mesure et – bien qu’elle ait certaines pratiques de modération de contenu – peut toujours être déjouée par les utilisateurs ou agir de manière imprévisible, ce qui entraîne la sortie de retouches nues.
“Nous précisons que le produit n’est pas destiné aux mineurs et avertissons les utilisateurs du contenu potentiel. Nous nous abstenons également d’utiliser de telles pictures dans nos supports promotionnels”, a déclaré Usoltsev à TechCrunch. “Pour améliorer le travail de Lensa, nous sommes en teach de construire le filtre NSFW. Il brouillera efficacement toutes les illustrations or photos détectées comme telles. Il restera à la seule discrétion de l’utilisateur s’il souhaite ouvrir ou enregistrer de telles photos.”