Une software commercialisée auprès des “femmes” a fait deal with à un déluge de critiques en ligne pour avoir exclu les femmes transgenres avec son utilisation de l’intelligence artificielle.
Giggle, qui a été lancé pour la première fois au début de 2020, selon The Verge, utilise la reconnaissance faciale pour déterminer si les nouveaux utilisateurs sont des hommes ou des femmes.
“La façon dont l’application fonctionne est que lorsque vous l’installez, vous devez prendre une image de vous-même et elle utilise l’IA pour analyser votre visage”, a déclaré Jenny, une femme trans de 23 ans originaire de Californie. “Et s’il décide que vous êtes une femme, il vous laissera entrer. S’il décide que vous êtes un homme, il vous rejettera. Mais s’il vous rejette, vous pouvez simplement soumettre une autre photo.”
Le fondateur et PDG de Giggle, Sall Grover, a vivement repoussé les critiques en ligne, notamment en affirmant que l’application utilise une technologie qui n’a pas réussi à identifier correctement les femmes de couleur, tout en adoptant publiquement une idéologie considérée comme préjudiciable aux personnes trans.
Selon le web-site Net de Giggle, l’application envoie le selfie d’un nouvel utilisateur à la société d’IA de reconnaissance faciale Kairos, qui analyse la photo.
Grover a déclaré dans un tweet de décembre à la suite de la controverse que l’application serait temporairement supprimée de l’App Retailer de Google après que l’entreprise ait été ciblée par des critiques négatives de personnes qu’elle a décrites dans un tweet comme “hommes” et “trolls”.
Les personnes trans ont tiré la sonnette d’alarme à propos de Giggle sur les réseaux sociaux en décembre
Victoria Morris, une femme trans de 27 ans d’Orlando, en Floride, a déclaré qu’elle avait entendu parler de Giggle pour la première fois en parcourant les forums trans Reddit.
Morris, qui a déclaré avoir téléchargé l’application mais n’a jamais été en mesure de la faire fonctionner, a tweeté début décembre à propos de la multitude de critiques négatives que Giggle a reçues sur l’App Keep. Le tweet, qui a été partagé plus de 4 000 fois, présentait des critiques négatives affirmant que l’application recherchait des “characteristics du visage euro-centrés”, excluait les femmes noires et même les hommes cisgenres vérifiés.
/blockquote>
“Parfois, il a fallu quelques essais, mais cela finirait par marcher”, a-t-elle déclaré.
Elle a téléchargé à nouveau la plate-forme à la fin de l’année dernière lorsqu’elle a vu que les gens en discutaient sur les réseaux sociaux.
Mais une fois sur Giggle, Jenny a déclaré avoir vu des messages dans la section de dialogue générale de personnes qui parlaient des personnes trans de “manières désobligeantes”.
/blockquote>
Après que Jenny ait tweeté à propos de rejoindre Giggle le 9 décembre, un autre utilisateur de Twitter a tagué Grover dans le tweet, affirmant que Jenny “transgressait les limites des femmes” en utilisant l’application. En réponse, Grover a répondu “Trié” avec un emoji en forme de cœur.
Peu de temps après, Jenny a déclaré que son application Giggle avait cessé de fonctionner. Elle a dit qu’elle n’avait reçu aucune notification officielle de la fermeture de son compte au-delà du tweet du PDG de Giggle.
L’intelligence artificielle, comme celle utilisée par Giggle, a une histoire de problèmes liés à la race
Giggle a également été critiqué pour ne pas avoir reconnu les visages qui ne semblent pas blancs.
Fieseler, professeur à l’Université du Colorado à Boulder, a déclaré que la recherche a montré que le kind d’analyse faciale utilisé par Giggle a conduit à des cas de racisme, auto la technologie fonctionne souvent mieux sur les peaux furthermore claires.
“Cela fonctionne mieux pour les hommes blancs et pire pour les femmes noires et de additionally en additionally la peau de la femme moreover foncée est en termes de classification correcte du sexe. C’est juste quelque chose que nous savons”, a-t-elle déclaré.
En 2019, Joy Buolamwini, chercheuse au M.I.T. Media Lab, dans une étude, a révélé que la technologie de Kairos confondait les femmes à la peau foncée 22,5% du temps, selon un rapport du New York Moments. Melissa Doval, alors PDG de Kairos, a déclaré au Moments qu’elle avait apporté des modifications à son algorithme suite à la recherche pour améliorer sa précision.
Morris a déclaré que Giggle “semblait nuire à la fois aux femmes trans et aussi à beaucoup de femmes de couleur ou qui n’ont pas les fonctionnalités eurocentriques pour lesquelles l’application est vraiment conçue”.
il y aura des erreurs et il y aura probablement des erreurs systématiques autour de la program en particulier.”
“Les femmes de toutes les races ne sont pas seulement les bienvenues sur Giggle, les femmes de toutes les races sont sur Giggle”, a déclaré Grover.
Les femmes trans étaient initialement autorisées sur Giggle mais ont ensuite été interdites par Grover
Grover, qui vit en Australie, a déclaré qu’elle et sa mère avaient eu l’idée de créer Giggle après avoir partagé “de nombreux verres de rose”.
“Nous voulions un endroit où les femmes pourraient aller s’entraider”, a-t-elle déclaré dans un e-mail. “Un espace féminin, dans la paume de leur primary. Où les femmes pourraient trouver un soutien, une connexion et un refuge parmi d’autres femmes, peu importe où elles se trouvaient ou ce qu’elles faisaient.”
Grover a refusé de dire combien d’employés travaillent chez Giggle, mais elle a déclaré qu'”une équipe de femmes” travaille sur le processus d’intégration de l’application.
Dans les supports promoting actuels sur ses canaux de médias sociaux et sur son internet site World-wide-web, Giggle prétend être un espace pour les “femmes” plutôt qu’un espace pour les “femmes”. C’est intentionnel, a déclaré Grover, ajoutant que “le mot” femme “a été si lourdement approprié” qu’une “clarification semble nécessaire”.
Grover a déclaré qu’elle avait décidé d’exclure les femmes trans de Giggle après que certaines femmes trans aient publié des menaces contre les TERF sur l’application.
“Il y a eu une tentative orchestrée – bien qu’échouée – pour faire retirer Giggle de l’App Keep et de Google Perform. Il y a eu une certaine interest médiatique, qui m’a tous traité de TERF et Giggle, Transphobe”, a-t-elle déclaré.
Par la suite, elle a déclaré avoir fait des recherches sur les communautés trans et “féministes radicales” et décidé que les femmes trans devraient être exclues de son application.
L’idéologie TERF est nocive pour les personnes trans, disent les défenseurs
Comme l’a rapporté Vox, le terme TERF, qui désigne les personnes qui excluent les femmes trans de leur féminisme, est né dans les années 1970, mais a gagné du terrain en ligne à partir du début des années 2000.
De nombreuses femmes qui exposent une telle idéologie l’ont rejetée, affirmant que le terme est une insulte, adoptant à la place le surnom de féministes «critiques en matière de genre», contrairement à Grover.
“Ce sont des mots qui sont lancés quotidiennement aux femmes qui défendent nos propres droits basés sur le sexe durement acquis”, a déclaré Grover. « Qu’est-ce que je suis censé faire ? Me recroqueviller et renoncer à mes droits ?
Presque tous les messages de Grover sur Twitter mentionnent les personnes trans ou le sexe biologique. Dans un tweet du 31 décembre, elle a écrit: “Je préfère être stridente et bien informée que d’être si arrogante ignorante de quelque selected d’aussi simple que le binaire immuable du sexe biologique.”
Dans un tweet du 6 janvier, elle a pris la défense de l’auteur de “Harry Potter”, J.K. Rowling, qui a également été qualifiée de TERF pour ses views sur les personnes trans.
Morris, qui a tweeté à propos de Giggle en décembre, a déclaré qu’elle n’avait jamais eu d’interaction avec Grover, mais a déclaré que Grover avait partagé un tweet qui la traitait de “mendiante” après avoir publié un lien vers une collecte de fonds pour une chirurgie d’affirmation de style.
Dans au moins une autre publication sur les réseaux sociaux, cependant, Grover a semblé informer les utilisateurs trans by using Twitter qu’ils avaient été démarrés à partir de Giggle, comme elle l’avait fait avec Jenny.
“Votre compte a été supprimé. Merci de nous avoir facilité la tâche”, a déclaré Grover dans un tweet du 9 décembre après que deux femmes trans ont déclaré qu’elles avaient été autorisées sur Giggle.
Jenny a déclaré que Grover avait partagé le 10 décembre un collage de tweets de Jenny et de ses amis. Jenny a déclaré qu’elle considérait cela comme une “moquerie” d’eux pour avoir appelé l’application Giggle pour avoir tenté, et échoué, d’exclure les femmes trans.
Dans le tweet du 10 décembre, Grover a écrit : “Ce n’est tout simplement pas sain d’être aussi en colère contre les espaces féminins”.