Incidents associés
Une application commercialisée auprès des "femmes" a fait face à un déluge de critiques en ligne pour avoir exclu les femmes transgenres avec son utilisation de l'intelligence artificielle.
Giggle, qui a été lancé pour la première fois au début de 2020, selon The Verge, utilise la reconnaissance faciale pour déterminer si les nouveaux utilisateurs sont des hommes ou des femmes.
"La façon dont l'application fonctionne est que lorsque vous l'installez, vous devez prendre une photo de vous-même et elle utilise l'IA pour analyser votre visage", a déclaré Jenny, une femme trans de 23 ans originaire de Californie. "Et s'il décide que vous êtes une femme, il vous laissera entrer. S'il décide que vous êtes un homme, il vous rejettera. Mais s'il vous rejette, vous pouvez simplement soumettre une autre photo."
Le fondateur et PDG de Giggle, Sall Grover, a vivement repoussé les critiques en ligne, notamment en affirmant que l'application utilise une technologie qui n'a pas réussi à identifier correctement les femmes de couleur, tout en adoptant publiquement une idéologie considérée comme préjudiciable aux personnes trans.
"Cette combinaison particulière de catégorisation de genre, de reconnaissance faciale et de race est quelque chose dont nous savons absolument qu'il s'agit d'un problème", a déclaré à Insider Casey Fiesler, professeur à l'Université du Colorado à Boulder qui étudie l'éthique technologique.
Le problème, cependant, est allé au-delà des pratiques douteuses de la plate-forme en matière d'IA. Grover, qui a accepté d'être appelée "TERF" - féministe radicale trans-exclusive - a déclaré à Insider qu'elle avait décidé d'exclure les femmes trans de la plate-forme une fois que les militants trans ont commencé à l'utiliser.
Selon le site Web de Giggle, l'application envoie le selfie d'un nouvel utilisateur à la société d'IA de reconnaissance faciale Kairos, qui analyse la photo.
"Grâce à la vision par ordinateur et à l'apprentissage en profondeur, ils reconnaissent les femmes dans les vidéos, les photos et le monde réel", selon Giggle. Si Kairos AI est certain à 95 % que la personne est une femme, la personne est autorisée à créer un compte, dit Giggle. Kairos n'a pas renvoyé la demande de commentaire d'Insider.
Grover a déclaré dans un tweet de décembre à la suite de la controverse que l'application serait temporairement supprimée de l'App Store de Google après que l'entreprise ait été ciblée par des critiques négatives de personnes qu'elle a décrites dans un tweet comme "hommes" et "trolls".
L'application a été restaurée sur Google Play en janvier et est restée disponible sur l'App Store. Ni Apple ni Google n'ont renvoyé les demandes de commentaires d'Insider pour savoir si l'application avait enfreint des politiques.
Les personnes trans ont tiré la sonnette d'alarme à propos de Giggle sur les réseaux sociaux en décembre
Victoria Morris, une femme trans de 27 ans d'Orlando, en Floride, a déclaré qu'elle avait entendu parler de Giggle pour la première fois en parcourant les forums trans Reddit.
Morris, qui a déclaré avoir téléchargé l'application mais n'a jamais été en mesure de la faire fonctionner, a tweeté début décembre à propos de la multitude de critiques négatives que Giggle a reçues sur l'App Store. Le tweet, qui a été partagé plus de 4 000 fois, présentait des critiques négatives affirmant que l'application recherchait des "traits du visage euro-centrés", excluait les femmes noires et même les hommes cisgenres vérifiés.
—Victoria 🎀 (@EuphoriTori) 11 décembre 2021
Jenny, qui a demandé que son nom de famille ne soit pas divulgué pour des raisons de sécurité, a déclaré à Insider "qu'il était assez facile de passer outre le filtre" lorsqu'elle et ses amis ont essayé pour la première fois d'installer Giggle il y a environ deux ans.
"Parfois, il a fallu quelques essais, mais cela finirait par marcher", a-t-elle déclaré.
Elle a téléchargé à nouveau la plate-forme à la fin de l'année dernière lorsqu'elle a vu que les gens en discutaient sur les réseaux sociaux.
Mais une fois sur Giggle, Jenny a déclaré avoir vu des messages dans la section de discussion générale de personnes qui parlaient des personnes trans de "manières désobligeantes".
—jenny_tightpants_ (@halomancer1) 9 décembre 2021
Après que Jenny ait tweeté à propos de rejoindre Giggle le 9 décembre, un autre utilisateur de Twitter a tagué Grover dans le tweet, affirmant que Jenny "transgressait les limites des femmes" en utilisant l'application. En réponse, Grover a répondu "Trié" avec un emoji en forme de cœur.
Peu de temps après, Jenny a déclaré que son application Giggle avait cessé de fonctionner. Elle a dit qu'elle n'avait reçu aucune notification officielle de la fermeture de son compte au-delà du tweet du PDG de Giggle.
L'intelligence artificielle, comme celle utilisée par Giggle, a une histoire de problèmes liés à la race
Giggle a également été critiqué pour ne pas avoir reconnu les visages qui ne semblent pas blancs.
Fieseler, professeur à l'Université du Colorado à Boulder, a déclaré que la recherche a montré que le type d'analyse faciale utilisé par Giggle a conduit à des cas de racisme, car la technologie fonctionne souvent mieux sur les peaux plus claires.
"Cela fonctionne mieux pour les hommes blancs et pire pour les femmes noires et de plus en plus la peau de la femme plus foncée est en termes de classification correcte du sexe. C'est juste quelque chose que nous savons", a-t-elle déclaré.
En 2019, Joy Buolamwini, chercheuse au M.I.T. Media Lab, dans une étude, a révélé que la technologie de Kairos confondait les femmes à la peau foncée 22,5% du temps, selon un rapport du New York Times. Melissa Doval, alors PDG de Kairos, a déclaré au Times qu'elle avait apporté des modifications à son algorithme suite à la recherche pour améliorer sa précision.
Morris a déclaré que Giggle "semblait nuire à la fois aux femmes trans et aussi à beaucoup de femmes de couleur ou qui n'ont pas les fonctionnalités eurocentriques pour lesquelles l'application est vraiment conçue".
"Nous savons juste que ces systèmes sont imparfaits", a déclaré Fieseler. "Donc, si vous les utilisez pour le contrôle d'accès, il y aura des erreurs et il y aura probablement des erreurs systématiques autour de la course en particulier."
Grover a nié que l'IA de la plateforme empêchait les femmes de couleur de l'utiliser. Si Giggle rejette quelqu'un à tort, un utilisateur potentiel doit contacter l'entreprise pour que le problème soit résolu, a déclaré Grover à Insider dans un e-mail.
"Les femmes de toutes les races ne sont pas seulement les bienvenues sur Giggle, les femmes de toutes les races sont sur Giggle", a déclaré Grover.
Les femmes trans étaient initialement autorisées sur Giggle mais ont ensuite été interdites par Grover
Grover, qui vit en Australie, a déclaré qu'elle et sa mère avaient eu l'idée de créer Giggle après avoir partagé "de nombreux verres de rose".
"Nous voulions un endroit où les femmes pourraient aller s'entraider", a-t-elle déclaré dans un e-mail. "Un espace féminin, dans la paume de leur main. Où les femmes pourraient trouver un soutien, une connexion et un refuge parmi d'autres femmes, peu importe où elles se trouvaient ou ce qu'elles faisaient."
Grover a refusé de dire combien d'employés travaillent chez Giggle, mais elle a déclaré qu'"une équipe de femmes" travaille sur le processus d'intégration de l'application.
Dans les supports marketing actuels sur ses canaux de médias sociaux et sur son site Web, Giggle prétend être un espace pour les "femmes" plutôt qu'un espace pour les "femmes". C'est intentionnel, a déclaré Grover, ajoutant que "le mot" femme "a été si lourdement approprié" qu'une "clarification semble nécessaire".
Grover a déclaré qu'elle avait décidé d'exclure les femmes trans de Giggle après que certaines femmes trans aient publié des menaces contre les TERF sur l'application.
"Il y a eu une tentative orchestrée - bien qu'échouée - pour faire retirer Giggle de l'App Store et de Google Play. Il y a eu une certaine attention médiatique, qui m'a tous traité de TERF et Giggle, Transphobe", a-t-elle déclaré.
Par la suite, elle a déclaré avoir fait des recherches sur les communautés trans et "féministes radicales" et décidé que les femmes trans devraient être exclues de son application.
L'idéologie TERF est nocive pour les personnes trans, disent les défenseurs
Comme l'a rapporté Vox, le terme TERF, qui désigne les personnes qui excluent les femmes trans de leur féminisme, est né dans les années 1970, mais a gagné du terrain en ligne à partir du début des années 2000.
De nombreuses femmes qui exposent une telle idéologie l'ont rejetée, affirmant que le terme est une insulte, adoptant à la place le surnom de féministes «critiques en matière de genre», contrairement à Grover.
"Ce sont des mots qui sont lancés quotidiennement aux femmes qui défendent nos propres droits basés sur le sexe durement acquis", a déclaré Grover. « Qu'est-ce que je suis censé faire ? Me recroqueviller et renoncer à mes droits ?
Les défenseurs de la communauté trans affirment qu'une telle idéologie TERF crée des dommages réels pour les personnes trans. En plus de plaider pour l'exclusion des femmes trans des espaces réservés aux femmes, les TERF ont également historiquement plaidé contre l'accès à des soins affirmant le genre pour les personnes trans, comme l'a rapporté Canela López d'Insider.
Presque tous les messages de Grover sur Twitter mentionnent les personnes trans ou le sexe biologique. Dans un tweet du 31 décembre, elle a écrit: "Je préfère être stridente et bien informée que d'être si arrogante ignorante de quelque chose d'aussi simple que le binaire immuable du sexe biologique."
Dans un tweet du 6 janvier, elle a pris la défense de l'auteur de "Harry Potter", J.K. Rowling, qui a également été qualifiée de TERF pour ses opinions sur les personnes trans.
Morris, qui a tweeté à propos de Giggle en décembre, a déclaré qu'elle n'avait jamais eu d'interaction avec Grover, mais a déclaré que Grover avait partagé un tweet qui la traitait de "mendiante" après avoir publié un lien vers une collecte de fonds pour une chirurgie d'affirmation de genre.
Dans au moins une autre publication sur les réseaux sociaux, cependant, Grover a semblé informer les utilisateurs trans via Twitter qu'ils avaient été démarrés à partir de Giggle, comme elle l'avait fait avec Jenny.
"Votre compte a été supprimé. Merci de nous avoir facilité la tâche", a déclaré Grover dans un tweet du 9 décembre après que deux femmes trans ont déclaré qu'elles avaient été autorisées sur Giggle.
Jenny a déclaré que Grover avait partagé le 10 décembre un collage de tweets de Jenny et de ses amis. Jenny a déclaré qu'elle considérait cela comme une "moquerie" d'eux pour avoir appelé l'application Giggle pour avoir tenté, et échoué, d'exclure les femmes trans.
Dans le tweet du 10 décembre, Grover a écrit : "Ce n'est tout simplement pas sain d'être aussi en colère contre les espaces féminins".