Incidentes Asociados
Una aplicación comercializada para "mujeres" se ha enfrentado a un aluvión de críticas en línea por excluir a las mujeres transgénero con su uso de inteligencia artificial.
Giggle, que se lanzó por primera vez a principios de 2020, según The Verge, utiliza el reconocimiento facial para determinar si los nuevos usuarios son hombres o mujeres.
"La forma en que funciona la aplicación es cuando la instalas, tienes que tomarte una foto y usa inteligencia artificial para analizar tu rostro", dijo Jenny, una mujer trans de 23 años de California. "Y si decide que eres mujer, te dejará entrar. Si decide que eres hombre, te rechazará. Pero si te rechaza, puedes enviar otra foto".
El fundador y director ejecutivo de Giggle, Sall Grover, ha rechazado descaradamente las críticas en línea, incluidas las afirmaciones de que la aplicación utiliza tecnología que no ha logrado identificar adecuadamente a las mujeres de color, mientras adopta públicamente una ideología que se considera dañina para las personas trans.
"Esta combinación particular de categorización de género y reconocimiento facial y raza es algo que sabemos absolutamente que es un problema", dijo a Insider Casey Fiesler, profesor de la Universidad de Colorado Boulder que estudia ética tecnológica.
Sin embargo, el problema ha ido más allá de las cuestionables prácticas de IA de la plataforma. Grover, que ha aceptado que la llamen "TERF" (feminista radical transexclusiva), le dijo a Insider que decidió excluir a las mujeres trans de la plataforma una vez que los activistas trans comenzaron a usarla.
Según el sitio web de Giggle, la aplicación envía la selfie de un nuevo usuario a la empresa de IA de reconocimiento facial Kairos, que analiza la foto.
"A través de la visión por computadora y el aprendizaje profundo, reconocen a las mujeres en videos, fotos y el mundo real", según Giggle. Si Kairos AI está 95% seguro de que la persona es mujer, la persona puede crear una cuenta, dice Giggle. Kairos no respondió a la solicitud de comentarios de Insider.
Grover dijo en un tuit de diciembre a raíz de la controversia que la aplicación se eliminaría temporalmente de la tienda de aplicaciones de Google después de que la empresa recibiera críticas negativas de personas que describió en un tuit como "hombres" y "trolls".
La aplicación se restauró a Google Play en enero y sigue estando disponible en la App Store. Ni Apple ni Google devolvieron las solicitudes de Insider de comentarios sobre si la aplicación violó alguna política.
Las personas trans dieron la voz de alarma sobre Giggle en las redes sociales en diciembre
Victoria Morris, una mujer trans de 27 años de Orlando, Florida, dijo que escuchó hablar por primera vez de Giggle mientras navegaba en los foros trans de Reddit.
Morris, quien dijo que había descargado la aplicación pero nunca pudo hacer que funcionara, tuiteó a principios de diciembre sobre la gran cantidad de críticas negativas que recibió Giggle en la App Store. El tuit, que se compartió más de 4000 veces, mostró críticas negativas que afirmaban que la aplicación buscaba "rasgos faciales eurocéntricos", excluía a las mujeres negras e incluso verificaba a los hombres cisgénero.
—Victoria 🎀 (@EuphoriTori) 11 de diciembre de 2021
Jenny, quien solicitó que no se revelara su apellido por motivos de seguridad, le dijo a Insider que "fue bastante fácil pasar el filtro" cuando ella y sus amigos intentaron instalar Giggle por primera vez hace unos dos años.
"A veces tomaba algunos intentos, pero finalmente funcionaba", dijo.
Volvió a descargar la plataforma a finales del año pasado cuando vio que la gente hablaba de ella en las redes sociales.
Pero una vez que entró en Giggle, Jenny dijo que vio publicaciones en la sección de discusión general de personas que hablaban sobre las personas trans de "formas despectivas".
—jenny_tightpants_ (@halomancer1) 9 de diciembre de 2021
Después de que Jenny tuiteara sobre unirse a Giggle el 9 de diciembre, otro usuario de Twitter etiquetó a Grover en el tuit, alegando que Jenny estaba "transgrediendo los límites de las mujeres" al usar la aplicación. En respuesta, Grover respondió "Ordenado" con un emoji de corazón.
Poco después, Jenny dijo que su aplicación Giggle dejó de funcionar. Ella dijo que no recibió ningún aviso formal de que su cuenta había sido cancelada más allá del tweet del CEO de Giggle.
La inteligencia artificial, como la que usa Giggle, tiene un historial de problemas relacionados con la raza
Giggle también ha enfrentado críticas por no reconocer rostros que no parecen blancos.
Fieseler, profesor de la Universidad de Colorado en Boulder, dijo que la investigación ha demostrado que el tipo de análisis facial utilizado por Giggle ha dado lugar a casos de racismo porque la tecnología a menudo funciona mejor en tonos de piel más claros.
"Funciona mejor para los hombres blancos y peor para las mujeres negras y progresivamente peor para la piel de la mujer más oscura en términos de clasificar correctamente el género. Eso es algo que sabemos", dijo.
En 2019, Joy Buolamwini, investigadora del M.I.T. Media Lab, en un estudio encontró que la tecnología de Kairos confundió a las mujeres de piel más oscura el 22,5% de las veces, según un informe de The New York Times. Melissa Doval, la entonces directora ejecutiva de Kairos, le dijo al Times que había realizado cambios en su algoritmo luego de la investigación para mejorar su precisión.
Morris dijo que Giggle "parecía que estaba dañando tanto a las mujeres trans como a muchas mujeres de color o que no tienen las características eurocéntricas para las que la aplicación está realmente diseñada".
"Simplemente sabemos que estos sistemas son imperfectos", dijo Fieseler. "Entonces, si los está utilizando para el control de acceso, habrá errores y es probable que haya errores sistemáticos en torno a la raza en particular".
Grover negó que la IA de la plataforma impidiera que las mujeres de color la usaran. Si Giggle rechaza incorrectamente a alguien, un posible usuario debe comunicarse con la empresa para que solucionen el problema, dijo Grover a Insider en un correo electrónico.
"Las mujeres de todas las razas no solo son bienvenidas en Giggle, las mujeres de todas las razas son bienvenidas en Giggle", dijo Grover.
Inicialmente, las mujeres trans estaban permitidas en Giggle, pero luego Grover las prohibió.
Grover, que vive en Australia, dijo que ella y su madre tuvieron la idea de crear Giggle después de que compartieron "muchos vasos de rosa".
"Queríamos un lugar donde las mujeres pudieran ir a ayudarse mutuamente", dijo en un correo electrónico. "Un espacio femenino, en la palma de su mano. Donde las mujeres podían encontrar apoyo, conexión y refugio entre otras mujeres sin importar dónde estuvieran o lo que estuvieran haciendo".
Grover se negó a decir cuántos empleados trabajan en Giggle, pero dijo que "un equipo de mujeres" trabaja en el proceso de incorporación de la aplicación.
En los materiales de marketing actuales en sus canales de redes sociales y en su sitio web, Giggle afirma ser un espacio para "mujeres" en lugar de un espacio para "mujeres". Esto es intencional, dijo Grover, y agregó que "la palabra 'mujer' se ha apropiado tanto" que "se siente necesaria una aclaración".
Grover dijo que decidió excluir a las mujeres trans de Giggle después de que algunas mujeres trans publicaran amenazas contra los TERF en la aplicación.
"Hubo un intento orquestado, aunque fallido, de eliminar a Giggle de la App Store y Google Play. Hubo cierta atención de los medios, todos los cuales me llamaron TERF y Giggle, transfóbico", dijo.
A partir de entonces, dijo que investigó las comunidades trans y "feministas radicales" y decidió que las mujeres trans deberían ser excluidas de su aplicación.
La ideología TERF es dañina para las personas trans, dicen los defensores
Como informó Vox, el término TERF, que etiqueta a las personas que excluyen a las mujeres trans de su feminismo, se originó en la década de 1970, pero ganó fuerza en línea a principios de la década de 2000.
Muchas mujeres que exponen tal ideología la han rechazado, afirmando que el término es un insulto, y en su lugar adoptaron el apodo de feministas "críticas de género", a diferencia de Grover.
"Estas son palabras que se lanzan a las mujeres, a diario, que defienden nuestros propios derechos basados en el sexo ganados con tanto esfuerzo", dijo Grover. "¿Qué se supone que debo hacer? ¿Acobardarme y renunciar a mis propios derechos? No. Nunca va a suceder. Lo superas, sigues adelante y sigues adelante".
Los defensores de la comunidad trans dicen que tal ideología TERF crea daños en el mundo real para las personas trans. Además de abogar por la exclusión de las mujeres trans de los espacios de mujeres, los TERF también han abogado históricamente contra el acceso a la atención de afirmación de género para las personas trans, como informó Canela López de Insider.
Casi todas las publicaciones de Grover en Twitter mencionan personas trans o sexo biológico. En un tuit del 31 de diciembre, escribió: "Prefiero ser estridente y estar bien informada que ser tan arrogantemente ignorante sobre algo tan simple como el binario inmutable del sexo biológico".
En un tuit del 6 de enero, salió en defensa de la autora de "Harry Potter", J.K. Rowling, quien también ha sido etiquetada como TERF por sus puntos de vista sobre las personas trans.
Morris, quien tuiteó sobre Giggle en diciembre, dijo que nunca interactuó con Grover, pero dijo que Grover compartió un tuit que la llamó "mendiga" después de que publicó un enlace a una recaudación de fondos para una cirugía de afirmación de género.
Sin embargo, en al menos otra publicación en las redes sociales, Grover pareció informar a los usuarios trans a través de Twitter que habían sido expulsados de Giggle, al igual que ella con Jenny.
"Su cuenta ha sido eliminada. Gracias por hacer que sea muy fácil para nosotros hacerlo", dijo Grover en un tuit del 9 de diciembre después de que dos mujeres trans dijeran que se les había permitido usar Giggle.
Jenny dijo que Grover compartió el 10 de diciembre un collage de tuits de Jenny y sus amigos. Jenny dijo que vio esto como "burlarse" de ellos por llamar a la aplicación Giggle por intentar, y fallar, excluir a las mujeres trans.
En el tuit del 10 de diciembre, Grover escribió: "Simplemente no es saludable estar tan enojado por los espacios femeninos".