Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 1538

Incidentes Asociados

Incidente 1662 Reportes
Networking Platform Giggle Employs AI to Determine Users’ Gender, Allegedly Excluding Transgender Women

Loading...
Esta aplicación solo para niñas usa inteligencia artificial para evaluar el género de un usuario. ¿Qué podría salir mal?
theverge.com · 2020

Una nueva aplicación social llamada Giggle se presenta como una plataforma de redes solo para chicas. Para registrarse, los usuarios deben tomar una selfie. Y si bien eso puede no parecer demasiado invasivo, la aplicación utiliza un "software de verificación biométrica de género" para determinar si esa persona es una mujer. Si eso no fuera suficientemente malo, la tecnología no funciona si eres trans.

"[G]iggle es para todas las chicas", señala la compañía en su sitio web, antes de agregar: "Debido al software de verificación de género que usa giggle, las chicas trans tendrán problemas para ser verificadas". Es el material de una novela distópica.

Giggle, fundada por el guionista australiano Sall Grover, supuestamente observa la estructura ósea del rostro de una persona para determinar su género. Eso es problemático en varios frentes, uno de los cuales es que la estructura ósea es claramente un indicador deficiente de la identidad de género. Sin embargo, Giggle dice que la ciencia es sólida. “Es biociencia, no pseudociencia como la frenología”, declara el sitio web.

Excepto que suena mucho a pseudociencia. En Twitter, la gente llamó la transfobia inherente de la aplicación. “Esperaremos nuestro juicio como ovejas”, escribió un usuario. “Todo lo que se necesita es una selfie: si la risa nos deja entrar, somos bienvenidas a la sociedad de mujeres, para pasar para siempre. Si no, seremos abandonados en un montón de despojos y excrementos”.

Finalmente, se ha preparado la prueba definitiva para las chicas trans. Esperaremos nuestro juicio como ovejas. Todo lo que se necesita es una selfie: si la risa nos deja entrar, somos bienvenidas a la sociedad de las mujeres, para pasar para siempre. Si no, seremos abandonados en un montón de despojos y excrementos pic.twitter.com/lZnw8AzZF0 — venmodiazepines (@transbitch) 7 de febrero de 2020

Grover respondió a las críticas, tuiteando que había consultado a mujeres trans mientras creaba la aplicación y determinó que era mejor admitir abiertamente los límites del software. “Trabajamos con chicas trans que decidieron que era mejor ser sinceras con un defecto para que no hubiera ningún error de género hiriente”, explicó. Más tarde, dijo que estaba "agradecida por los comentarios" y estuvo de acuerdo en que algunas de las palabras en el sitio web eran "horribles".

Sin embargo, la política de privacidad de la aplicación también es motivo de preocupación. Como señaló un usuario de Twitter, Giggle puede recopilar una tonelada de información personal, incluidas las imágenes, la ubicación, las preferencias y los datos de navegación de las personas. Giggle luego puede compartir esa información con sitios web y servicios de terceros, incluidos proveedores de reconocimiento facial, proveedores de salas de chat y comercializadores. También recopila información confidencial, incluidas las "prácticas sexuales o la vida sexual" de las personas, sus antecedentes penales y su información de salud privada.

Más banderas rojas. Aquí está su política de privacidad donde dice directamente que están recopilando y se reservan el derecho de distribuir imágenes de niñas. pic.twitter.com/PWGhpen8eq — Nell (@drachedoutofshape) 6 de febrero de 2020

No está claro por qué Giggle necesitaría acceso a datos tan granulares, dado que su objetivo es principalmente conectar a las mujeres con posibles compañeras de cuarto o de viaje. Pero en una era de vigilancia en constante expansión, con compañías como Clearview AI que identifican los rostros de las personas sin su conocimiento o consentimiento, una aplicación basada en una detección biométrica dudosa y una recopilación extensa de datos debería ser motivo de preocupación. Si bien el sitio web de Giggle dice que la aplicación está “diseñada para brindar a las niñas opciones, control y conexión”, su tecnología parece hacer exactamente lo contrario.

Giggle no respondió de inmediato a una solicitud de comentarios.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd