Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 2637

Incidentes Asociados

Incidente 4693 Reportes
Automated Adult Content Detection Tools Showed Bias against Women Bodies

Loading...
Un algoritmo de Google parece pensar que marcas como Boohoo y Missguided son bastante "racy"
graziadaily.co.uk · 2019

Una investigación sobre la [ropa] (https://graziadaily.co.uk/celebrity/news/women-dont-dress-for-men/) más atrevida de diferentes marcas de moda ha puesto de relieve el hecho de que Google utiliza software para calificar imágenes como parte de una herramienta de 'búsqueda segura' y puntúa la ropa según lo 'escasa o pura' que sea.

La herramienta de búsqueda segura de Google detecta imágenes para adultos, falsas, médicas, violentas y "subidas de tono" para evitar que los niños usuarios vean contenido explícito, o que los adultos vean contenido explícito mientras están en el trabajo. Si bien la herramienta de búsqueda es en gran parte responsable, la forma en que el software determina las imágenes 'subidas de tono' es aparentemente bastante problemática.

La BBC inició una investigación sobre cuán modesta es la ropa de las marcas de moda de la calle en comparación con [la moda rápida](https://graziadaily. co.uk/fashion/news/can-call-feminist-buy-fast-fashion/), descubriendo que [las marcas de moda rápida](https://graziadaily.co.uk/fashion/news/fast-fashion-sustainability -environmental-impact-2/), como Missguided, Pretty Little Thing, I Saw It First, Boohoo y Nasty Gal, tienen el doble de imágenes 'subidas de tono' en sus sitios web que las marcas comerciales.

De acuerdo con el software de Google, el 8% de las imágenes de modelos de mujeres en los sitios web de la calle principal eran 'subidas de tono', en comparación con el 16% de los sitios de moda rápida. De las empresas analizadas (incluidas marcas importantes como Topshop, River Island, New Look y Urban Outfitters), siete tenían sitios para hombres en los que solo el 2% de las imágenes se clasificaron como 'subidas de tono'.

"Nuestro sitio web refleja lo que atrae a las mujeres jóvenes que aman comprarnos: atrevidas, empoderadas, sin miedo a lo que piensen los demás", dijo a la BBC un representante de Missguided. "Ejecutamos nuestro sitio web para ellos, no un algoritmo de inteligencia artificial".

El software no solo identifica el atrevimiento por la ropa, sino también por la forma en que posan las modelos. Por lo tanto, si se considera que una modelo posa de forma "seductora", la imagen recibirá una puntuación de picante más alta. Naturalmente, los trajes de baño o la ropa interior en un sitio también afectan la puntuación general.

Aparentemente, el software de Google equipara claramente la desnudez con el sexo. A pesar de que las mujeres usan menos ropa en muchos contextos no sexuales (ya sabes, bañarse, nadar, ir al médico), este algoritmo parece ver la desnudez solo en un sentido sexual.

En última instancia, aparte de que esta investigación demostró ser completamente reductiva, ¿realmente necesitábamos datos sobre cómo la moda rápida marca vender más ropa transparente?! – también prueba que Google necesita actualizar su software para incorporar el programa. Juego de palabras intencionado.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd