Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 2040

Incidentes Asociados

Incidente 3324 Reportes
Google Image Showed Racially Biased Results for “Professional” Hairstyles

Loading...
Por qué los resultados de búsqueda de Google para peinados no profesionales son seriamente inquietantes
allure.com · 2016

El tema de las elecciones de cabello de las mujeres en el lugar de trabajo ha sido durante mucho tiempo un tema tenso, y lo es infinitamente más para las mujeres de color que [abrazan la textura natural de su cabello] (http://www.allure.com/beauty-trends/blogs/ daily-beauty-reporter/2016/01/natural-hair-curls-transition.html). Es la tormenta perfecta de sexismo y racismo, y es lo peor. Si bien no es falso decir que hemos avanzado en lo que respecta a hacer que el cabello natural [se entienda mejor] (http://www.allure.com/hair-ideas/2016/best-amandla-stenberg-hairstyles) y celebrado a nivel general, todavía hay un camino deprimentemente largo por recorrer. ¿La última muestra pública de hasta qué punto este inquietante híbrido sexismo-racismo sigue en juego? Los impactantes resultados racialmente cargados que aparecen cuando haces una búsqueda de imágenes en Google de "peinados poco profesionales para el trabajo".

El problema llamó la atención de la gente por primera vez cuando el usuario de Twitter @BonKamona tuiteó una comparación de los resultados de las búsquedas de peinados "profesionales" y "no profesionales" para el trabajo.

La brecha es bastante alarmante: las imágenes que el algoritmo consideró "profesionales" eran abrumadoramente blancas y con cabello lacio, mientras que las "no profesionales" mostraban casi exclusivamente modelos de color con cabello rizado (y Elizabeth Banks como Effie Trinket de la trilogía Los Juegos del Hambre). , que tenemos que estar de acuerdo probablemente no es un aspecto de trabajo ideal).

Otro usuario, @MalumDube, señaló que un peinado parece transformarse mágicamente de "profesional" a "no profesional" cuando se transfiere de Rachael McAdams a una modelo negra:

No está claro exactamente cómo Google obtiene estos resultados tan problemáticos. Muchos han señalado que las imágenes se extrajeron de publicaciones que analizan cómo la textura del cabello natural no es poco profesional o analizan cómo las culturas corporativas perciben estilos como afros y rastas, lo que puede confundir el algoritmo de búsqueda al asociar esas palabras e imágenes con el término "poco profesional". " incluso cuando los artículos y los tableros de Pinterest de los que se extraen respaldan esos estilos en entornos de trabajo. Sin embargo, el simple hecho de que existan suficientes de estos artículos como para hacer tropezar a un motor de búsqueda importante como Google, apunta a los continuos problemas que enfrentan las mujeres con cabello natural en el lugar de trabajo.

Si el algoritmo de búsqueda de imágenes de Google es, de hecho, la víctima tecnológica de no poder analizar contenido complejo o si, como el reciente apagado del chatbot de inteligencia artificial Tay de Microsoft, simplemente está aprendiendo malas lecciones de los rincones más oscuros de Internet, está claro. que estos resultados de búsqueda de imágenes son un problema para las mujeres de todos los colores.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd