Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Incidente 332: Google Image Showed Racially Biased Results for “Professional” Hairstyles

Descripción: Google Image search reportedly showed disparate results along racial lines, featuring almost exclusively white women for “professional hairstyles” and black women for “unprofessional hairstyles” prompts.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial

Entidades

Ver todas las entidades
Presunto: un sistema de IA desarrollado e implementado por Google, perjudicó a Black women , Black people y Google users.

Estadísticas de incidentes

ID
332
Cantidad de informes
4
Fecha del Incidente
2016-04-05
Editores
Khoa Lam
Applied Taxonomies
MIT

Clasificaciones de la Taxonomía MIT

Machine-Classified
Detalles de la Taxonomía

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

1.1. Unfair discrimination and misrepresentation

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Discrimination and Toxicity

Entity

Which, if any, entity is presented as the main cause of the risk
 

AI

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Unintentional

Informes del Incidente

Cronología de Informes

Incident Occurrence+1
Mujer está sorprendida por los resultados de búsqueda 'racistas' de Google
+1
Por qué los resultados de búsqueda de Google para peinados no profesionales son seriamente inquietantes
Mujer está sorprendida por los resultados de búsqueda 'racistas' de Google

Mujer está sorprendida por los resultados de búsqueda 'racistas' de Google

dailymail.co.uk

Este es el terrible resultado cuando buscas peinados "poco profesionales" en Google

Este es el terrible resultado cuando buscas peinados "poco profesionales" en Google

teenvogue.com

Por qué los resultados de búsqueda de Google para peinados no profesionales son seriamente inquietantes

Por qué los resultados de búsqueda de Google para peinados no profesionales son seriamente inquietantes

allure.com

¿Los resultados de 'cabello no profesional' de Google muestran que es racista?

¿Los resultados de 'cabello no profesional' de Google muestran que es racista?

theguardian.com

Mujer está sorprendida por los resultados de búsqueda 'racistas' de Google
dailymail.co.uk · 2016
Traducido por IA

Una mujer se sorprendió después de buscar en Google la frase "peinados poco profesionales en el trabajo" y ver que los resultados eran todas imágenes de mujeres negras.

Bonnie Kamona, de Botswana, publicó en Twitter: "Vi un tweet que decía …

Este es el terrible resultado cuando buscas peinados "poco profesionales" en Google
teenvogue.com · 2016
Traducido por IA

Buscar peinados en Google no es nada nuevo: muchas de nosotras a menudo recurrimos al motor de búsqueda para encontrar inspiración para nuestro próximo corte, color o trenza de festival de música. Pero, como informa Mic, una búsqueda recien…

Por qué los resultados de búsqueda de Google para peinados no profesionales son seriamente inquietantes
allure.com · 2016
Traducido por IA

El tema de las elecciones de cabello de las mujeres en el lugar de trabajo ha sido durante mucho tiempo un tema tenso, y lo es infinitamente más para las mujeres de color que [abrazan la textura natural de su cabello] (http://www.allure.com…

¿Los resultados de 'cabello no profesional' de Google muestran que es racista?
theguardian.com · 2016
Traducido por IA

Recientemente, una estudiante de MBA llamada Rosalía descubrió algo alarmante: buscar en Google "peinados poco profesionales para el trabajo" arrojó resultados de imágenes principalmente de mujeres negras con cabello natural, mientras busca…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Biased Google Image Results

'Black teenagers' vs. 'white teenagers': Why Google's algorithm displays racist results

Mar 2016 · 18 informes
Images of Black People Labeled as Gorillas

When It Comes to Gorillas, Google Photos Remains Blind

Jun 2015 · 24 informes
YouTube's AI Mistakenly Banned Chess Channel over Chess Language Misinterpretation

YouTube algorithm accidentally blocks 'black v white' CHESS strategy

Jun 2020 · 6 informes
Incidente AnteriorSiguiente Incidente

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Biased Google Image Results

'Black teenagers' vs. 'white teenagers': Why Google's algorithm displays racist results

Mar 2016 · 18 informes
Images of Black People Labeled as Gorillas

When It Comes to Gorillas, Google Photos Remains Blind

Jun 2015 · 24 informes
YouTube's AI Mistakenly Banned Chess Channel over Chess Language Misinterpretation

YouTube algorithm accidentally blocks 'black v white' CHESS strategy

Jun 2020 · 6 informes

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • ecd56df