Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Traducido por IA

Incidente 332: Google Image mostró resultados con sesgo racial para peinados "profesionales".

Traducido por IA
Descripción:
Traducido por IA
Según se informa, la búsqueda de imágenes de Google arrojó resultados dispares según líneas raciales, presentando casi exclusivamente mujeres blancas para las indicaciones de "peinados profesionales" y mujeres negras para las indicaciones de "peinados no profesionales".

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial

Entidades

Ver todas las entidades
Presunto: un sistema de IA desarrollado e implementado por Google, perjudicó a Black women , Black people y Google users.

Estadísticas de incidentes

ID
332
Cantidad de informes
4
Fecha del Incidente
2016-04-05
Editores
Khoa Lam
Applied Taxonomies
MIT

Clasificaciones de la Taxonomía MIT

Machine-Classified
Detalles de la Taxonomía

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

1.1. Unfair discrimination and misrepresentation

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Discrimination and Toxicity

Entity

Which, if any, entity is presented as the main cause of the risk
 

AI

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Unintentional

Informes del Incidente

Cronología de Informes

Incident Occurrence+1
Mujer está sorprendida por los resultados de búsqueda 'racistas' de Google
+1
Por qué los resultados de búsqueda de Google para peinados no profesionales son seriamente inquietantes
Mujer está sorprendida por los resultados de búsqueda 'racistas' de Google

Mujer está sorprendida por los resultados de búsqueda 'racistas' de Google

dailymail.co.uk

Este es el terrible resultado cuando buscas peinados "poco profesionales" en Google

Este es el terrible resultado cuando buscas peinados "poco profesionales" en Google

teenvogue.com

Por qué los resultados de búsqueda de Google para peinados no profesionales son seriamente inquietantes

Por qué los resultados de búsqueda de Google para peinados no profesionales son seriamente inquietantes

allure.com

¿Los resultados de 'cabello no profesional' de Google muestran que es racista?

¿Los resultados de 'cabello no profesional' de Google muestran que es racista?

theguardian.com

Mujer está sorprendida por los resultados de búsqueda 'racistas' de Google
dailymail.co.uk · 2016
Traducido por IA

Una mujer se sorprendió después de buscar en Google la frase "peinados poco profesionales en el trabajo" y ver que los resultados eran todas imágenes de mujeres negras.

Bonnie Kamona, de Botswana, publicó en Twitter: "Vi un tweet que decía …

Este es el terrible resultado cuando buscas peinados "poco profesionales" en Google
teenvogue.com · 2016
Traducido por IA

Buscar peinados en Google no es nada nuevo: muchas de nosotras a menudo recurrimos al motor de búsqueda para encontrar inspiración para nuestro próximo corte, color o trenza de festival de música. Pero, como informa Mic, una búsqueda recien…

Por qué los resultados de búsqueda de Google para peinados no profesionales son seriamente inquietantes
allure.com · 2016
Traducido por IA

El tema de las elecciones de cabello de las mujeres en el lugar de trabajo ha sido durante mucho tiempo un tema tenso, y lo es infinitamente más para las mujeres de color que [abrazan la textura natural de su cabello] (http://www.allure.com…

¿Los resultados de 'cabello no profesional' de Google muestran que es racista?
theguardian.com · 2016
Traducido por IA

Recientemente, una estudiante de MBA llamada Rosalía descubrió algo alarmante: buscar en Google "peinados poco profesionales para el trabajo" arrojó resultados de imágenes principalmente de mujeres negras con cabello natural, mientras busca…

Variantes

Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.
¿Has visto algo similar?

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Biased Google Image Results

Biased Google Image Results

Mar 2016 · 18 informes
Images of Black People Labeled as Gorillas

Images of Black People Labeled as Gorillas

Jun 2015 · 24 informes
YouTube's AI Mistakenly Banned Chess Channel over Chess Language Misinterpretation

YouTube's AI Mistakenly Banned Chess Channel over Chess Language Misinterpretation

Jun 2020 · 6 informes
Incidente AnteriorSiguiente Incidente

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Biased Google Image Results

Biased Google Image Results

Mar 2016 · 18 informes
Images of Black People Labeled as Gorillas

Images of Black People Labeled as Gorillas

Jun 2015 · 24 informes
YouTube's AI Mistakenly Banned Chess Channel over Chess Language Misinterpretation

YouTube's AI Mistakenly Banned Chess Channel over Chess Language Misinterpretation

Jun 2020 · 6 informes

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 69ff178