Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Incidente 18: Gender Biases of Google Image Search

Descripción: Google Image returns results that under-represent women in leadership roles, notably with the first photo of a female "CEO" being a Barbie doll after 11 rows of male CEOs.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial

Entidades

Ver todas las entidades
Presunto: un sistema de IA desarrollado e implementado por Google, perjudicó a Women.

Estadísticas de incidentes

ID
18
Cantidad de informes
11
Fecha del Incidente
2015-04-04
Editores
Sean McGregor
Applied Taxonomies
CSETv0, CSETv1, GMF, MIT

Clasificaciones de la Taxonomía CSETv0

Detalles de la Taxonomía

Problem Nature

Indicates which, if any, of the following types of AI failure describe the incident: "Specification," i.e. the system's behavior did not align with the true intentions of its designer, operator, etc; "Robustness," i.e. the system operated unsafely because of features or changes in its environment, or in the inputs the system received; "Assurance," i.e. the system could not be adequately monitored or controlled during operation.
 

Specification

Physical System

Where relevant, indicates whether the AI system(s) was embedded into or tightly associated with specific types of hardware.
 

Software only

Level of Autonomy

The degree to which the AI system(s) functions independently from human intervention. "High" means there is no human involved in the system action execution; "Medium" means the system generates a decision and a human oversees the resulting action; "low" means the system generates decision-support output and a human makes a decision and executes an action.
 

High

Nature of End User

"Expert" if users with special training or technical expertise were the ones meant to benefit from the AI system(s)’ operation; "Amateur" if the AI systems were primarily meant to benefit the general public or untrained users.
 

Amateur

Public Sector Deployment

"Yes" if the AI system(s) involved in the accident were being used by the public sector or for the administration of public goods (for example, public transportation). "No" if the system(s) were being used in the private sector or for commercial purposes (for example, a ride-sharing company), on the other.
 

Yes

Data Inputs

A brief description of the data that the AI system(s) used or were trained on.
 

open source internet, user requests, user searches

Clasificaciones de la Taxonomía CSETv1

Detalles de la Taxonomía

Incident Number

The number of the incident in the AI Incident Database.
 

18

Notes (special interest intangible harm)

Input any notes that may help explain your answers.
 

Significant gender/sex bias in google search image results

Special Interest Intangible Harm

An assessment of whether a special interest intangible harm occurred. This assessment does not consider the context of the intangible harm, if an AI was involved, or if there is characterizable class or subgroup of harmed entities. It is also not assessing if an intangible harm occurred. It is only asking if a special interest intangible harm occurred.
 

yes

Date of Incident Year

The year in which the incident occurred. If there are multiple harms or occurrences of the incident, list the earliest. If a precise date is unavailable, but the available sources provide a basis for estimating the year, estimate. Otherwise, leave blank. Enter in the format of YYYY
 

2015

Date of Incident Month

The month in which the incident occurred. If there are multiple harms or occurrences of the incident, list the earliest. If a precise date is unavailable, but the available sources provide a basis for estimating the month, estimate. Otherwise, leave blank. Enter in the format of MM
 

04

Date of Incident Day

The day on which the incident occurred. If a precise date is unavailable, leave blank. Enter in the format of DD
 

09

Clasificaciones de la Taxonomía MIT

Machine-Classified
Detalles de la Taxonomía

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

1.1. Unfair discrimination and misrepresentation

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Discrimination and Toxicity

Entity

Which, if any, entity is presented as the main cause of the risk
 

AI

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Unintentional

Informes del Incidente

Cronología de Informes

+9
¿Quién es un director ejecutivo? Los resultados de imágenes de Google pueden cambiar los sesgos de género
El algoritmo de Google muestra anuncios de trabajo prestigiosos para hombres, pero no para mujeres. He aquí por qué eso debería preocuparte.¿Por qué sigue siendo tan difícil encontrar mujeres directoras ejecutivas en Google Imágenes?
¿Quién es un director ejecutivo? Los resultados de imágenes de Google pueden cambiar los sesgos de género

¿Quién es un director ejecutivo? Los resultados de imágenes de Google pueden cambiar los sesgos de género

washington.edu

La Búsqueda de Google cree que la directora ejecutiva más importante es Barbie

La Búsqueda de Google cree que la directora ejecutiva más importante es Barbie

theverge.com

La primera mujer CEO que aparece en una búsqueda de Google Images es... CEO Barbie

La primera mujer CEO que aparece en una búsqueda de Google Images es... CEO Barbie

pcworld.com

Ten cuidado con lo que buscas en Google

Ten cuidado con lo que buscas en Google

theatlantic.com

Buscar 'médico' o 'policía' en la búsqueda de imágenes de Google arroja resultados increíblemente sexistas

Buscar 'médico' o 'policía' en la búsqueda de imágenes de Google arroja resultados increíblemente sexistas

splinternews.com

La búsqueda de imágenes de Google tiene un problema de sesgo de género

La búsqueda de imágenes de Google tiene un problema de sesgo de género

huffingtonpost.com

Cuando Google Image CEO, la primera foto femenina en la página de resultados es Barbie

Cuando Google Image CEO, la primera foto femenina en la página de resultados es Barbie

glamour.com

La búsqueda de Google Image para CEO tiene a Barbie como primer resultado femenino

La búsqueda de Google Image para CEO tiene a Barbie como primer resultado femenino

bbc.co.uk

El sesgo de género oculto en la búsqueda de imágenes de Google

El sesgo de género oculto en la búsqueda de imágenes de Google

fastcompany.com

El algoritmo de Google muestra anuncios de trabajo prestigiosos para hombres, pero no para mujeres. He aquí por qué eso debería preocuparte.

El algoritmo de Google muestra anuncios de trabajo prestigiosos para hombres, pero no para mujeres. He aquí por qué eso debería preocuparte.

washingtonpost.com

¿Por qué sigue siendo tan difícil encontrar mujeres directoras ejecutivas en Google Imágenes?

¿Por qué sigue siendo tan difícil encontrar mujeres directoras ejecutivas en Google Imágenes?

fastcompany.com

¿Quién es un director ejecutivo? Los resultados de imágenes de Google pueden cambiar los sesgos de género
washington.edu · 2015
Traducido por IA

¿Quién es un director ejecutivo? Los resultados de imágenes de Google pueden cambiar los sesgos de género

Jennifer Langston UW Noticias

Getty Images el año pasado creó un nuevo catálogo de imágenes en línea de mujeres en el lugar de trabajo…

La Búsqueda de Google cree que la directora ejecutiva más importante es Barbie
theverge.com · 2015
Traducido por IA

La Universidad de Washington acaba de publicar una vista previa de un estudio que afirma que los resultados de los motores de búsqueda pueden influir en las percepciones de las personas sobre cuántos hombres o mujeres tienen ciertos trabajo…

La primera mujer CEO que aparece en una búsqueda de Google Images es... CEO Barbie
pcworld.com · 2015
Traducido por IA

El juicio de Ellen Pao-Kleiner Perkins arrojó luz sobre la discriminación en la industria de la tecnología, pero para una mirada más inmediata a los desafíos que enfrentan las mujeres en las empresas de Estados Unidos, no busque más allá de…

Ten cuidado con lo que buscas en Google
theatlantic.com · 2015
Traducido por IA

Google es un oráculo moderno y milagroso. Puede llevarlo a la letra de la canción de Perfect Strangers, a una imagen satelital de su vecindario de la infancia, o a un plan para construir una computadora cuántica. Pero por mucho que sea un p…

Buscar 'médico' o 'policía' en la búsqueda de imágenes de Google arroja resultados increíblemente sexistas
splinternews.com · 2015
Traducido por IA

En el mundo profesional moderno de hoy, los hombres pueden ser médicos, banqueros de inversión y profesores, mientras que las mujeres, por supuesto, pueden ser enfermeras, secretarias y modelos sexys de disfraces de Halloween, al menos segú…

La búsqueda de imágenes de Google tiene un problema de sesgo de género
huffingtonpost.com · 2015
Traducido por IA

No todos los médicos o directores ejecutivos son hombres. No todas las enfermeras son mujeres. Pero podrías pensar lo contrario si buscases estas profesiones en imágenes de Google.

Resulta que hay un sesgo de género notable en los resultado…

Cuando Google Image CEO, la primera foto femenina en la página de resultados es Barbie
glamour.com · 2015
Traducido por IA

Pruebe esto: imagen de Google "CEO". ¿Notas algo? El primer resultado femenino de búsqueda de imágenes de Google para "CEO" aparece DOCE filas hacia abajo, y es Barbie.

Un estudio reciente realizado en la Universidad de Washington buscó exa…

La búsqueda de Google Image para CEO tiene a Barbie como primer resultado femenino
bbc.co.uk · 2015
Traducido por IA

Busque el término "CEO" en Google Images y la primera imagen de una mujer que obtiene es una imagen de Barbie con un traje.

Este "sesgo de género" se hizo evidente después de que se publicó un artículo que muestra que muchas búsquedas de im…

El sesgo de género oculto en la búsqueda de imágenes de Google
fastcompany.com · 2015
Traducido por IA

Justo cuando pensabas que los sesgos eran una construcción completamente humana, más evidencia sugiere que tanto los algoritmos como las interfaces también podrían estar sesgados.

ANUNCIO PUBLICITARIO

El último ejemplo de esto es de un estu…

El algoritmo de Google muestra anuncios de trabajo prestigiosos para hombres, pero no para mujeres. He aquí por qué eso debería preocuparte.
washingtonpost.com · 2015
Traducido por IA

Recién salido de la revelación de que las búsquedas de imágenes de Google para "CEO" solo muestran imágenes de hombres blancos, hay nueva evidencia de que el sesgo algorítmico está, por desgracia, en eso nuevamente. En un artículo publicado…

¿Por qué sigue siendo tan difícil encontrar mujeres directoras ejecutivas en Google Imágenes?
fastcompany.com · 2018
Traducido por IA

“No puedes ser lo que no puedes ver”, dijo Marie Wilson del Proyecto de la Casa Blanca en 2010. Según un nuevo estudio, es posible que Google Images no esté ayudando a mejorar la situación.

AdView analizó los datos de empleo para determinar…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Sexist and Racist Google Adsense Advertisements

Discrimination in Online Ad Delivery

Jan 2013 · 27 informes
AI Beauty Judge Did Not Like Dark Skin

A beauty contest was judged by AI and the robots didn't like dark skin

Sep 2016 · 10 informes
Biased Google Image Results

'Black teenagers' vs. 'white teenagers': Why Google's algorithm displays racist results

Mar 2016 · 18 informes
Incidente AnteriorSiguiente Incidente

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Sexist and Racist Google Adsense Advertisements

Discrimination in Online Ad Delivery

Jan 2013 · 27 informes
AI Beauty Judge Did Not Like Dark Skin

A beauty contest was judged by AI and the robots didn't like dark skin

Sep 2016 · 10 informes
Biased Google Image Results

'Black teenagers' vs. 'white teenagers': Why Google's algorithm displays racist results

Mar 2016 · 18 informes

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • ecd56df