Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 132

Incidentes Asociados

Incidente 1810 Reportes
Gender Biases of Google Image Search

Loading...
¿Quién es un director ejecutivo? Los resultados de imágenes de Google pueden cambiar los sesgos de género
washington.edu · 2015

¿Quién es un director ejecutivo? Los resultados de imágenes de Google pueden cambiar los sesgos de género

Jennifer Langston UW Noticias

Getty Images el año pasado creó un nuevo catálogo de imágenes en línea de mujeres en el lugar de trabajo, uno que contrarrestaba los estereotipos visuales en Internet de las madres como cuidadoras agotadas en lugar de poderosas directoras ejecutivas.

Un nuevo estudio de la Universidad de Washington se suma a esos esfuerzos al evaluar con qué precisión las representaciones de género en los resultados de búsqueda de imágenes en línea para 45 ocupaciones diferentes coinciden con la realidad.

En algunos trabajos, incluido el de directora ejecutiva, las mujeres estaban significativamente subrepresentadas en los resultados de búsqueda de imágenes de Google, encontró el estudio, y eso puede cambiar la visión del mundo de los buscadores. En todas las profesiones, las mujeres estaban levemente subrepresentadas en promedio.

El estudio también responde a una pregunta clave: ¿la proporción de género en las imágenes que aparecen cuando escribimos "autor", "recepcionista" o "chef" influye en las percepciones de las personas sobre cuántos hombres o mujeres realmente tienen esos trabajos?

Lea acerca de otro de los documentos de CHI 2015 de Munson sobre la realización de compromisos de ejercicios públicos en Facebook

En un documento que se presentará en abril en la conferencia CHI 2015 de la Association for Computing Machinery en Corea del Sur, investigadores de la UW y la Universidad de Maryland, condado de Baltimore, descubrieron que los resultados de búsqueda de imágenes manipuladas podrían determinar, en promedio, el 7 por ciento de un estudio. la opinión posterior del participante sobre cuántos hombres y mujeres trabajan en un campo en particular, en comparación con estimaciones anteriores.

“Necesita saber si los estereotipos de género en los resultados de las imágenes de búsqueda realmente cambian las percepciones de las personas antes de poder decir si esto es un problema. Y, de hecho, lo hace, al menos a corto plazo”, dijo el coautor Sean Munson, profesor asistente de diseño e ingeniería centrados en el ser humano de la UW.

El estudio primero comparó los porcentajes de mujeres que aparecieron en los 100 mejores resultados de búsqueda de imágenes de Google en julio de 2013 para diferentes ocupaciones, desde cantinero hasta químico y soldador, con las estadísticas de la Oficina de Trabajo de EE. UU. de 2012 que muestran cuántas mujeres trabajaban realmente en ese campo.

En algunos trabajos, las discrepancias fueron pronunciadas, encontró el estudio. En una búsqueda de imágenes de Google para CEO, el 11 por ciento de las personas representadas eran mujeres, en comparación con el 27 por ciento de los CEO de EE. UU. que son mujeres. El veinticinco por ciento de las personas representadas en los resultados de búsqueda de imágenes para autores son mujeres, en comparación con el 56 por ciento de los autores estadounidenses reales.

Por el contrario, el 64 por ciento de los vendedores telefónicos representados en los resultados de la búsqueda de imágenes eran mujeres, mientras que esa ocupación se divide equitativamente entre hombres y mujeres.

Sin embargo, para casi la mitad de las profesiones, como enfermera practicante (86 por ciento de mujeres), ingeniera (13 por ciento de mujeres) y farmacéutica (54 por ciento de mujeres), esos dos números estaban dentro de los cinco puntos porcentuales.

"De hecho, me sorprendió lo buenos que fueron los resultados de la búsqueda de imágenes, solo en términos de números", dijo el coautor Matt Kay, estudiante de doctorado en ciencias informáticas e ingeniería de la UW. “Pueden representar ligeramente a las mujeres y pueden exagerar ligeramente los estereotipos de género, pero no va a estar totalmente divorciado de la realidad”.

Sin embargo, cuando los investigadores pidieron a las personas que calificaran la profesionalidad de las personas representadas en los principales resultados de búsqueda de imágenes, surgieron otras desigualdades. Las imágenes que mostraban a una persona del género mayoritario para una profesión tendían a ser calificadas por los participantes del estudio como más competentes, profesionales y confiables. También era más probable que los eligieran para ilustrar esa profesión en una presentación comercial hipotética.

Por el contrario, los resultados de la búsqueda de imágenes que mostraban a una persona cuyo género no coincidía con un estereotipo ocupacional tenían más probabilidades de ser calificados como provocativos o inapropiados.

“Varios de los principales éxitos que representan a mujeres como trabajadoras de la construcción son modelos con diminutos disfraces y cascos que posan sugerentemente sobre un martillo neumático. Obtienes cosas que nadie tomaría como profesionales”, dijo la coautora Cynthia Matuszek, ex estudiante de doctorado de la UW que ahora es profesora asistente de informática e ingeniería eléctrica en la Universidad de Maryland, condado de Baltimore.

Lo que es más importante, los investigadores querían explorar si los sesgos de género en los resultados de búsqueda de imágenes realmente afectaban la forma en que las personas percibían esas ocupaciones.

Hicieron a los voluntarios del estudio una serie de preguntas sobre un trabajo en particular, incluyendo cuántos hombres y mujeres trabajaban en ese campo. Dos semanas después, les mostraron un conjunto de resultados de búsqueda de imágenes manipuladas y les hicieron las mismas preguntas.

La exposición a los resultados de búsqueda de imágenes sesgadas cambió ligeramente sus estimaciones, lo que representa el 7 por ciento de esas segundas opiniones. El estudio no probó los cambios a largo plazo en la percepción, pero otra investigación sugiere que muchas pequeñas exposiciones a información sesgada a lo largo del tiempo pueden tener un efecto duradero en todo, desde ideas preconcebidas personales hasta prácticas de contratación.

El efecto medido plantea preguntas interesantes, dicen los investigadores, sobre si los algoritmos de búsqueda de imágenes deberían cambiarse para ayudar a contrarrestar los estereotipos ocupacionales.

“Nuestra esperanza es que esto se convierta en una pregunta

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd