Problema 1368

Justo cuando pensabas que los sesgos eran una construcción completamente humana, más evidencia sugiere que tanto los algoritmos como las interfaces también podrían estar sesgados.

ANUNCIO PUBLICITARIO

El último ejemplo de esto es de un estudio realizado por investigadores de la Universidad de Washington y la Universidad de Maryland y revela cómo un sesgo de género se está abriendo camino a través de búsquedas web cuando las personas buscan imágenes para representar carreras y trabajos.

Primero, hicieron un análisis comparativo para ver si la prevalencia de hombres y mujeres en los resultados de búsqueda de imágenes para profesiones en realidad se corresponde con su representación en las profesiones reales. Los investigadores hicieron esto al comparar la cantidad de mujeres que aparecieron en los 100 mejores resultados de búsqueda de imágenes de Google en julio de 2013 para 45 ocupaciones diferentes, que iban desde cantineros hasta químicos y soldadores, con las estadísticas de la Oficina de Trabajo de EE. UU. de 2012 sobre cuántas mujeres realmente trabajaban. en esos campos. Luego, hicieron un análisis cualitativo para ver cómo se retrata a hombres y mujeres en los resultados de la imagen.

El objetivo era responder algunas preguntas convincentes:

¿Hay sobrerrepresentación o subrepresentación sistémica de mujeres en los resultados preferidos?

¿Los resultados de búsqueda de imágenes sesgados llevan a las personas a perpetuar un sesgo en los resultados de búsqueda de imágenes cuando eligen imágenes para representar una profesión (es decir, a través de la exageración de estereotipos)?

¿Las diferencias en la representación en los resultados de la búsqueda de imágenes afectan las percepciones de los espectadores sobre la prevalencia de hombres y mujeres en esa ocupación?

¿Podemos cambiar esas opiniones manipulando los resultados?

Las respuestas fueron igualmente convincentes. Por ejemplo, según su estudio, más de la mitad de los autores estadounidenses son mujeres (56 %), pero la búsqueda de imágenes muestra solo alrededor del 25 % de autoras.

Por otro lado, está el telemercadeo, una industria en la que hombres y mujeres están igualmente representados, pero los resultados de las imágenes de Google le harían creer que el 64 % de los telemercaderes son mujeres.

No todos los resultados fueron tan sesgados. La investigación descubrió que, en casi la mitad de las profesiones, la representación real de género y los números de búsqueda de imágenes tenían una diferencia de 5 puntos porcentuales entre sí.

Cómo se veían los hombres y las mujeres en esas imágenes era otra historia. Cuando los investigadores pidieron a los participantes que calificaran el profesionalismo, las imágenes que mostraban a una persona que coincidía con el género mayoritario para el trabajo se consideraban más competentes, profesionales y confiables. Aquellos que no coincidieron fueron calificados como provocativos o inapropiados.

“Varios de los principales éxitos que representan a mujeres como trabajadoras de la construcción son modelos con diminutos disfraces y cascos que posan sugerentemente sobre un martillo neumático. Obtienes cosas que nadie tomaría como profesionales”, dice Cynthia Matuszek, coautora del estudio.

Nada de esto importaría si las personas no fueran empujadas a hacer suposiciones sobre hombres y mujeres en roles particulares en el mundo real. Sin embargo, cuando los investigadores manipularon los resultados de la búsqueda, como era de esperar, las opiniones de los participantes cambiaron para ajustarse a los estereotipos. Aunque enfatizaron que esto fue solo una observación a corto plazo, otra investigación confirma que la exposición incremental a estas imágenes a lo largo del tiempo contribuirá al sesgo inconsciente.

También se ha revelado que las entradas de Wikipedia, un supuesto bastión de diversidad y neutralidad editorial, se inclinan fuertemente hacia los hombres tanto en los artículos reales como en los enlaces. Los artículos sobre mujeres tendían a estar vinculados a los de hombres.

Parte de esto se debe a la comunidad de Wikipedia, cuya preponderancia son hombres educados, que hablan inglés y provienen en su mayoría de países cristianos.

QUÉ ESTÁ HACIENDO GOOGLE ACERCA DEL SESGO INCONSCIENTE

Además de que las búsquedas de imágenes tienen sesgos de género en algunos casos, Google también ha sido criticado por la falta de diversidad dentro de sus filas e incluso por el uso desproporcionado de hombres blancos en sus garabatos.

Si bien es posible que Google no esté al tanto de los resultados de este último estudio y la recomendación de los investigadores, el gigante de las búsquedas reconoció que es difícil para cualquiera, incluso para su propio cuadro de personal emocionalmente inteligente, procesar los 11 millones de bits de información que somos. bombardeados en un momento dado y centrarse en cambio en descubrir qué sesgos podrían surgir de ellos.

Como tal, Google ofrece un taller centrado en los sesgos inconscientes que podrían sabotear la dinámica del lugar de trabajo o alterar la igualdad del proceso de contratación.

Los investigadores de este estudio esperan que la información influya en los diseñadores de motores de búsqueda para crear algoritmos que representen la realidad con mayor precisión. Sean Munson, profesor asistente de diseño e ingeniería centrados en el ser humano de la UW y coautor del estudio, dice: “[Los diseñadores de motores de búsqueda] pueden llegar a una variedad de conclusiones, pero me sentiría mejor si las personas al menos fueran conscientes de las consecuencias y están tomando decisiones conscientes a su alrededor”.