Incidentes Asociados
La respuesta corta a por qué el algoritmo de Google arroja resultados racistas es que la sociedad es racista. Pero empecemos con una pequeña historia.
El 6 de junio (que es lunes, para aquellos de ustedes que hacen un seguimiento en casa), Kabir Alli, un joven de 18 años de Virginia, publicó un breve video de sí mismo realizando un par de búsquedas rápidas de imágenes en Google. Primero buscó "tres adolescentes negros" y se encontró con varias filas de fotografías policiales descontextualizadas. Luego buscó "tres adolescentes blancos" y le ofrecieron fotos de adolescentes relajados pasando el rato frente a varios fondos completamente blancos.
El tweet ha sido retuiteado 67,687 veces al momento de escribir este artículo. El jueves, Alli le dijo a The Guardian que sus amigos le habían informado sobre los diferentes resultados, pero que "cuando vi los resultados por mí mismo, me sorprendió".
También le dijo al periódico que no cree que Google sea racista. Se dio cuenta de que algunas personas acusaban a la empresa de racismo en las respuestas a su tuit y ofreció una réplica.
Anuncio publicitario
“Los resultados se formaron a través del algoritmo que configuraron. No son racistas, pero siento que deberían tener más control sobre algo así”.
Google está de acuerdo, al menos cuando se trata de si es racista o no. Un portavoz de Google ofreció la siguiente declaración a FUSION por correo electrónico:
Nuestros resultados de búsqueda de imágenes son un reflejo del contenido de toda la web, incluida la frecuencia con la que aparecen los tipos de imágenes y la forma en que se describen en línea. Esto significa que, a veces, las representaciones desagradables de temas sensibles en línea pueden afectar los resultados de búsqueda de imágenes que aparecen para una consulta determinada. Estos resultados no reflejan las propias opiniones o creencias de Google; como empresa, valoramos mucho la diversidad de perspectivas, ideas y culturas.
Anuncio publicitario
Como muchos ya han señalado, esta no es la primera vez que esto sucede. A principios de este año, la estudiante de posgrado Bonnie Komona publicó los resultados de "peinados no profesionales para el trabajo", que mostraban fotos de mujeres negras y los de "peinados profesionales para el trabajo", que en su mayoría mostraban fotos de mujeres blancas.
Hay casos en los que Google intervendrá cuando su algoritmo haga cosas malas, como el verano pasado después de que el programa de etiquetado automático de Google Photo sugiriera que dos jóvenes negros eran gorilas. En ese caso, un ingeniero de alto rango de la empresa se disculpó. También hubo una instancia de 2009 en la que la empresa pareció eliminar una imagen racista que comparaba a Michelle Obama con un gorila que aparecía alto en sus resultados de búsqueda.
Anuncio publicitario
Los resultados de búsqueda de los dos términos que usó Alli siguen siendo prácticamente los mismos por ahora, aunque, como suele ser el caso, ahora también están llenos de comparaciones en paralelo de artículos de noticias. Así es como se ven a partir de este escrito:
Anuncio publicitario
Y solo como contraste, aquí están los resultados de "tres adolescentes latinos:"
Y aquí está "tres adolescentes asiáticos", donde verás un tipo diferente de sesgo. Casi siempre muestra a mujeres adolescentes, a menudo con poca ropa. (Estos no están personalizados para mí, por cierto; mis colegas obtuvieron los mismos resultados).
Anuncio publicitario
Como explicó BuzzFeed News en abril, una serie de factores influyen en qué imágenes aparecen primero en los resultados de imágenes de Google, incluida "[l]a popularidad de la imagen, la frecuencia con la que se comparte, el contexto como el texto alrededor de la imagen y meta". -etiquetado". El metaetiquetado (o metadatos) es información sobre la imagen proporcionada por la página de la que proviene la imagen o la imagen en sí misma, por lo que en el caso de "tres adolescentes negros", es probable que esa descripción provenga de los sitios que publicaron las fotos policiales, y las personas probablemente estén haciendo clic en esas imágenes. Y, en general, los algoritmos de Google actúan sobre muchas entradas.
El pensamiento de Alli de que Google "debería tener más control sobre [los resultados de las imágenes]" es justo. Google toma muchas decisiones grandes y discrecionales sobre los resultados de los anuncios y lo que aparece en sus otras aplicaciones, pero cuando se trata de los resultados de búsqueda, en general se apegan a la línea de que simplemente son muy buenos para mostrar de manera eficiente lo que la gente está buscando en el Internet. En otras palabras, no son racistas, la sociedad es racista.
Anuncio publicitario
Y justo, la sociedad es racista. Pero Alli plantea la muy justa pregunta sobre qué papel deben desempeñar las instituciones de la sociedad para mitigar ese racismo en lugar de instigarlo. Google puede mostrar lo que la gente quiere en la web, pero debido a su papel como el motor de búsqueda más popular del mundo, también refuerza esos deseos. Estar en la cima de esos rankings puede marcar la diferencia en el mundo, y hay una gran industria basada únicamente en llegar allí. Pero Google es, en última instancia, una empresa en los EE. UU., y perseguirá sus intereses fiduciarios por encima de cualquier otra cosa, que se basan en parte en no perder demasiado los resultados de búsqueda.
Entonces, por ahora, nuestra mejor opción puede ser algo un poco más difícil: tratar de hacer que la sociedad en su conjunto sea menos racista.
Supongo que será mejor que nos pongamos a ello.
Ethan Chiel es reportero de Fusion y escribe principalmente sobre Internet y tecnología. Puede (y debe) enviarle un correo electrónico a