Incidentes Asociados
Recientemente, una estudiante de MBA llamada Rosalía descubrió algo alarmante: buscar en Google "peinados poco profesionales para el trabajo" arrojó resultados de imágenes principalmente de mujeres negras con cabello natural, mientras buscaba el los “profesionales” ofrecían fotos de mujeres blancas peinadas. A menudo, los estilos de cabello en sí no eran muy diferentes, solo el tipo de cabello y la piel del usuario.
Desde entonces, el tuit de Rosalía ha sido retuiteado miles de veces, más de 6200 en las primeras 24 horas, dice, ya que su descubrimiento provocó un debate sobre los prejuicios raciales implícitos contra los afroamericanos. personas en el lugar de trabajo. ¿Puede un algoritmo en sí mismo ser racista? ¿O solo refleja el panorama social más amplio?
Parece difícil recordar un momento en el que no podía simplemente "Google Images" una palabra o frase y ver una imagen instantáneamente. Según el presidente ejecutivo de Google, Eric Schmidt, la función fue [introducida en el año 2000](https://www.project-syndicate.org/commentary/google-european-commission-and-disruptive-technological-change-by-eric -schmidt-2015-01#yMSC5IlY7sHATDCO.99). Fue en respuesta a una repentina y abrumadora demanda: Jennifer Lopez usó un famoso vestido verde de Versace que caía en picado en los premios Grammy de ese año y de repente todos querían verlo. Nadie lo estaba buscando en Google solo para leer sobre él, eso era seguro.
Ahora, Google Imágenes es una parte prácticamente irreflexiva de la forma en que usamos la web, que nos ofrece instantáneamente una amplia galería de imágenes relevantes en respuesta a una sola palabra, frase o consulta. También hace más sugerencias. Si busca pastel, verá dulces clásicos tanto enteros como en rodajas, así como algunos subconjuntos disponibles. ¿Pastel de manzana, pastel de carne? ¿Quiso decir el número matemático, tal vez? ¡Google Imágenes piensa en todo!
Siempre hemos concebido a los motores de búsqueda como criaturas arcanas pero neutrales, obedientes únicamente a nuestra voluntad y a la preciosa lógica de la información. Los motores más antiguos del advenimiento de Internet reflejaron esto: ¿Recuerdas a "Ask Jeeves", el amable mayordomo? Dogpile, ¿cuál "traería" cosas para ti? A pesar de esta fantasía, las cosas que los motores y sus algoritmos pueden saber y encontrar están influenciadas por el contenido que les damos para trabajar, lo que significa que pueden reflejar nuestros propios sesgos.
En un nivel básico, Google Images determina principalmente quién o qué se muestra en una imagen al juzgar el texto y los subtítulos que lo rodean. Sin embargo, es posible que también esté involucrado algún análisis de imagen rudimentario, del tipo que puede distinguir una cara de un paisaje. En el caso del gran debate sobre el cabello, Google Images parece haber tomado muchas de las fotos de mujeres negras con peinados "poco profesionales" de blogs, artículos y tableros de Pinterest. Muchos de estos son de personas de color que discuten y protestan explícitamente contra las actitudes racistas hacia el cabello. Una imagen me llevó a una publicación [criticando la prohibición de rastas de la Universidad de Hampton] (http://mynaturalreality.com/?p=4501) y trenzas; otro estaba vinculado con una publicación que celebraba el cabello natural y la presión “ridícula” para alisarlo para la oficina; aquí está un rechazo de la idea de que los rizos grandes y naturales “distraen” en una redacción.
En última instancia, el algoritmo está reflejando conversaciones sobre sesgos de "cabello no profesional", no tomando una decisión. De hecho, solo un día después de que el tuit de Rosalía se volviera viral, los memes sobre la discrepancia, las capturas de pantalla del propio tuit y otras imágenes relacionadas recientes encabezaron los resultados de la búsqueda de Google Imágenes de "peinados poco profesionales para el trabajo". Pero aún plantea preguntas sobre el papel de los algoritmos en la forma en que usamos la web, y abre algunos agujeros en la fantasía utópica de para qué sirve Internet.
Por ejemplo, busque la palabra "hombre" y obtendrá imágenes casi en su totalidad de hombres blancos, aunque de diferentes edades. Una búsqueda de la palabra "mujer" también revela una abrumadora mayoría de mujeres blancas jóvenes. Teniendo en cuenta que la mayoría de la población mundial no es blanca, vemos de inmediato cómo los prejuicios blancos centrados en Occidente, desde las creencias raciales y de género hasta los estándares culturales de belleza y valor, dominan la forma en que funciona la web y las historias que cuenta. sobre la humanidad
El algoritmo no pretende ser imperialista, por supuesto. Hace lo que está diseñado para hacer: reflejar el contenido que tiene disponible. Pero el sueño de la web como un "gran ecualizador" sigue siendo solo eso, y la fantasía de un servidor digital universal verdaderamente libre de prejuicios que nos muestre el verdadero tamaño y alcance del mundo aún no se ha cumplido.
¿Es esto algo que Google puede "resolver", tal vez etiquetando y priorizando las imágenes de manera diferente? Y si es así, ¿debería hacerlo? Estas preguntas llegan a la identidad misma de la “búsqueda” como concepto digital: ¿su propósito es reflejar y reforzar lo que sienten, hacen y creen sus usuarios? ¿O es para mostrarnos una imagen más completa del mundo y de todas las cosas contenidas en él como realmente son? Google Imágenes se concibió como respuesta a lo que la gente más quería ver. Tal vez aún no ha decidido qué es lo que más necesitamos ver.