Incidentes Asociados
Lectores, odio decírtelo, pero según Harvard, Internet es racista. Le sugiero que deje de usarlo de inmediato a menos que desee que su patrocinio de Google y otros ennegrezcan su nombre. En realidad, err, tal vez espere hasta que termine de leer...
Un estudio reciente de las búsquedas en Google realizado por la profesora Latanya Sweeney encontró una "discriminación significativa" en los resultados de los anuncios dependiendo de si el nombre que está buscando en Google, estadísticamente hablando, es más probable que pertenezca a una persona blanca o negra. Entonces, si bien buscar en Google a Emma probablemente no generará nada más siniestro que una invitación para buscar el número de teléfono y la dirección de Emma, buscar a Jermaine podría generar un anuncio para una búsqueda de antecedentes penales. De hecho, la investigación de Sweeney sugiere que es un 25 % más probable que obtenga anuncios de búsquedas de antecedentes penales de nombres "identificados como negros" que de nombres que suenen blancos.
Entonces, ¿qué significa esto exactamente? ¿Tiene Google algún tipo de herramienta de perfilado racial incrustada en sus algoritmos? Bueno no exactamente. Google ha declarado inequívocamente que "no realiza ningún perfil racial" y el propio trabajo de investigación admite que probablemente no sea tan insidioso como eso. Más bien postula que las discrepancias demográficas probablemente provengan de algoritmos "inteligentes" que adaptan la colocación de anuncios en función de los hábitos de los usuarios masivos. En resumen, escribe Sweeney, los resultados plantean "preguntas sobre si la tecnología publicitaria de Google expone prejuicios raciales en la sociedad y cómo la tecnología publicitaria y de búsqueda puede desarrollarse para asegurar la equidad racial".
Vaya, ¿alguien acaba de afirmar que la sociedad tiene prejuicios raciales? Mantenga la primera plana. Si bien el estudio de Harvard presenta algunos puntos interesantes, la investigación también es un caso revelador de dualismo digital: la idea de que en línea y fuera de línea son realidades separadas y distintas. Esto puede haber sido cierto hace décadas, cuando Internet era algo que "marcabas" para verificar AltaVista en busca de ofertas en VCR, pero ahora está lamentablemente desactualizado. La mayoría de la gente ahora ve el mundo virtual como un simple reflejo del mundo real. De hecho, un informe publicado este año por la Oficina Gubernamental para la Ciencia proclama que: "El Reino Unido es ahora un entorno virtual además de un lugar real".
La cuestión de cómo (y, de hecho, si) la tecnología puede deshacerse de lo que Sweeney describe como "racismo estructural" tiene algunos paralelismos interesantes con los debates sobre el lenguaje que han tenido lugar mucho antes de que Google fuera un brillo en los ojos de Sergey Brin. Tomemos, por ejemplo, la frase que usé antes, "ennegrecer su nombre". Es un modismo bastante común y difícilmente llamarías a alguien por racismo si lo usara; sin embargo, es un término cargado. Benjamin Zephaniah tiene un gran poema llamado Comedia blanca, que aborda la política de este tipo de fraseología: "Me engañaron / Por una bruja blanca / Con magia blanca / Una mentira piadosa", comienza el poema. Entiendes la idea.
Durante siglos, la gente ha intentado librar al lenguaje de su "racismo estructural" inventando dialectos políticamente neutrales. El esperanto, creado por el maravillosamente llamado LL Zamenhof, ha sido el más exitoso de estos esfuerzos, diseñado para trascender la nacionalidad y fomentar la paz, el amor, la armonía, todas esas cosas buenas. Todavía no ha llegado allí, pero ha logrado generar decenas de miles de hablantes fluidos, así como alrededor de mil hablantes nativos. Se podría decir que el equivalente tecnológico de Esperanto es Value Sensitive Design (VSD), una creencia de que la tecnología debe ser influenciada de manera proactiva para tener en cuenta los valores humanos en el proceso de diseño, en lugar de simplemente reaccionar a ellos después. Si bien esto parece una buena idea en la superficie, es un nido de víboras de preguntas éticas cuando profundizas, arrojando un debate más amplio sobre la idea de los valores universales y el relativismo cultural.
Pero toda esta teoría es, quizás, un poco intelectual y resta valor al punto más importante de la investigación de Sweeney: su huella digital tiene profundas implicaciones en su vida real. Como Descartes no dijo del todo: "Googlito ergo sum": estoy en Google, luego existo. Y, si lo que está en Google es un delincuente potencial, sus posibilidades de conseguir un trabajo serán un poco más difíciles. Pero deshacerse de este sesgo no es una cuestión de algoritmos, es una cuestión de cambiar actitudes. Hay una idea interesante de esto en la propia palabra "culto": un término que proviene de la "ciencia" de la frenología del siglo XIX, que usaba las formas de los cráneos de las personas para justificar el racismo. En las décadas de 1820 y 1840, cuando la frenología estaba de moda, los empleadores a menudo exigían una referencia de carácter de un frenólogo local para verificar si serías un buen empleado o un posible criminal. Entonces, en el pasado, tu cráneo servía como una especie de búsqueda en Google. Y no progresamos como sociedad cambiando nuestros cráneos, sino que cambiamos lo que entraba en ellos.