Incidentes Asociados
Todos los candidatos a un puesto de trabajo viven con el temor de que una búsqueda en Google pueda revelar indiscreciones incriminatorias de un pasado lejano. Pero un nuevo estudio que examina el sesgo racial en la redacción de los anuncios en línea sugiere que los algoritmos publicitarios de Google pueden estar asociando injustamente a algunas personas con fechorías que no cometieron.
Después de enterarse de que una búsqueda en Google de su propio nombre apareció en un anuncio de un servicio de verificación de antecedentes que insinuaba que había sido arrestada, la profesora de la Universidad de Harvard, Latanya Sweeney, se dispuso a investigar si la raza influía en los resultados de los anuncios en línea. Buscó en más de 2,000 "nombres racialmente asociados" para determinar si los nombres "previamente identificados por otros como asignados al nacer a más bebés negros o blancos" aparecían como resultados de anuncios que indicaban antecedentes penales. Específicamente, se centró en los anuncios comprados por empresas que brindan verificaciones de antecedentes utilizadas por los empleadores.
Sweeney concluyó que los llamados nombres que identifican a personas negras tenían muchas más probabilidades de ir acompañados de un texto que sugiriera que la persona tenía antecedentes penales, independientemente de si existían o no antecedentes penales.
A la izquierda, anuncios entregados para búsquedas de nombre completo en Google.com, según el estudio de Sweeney. A la derecha, anuncios publicados para búsquedas de nombres completos realizadas a través de Reuters.com, que ofrece resultados de Google. Vía Latanya Sweeney.
“Hay discriminación en la entrega de estos anuncios”, escribe Sweeney en su informe. “Tenga en cuenta que el racismo puede resultar, incluso si no es intencional, y que la actividad en línea puede ser tan omnipresente e íntimamente entrelazada con el diseño tecnológico que los tecnólogos ahora deben pensar en las consecuencias sociales como el racismo estructural en la tecnología que diseñan”.
Como señala Sweeney, los anuncios que vinculan el nombre de una persona con una actividad delictiva corren el riesgo de dañar su reputación al sugerir irregularidades cuando no las hay. Ella les pide a los lectores que imaginen que están siendo evaluados por un empleador potencial, a quien se le dice que lea sobre sus arrestos cuando busca su nombre. "Peor aún", escribe Sweeney, "los anuncios no aparecen para sus competidores".
Para probar su hipótesis, Sweeney usó la investigación existente para encontrar nombres que se consideraran identificativos de blancos o negros, y luego los usó para compilar más de 2,000 combinaciones de nombres y apellidos pertenecientes a personas reales. Consultó esos nombres completos en Google.com y Reuters.com, que dependen de AdSense de Google para la publicación de anuncios en línea, y registró el idioma de las publicaciones patrocinadas que aparecían. Su propio nombre, por ejemplo, incluía un anuncio de InstantCheckmate.com que decía: "Latanya Sweeney, ¿arrestada?" y “Revise los arrestos de Latanya Sweeney”.
En Reuters.com, un "nombre que identifica a un negro tenía un 25 por ciento más de probabilidades de obtener un anuncio que sugiriera un registro de arresto", encontró Sweeney. En Google, el 92 por ciento de los anuncios que aparecían junto a nombres que se identificaban con negros sugerían antecedentes penales, en comparación con el 80 por ciento de los nombres que se identificaban con blancos. De hecho, las personas blancas representaron casi el setenta por ciento de todos los arrestos y las personas negras el 28,4 por ciento de los arrestos, según las estadísticas de delitos del FBI de 2011, el año más reciente disponible.
Sweeney ofrece varias posibles explicaciones para el texto discriminatorio del anuncio. Puede ser que Instant Checkmate, que tuvo la mayor cantidad de anuncios en línea de todas las compañías rastreadas en el estudio, optó por vincular los nombres que identifican a los negros con plantillas de anuncios que sugerían antecedentes penales. Sin embargo, Sweeney señala que Instant Checkmate le dijo que le dio a Google el mismo texto de anuncio para ejecutar con grupos de apellidos y no varió las plantillas de anuncios según los nombres.
En respuesta al estudio, una vocera de Instant Checkmate dijo que a la compañía "le gustaría afirmar inequívocamente que nunca se ha involucrado en la discriminación racial en Google AdWords".
"No tenemos absolutamente ninguna tecnología para siquiera conectar un nombre con una raza y nunca hemos intentado hacerlo. La idea misma es contraria a los principios y valores más arraigados de nuestra empresa", escribió la portavoz en un correo electrónico a HuffPost. .
Google podría tener la culpa, escribe Sweeney, aunque un portavoz de Google le dijo a The Huffington Post que la compañía no se dirige a sus usuarios en función de la raza, y señaló que los anunciantes son libres de elegir los términos en los que aparecerán sus anuncios.
“AdWords no realiza ningún perfil racial”, escribió el portavoz en un correo electrónico. “También tenemos una política ‘anti’ y de violencia que establece que no permitiremos anuncios que aboguen en contra de una organización, persona o grupo de personas. Depende de los anunciantes individuales decidir qué palabras clave quieren elegir para activar sus anuncios”.
También podría ser que los usuarios de Google tengan la culpa: cuando un anunciante elige por primera vez el texto del anuncio, todas las opciones tienen la misma ponderación y tienen la misma probabilidad de aparecer en los resultados de búsqueda. Sin embargo, con el tiempo, dado que se hace clic en ciertas plantillas con más frecuencia que en otras, Google intentará optimizar el anuncio de sus clientes mostrando con mayor frecuencia el anuncio que obtiene la mayor cantidad de clics.
"¿Instant Checkmate proporcionó plantillas de anuncios que sugerían un arresto desproporcionado?"