Incidentes Asociados
"¿Alguna vez ha sido arrestado? Imagine que la pregunta no aparece en la soledad de sus pensamientos mientras lee este documento, sino que aparece explícitamente cada vez que alguien consulta su nombre en un motor de búsqueda”.
Captura de pantalla de un anuncio de Google.
Así comienza Latanya Sweeney de la Universidad de Harvard en un artículo convincente que argumenta que la discriminación racial afecta la entrega de anuncios en línea.
Mucha gente tendrá experiencia buscando en Google a amigos, colegas y familiares para conocer su presencia en línea: los sitios web en los que aparecen, sus fotos, pasatiempos, etc.
El interés de Sweeney está en los anuncios que aparecen junto a estos resultados. Cuando ingresó su nombre en Google, apareció un anuncio con el texto:
“¿Latanya Sweeney, arrestada? 1) Ingrese nombre y estado 2) Acceda a antecedentes completos. Comprueba al instante. www.instantcheckmate.com”
Esta es una redacción sugerente. Sugiere que Latanya Sweeney tiene antecedentes penales cuyos detalles se pueden acceder haciendo clic en el anuncio. Pero después de hacer clic en el enlace y pagar la tarifa de suscripción necesaria, Sweeney dice que no encontró ningún registro de arresto.
Lo interesante de esto es que el primer nombre de Sweeney también es sugerente: que es negra. La pregunta que hace Sweeney es si una búsqueda similar con un nombre que sugiere un perfil racial blanco también muestra anuncios que mencionan los registros de arrestos.
La respuesta es una poderosa llamada de atención. Sweeney dice que tiene evidencia de que los nombres de identificación negros tienen hasta un 25 por ciento más de probabilidades de aparecer con un anuncio relacionado con un arresto. “Hay discriminación en la entrega de estos anuncios”, concluye.
Sweeney reunió esta evidencia recopilando más de 2000 nombres que sugerían raza. Por ejemplo, nombres como Trevon, Lakisha y Darnell sugieren que el propietario es negro, mientras que nombres como Laurie, Brendan y Katie sugieren que el propietario es blanco.
Luego ingresó estos apellidos más en Google.com y Reuters.com y examinó los anuncios que devolvieron. La mayoría de los nombres generaron anuncios para registros públicos. Sin embargo, los nombres que se identifican como negros resultaron ser mucho más propensos que los nombres que se identifican como blancos a generar anuncios que incluyen la palabra “arresto” (60 por ciento versus 48 por ciento). Todo provino de www.instantcheckmate.com.
Ella dice que los resultados son estadísticamente significativos con una probabilidad de menos del 0,1 por ciento de que se generaron por casualidad.
En Reuters.com, los nombres de identificación negros tenían un 25 por ciento más de probabilidades de aparecer con un anuncio relacionado con el arresto.
Ese es un resultado extraordinario y que plantea más preguntas de las que responde. El mayor rompecabezas, por supuesto, es qué hace que los anuncios se muestren en este patrón. Aquí el misterio del servicio Adsense de Google oscurece las cosas considerablemente.
Sweeney dice que hay esencialmente tres posibilidades. Una es que www.instantcheckmate.com ha configurado los anuncios que mencionan el arresto para que se sirvan a los nombres de identificación negros. Otra es que Google de alguna manera ha sesgado su mecanismo de publicación de anuncios de esta manera.
Una explicación más insidiosa es que la sociedad en su conjunto tiene la culpa. Si el servicio Adsense de Google descubre qué combinaciones de anuncios son más efectivas, primero mostrará los anuncios relacionados con arrestos a todos los nombres al azar. Pero esto cambiaría si descubriera que los clics son más probables cuando estos anuncios se publican con un nombre de identificación negro. En otras palabras, los resultados simplemente reflejan el patrón discriminatorio de clics de la gente común.
Por supuesto, no podemos saberlo sin una mayor comprensión de la caja negra que es Google Adsense.
Claramente, Sweeney ha descubierto un problema grave aquí dado el impacto que la presencia en línea puede tener en las perspectivas de empleo de una persona.
Sea cual sea la causa, Sweeney dice que la tecnología puede ofrecer algún tipo de solución. Si los algoritmos detrás de Adsense pueden razonar acerca de maximizar los ingresos, ella dice que deberían poder razonar sobre las consecuencias legales y sociales de ciertos patrones de clics.
Esa es una idea interesante y que Google, www.instantcheckmate.com y la sociedad en general deberían considerar con más detalle.
Ref: http://arxiv.org/abs/1301.6822 Discriminación en la entrega de anuncios en línea
Actualización 4 de febrero de 2013 14:34 EST
En respuesta a esta publicación de blog, un portavoz de Google envía el siguiente comentario:
“AdWords no realiza ningún perfil racial. También tenemos una política "anti" y de violencia que establece que no permitiremos anuncios que aboguen en contra de una organización, persona o grupo de personas. Depende de los anunciantes individuales decidir qué palabras clave quieren elegir para activar sus anuncios”.
Actualización 7 de febrero
Instantcheckmate.com envía el siguiente comunicado:
“De hecho, a Instant Checkmate le gustaría afirmar de manera inequívoca que nunca se ha involucrado en la elaboración de perfiles raciales en Google AdWords.
No tenemos absolutamente ninguna tecnología para siquiera conectar un nombre con una raza y nunca hemos intentado hacerlo. La idea misma es contraria a los principios y valores más arraigados de nuestra empresa”.