Incidentes Asociados
Latanya Sweeney, Discriminación racial en la entrega de anuncios en línea
Comentario de: Margaret Hu
PLSC 2013
Versión publicada disponible aquí: http://papers.ssrn.com/sol3/papers.cfm?abstract_id=2208240
Resumen del borrador del taller:
Al investigar la aparición de anuncios en línea que implican la existencia de un registro de arresto, este escrito relata experimentos de campo que miden la discriminación racial en anuncios publicados por Google AdSense. Una empresa específica, instantcheckmate.com, vende información pública agregada sobre personas en los Estados Unidos y patrocina anuncios para que aparezcan con los resultados de búsqueda de Google para búsquedas de algunas consultas exactas de "nombre apellido". Una búsqueda en Google del nombre de una persona, como "Trevon Jones", puede generar un anuncio personalizado que puede ser neutral, como "¿Busca a Trevon Jones? Informe completo de antecedentes y más…”, o puede sugerir un registro de arresto (anuncio sugerente), como “Trevon Jones, ¿arrestado?…” o “Trevon Jones: la verdad. Detenciones y mucho más. … “
Los experimentos de campo documentados en este escrito muestran discriminación racial en la publicación de anuncios basados en búsquedas de 2200 nombres personales en dos sitios web. Los nombres de pila, documentados por otros como asignados principalmente a bebés negros, como Tyrone, Darnell, Ebony y Latisha, generaron anuncios que sugerían un arresto el 75 por ciento y el 96 por ciento de las veces, y los nombres que tenían un nombre de pila documentado por otros como asignado al nacer principalmente a los blancos, como Geoffrey, Brett, Kristen y Anne, generó una copia más neutral: la palabra "arresto" apareció entre el 0 y el 9 por ciento de las veces. Algunos nombres no siguieron estos patrones: Brad, un nombre dado predominantemente a los bebés blancos, generó un anuncio sugerente entre el 62 y el 65 por ciento de las veces. Todos los anuncios arrojan resultados de personas reales y los anuncios sugerentes aparecen independientemente de si los sujetos tienen un registro de arresto en la base de datos de la empresa. A pesar de estos hallazgos, la empresa sostiene que Google recibió el mismo texto publicitario para grupos de apellidos (no nombres de pila), lo que genera dudas sobre si el algoritmo de Google expone prejuicios raciales en la sociedad.