Registro de citas para el Incidente 19

Description: Advertisements chosen by Google Adsense are reported as producing sexist and racist results.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial
Presunto: un sistema de IA desarrollado e implementado por Google, perjudicó a Women y Minority Groups.

Estadísticas de incidentes

ID
19
Cantidad de informes
27
Fecha del Incidente
2013-01-23
Editores
Sean McGregor

Clasificaciones de la Taxonomía CSETv0

Detalles de la Taxonomía

Full Description

Advertisements chosen by Google Adsense are reported as producing sexist and racist results. In a 2015 Carnegie Mellon study, 17,370 fake profiles were created to visit jobseeker sites, the profiles were shown around 600,000 advertisements. 1,852 male profiles received advertisements for high-paying executive jobs and career building while only 318 of the female profiles were shown the advertisements. Companies are allowed to filter who is shown their advertisements, which is attributed to this difference in male/female outcomes of advertising. In a separate instance, Harvard professor Latanya Sweeney released a 2013 study showing how black identifying names, when searched in Google, are more likely to return advertisments involving arrests. When testing 2,000 racially-sensitive names, black identifying names returned advertisements using the word "arrest" 81-95% of the time, while white identifying names did so 0-9% of the time. All of the ads were from www.instantcheckmate.com, implying, again, the company's choice of who to target their advertising toward played a factor in the discriminatory results.

Short Description

Advertisements chosen by Google Adsense are reported as producing sexist and racist results.

Severity

Unclear/unknown

Harm Distribution Basis

Race, Sex

Harm Type

Harm to social or political systems, Harm to civil liberties, Other:Reputational harm

AI System Description

Google Adsense, an algorithm used to target advertisements toward relevant audiences.

System Developer

Google

Sector of Deployment

Information and communication

Relevant AI functions

Perception, Cognition, Action

AI Techniques

Google Adsense

AI Applications

targeted advertising

Location

Global

Named Entities

Google, Harvard University, Carnegie Mellon University, www.instantcheckmate.com

Technology Purveyor

Google, Instant Checkmate

Beginning Date

2013-01-01T00:00:00.000Z

Ending Date

2015-01-01T00:00:00.000Z

Near Miss

Unclear/unknown

Intent

Unclear

Lives Lost

No

Data Inputs

Advertiser's preference, Google user's search history, Google user's purchase history

Clasificaciones de la Taxonomía CSETv1

Detalles de la Taxonomía

Harm Distribution Basis

race, sex

Sector of Deployment

information and communication

Discriminación en la entrega de anuncios en línea
arxiv.org · 2013

Una búsqueda en Google del nombre de una persona, como "Trevon Jones", puede generar un anuncio personalizado para registros públicos sobre Trevon que puede ser neutral, como "¿Buscando a Trevon Jones?", o puede sugerir un registro de arres…

dataprivacylab.org · 2013

Preguntas frecuentes

  1. ¿No es más alta la tasa de arrestos de negros de todos modos?

Los anuncios aparecen independientemente de si la empresa que patrocina el anuncio tiene antecedentes penales por el nombre. La aparición de los anuncios n…

privacyinternational.org · 2013

En 2013, la profesora de Harvard, Latanya Sweeney, descubrió que la discriminación racial impregna la entrega de publicidad en línea. En un estudio, descubrió que las búsquedas de nombres que se identifican como negros, como Revon, Lakisha …

Las búsquedas de Google exponen el sesgo racial, dice un estudio de nombres
bbc.com · 2013

Image caption El profesor Sweeney dijo que la tecnología podría usarse para contrarrestar la intolerancia racial.

Un estudio de las búsquedas de Google ha encontrado una "discriminación significativa" en los resultados de los anuncios según…

El racismo está envenenando la entrega de anuncios en línea, dice profesor de Harvard
technologyreview.com · 2013

"¿Alguna vez ha sido arrestado? Imagine que la pregunta no aparece en la soledad de sus pensamientos mientras lee este documento, sino que aparece explícitamente cada vez que alguien consulta su nombre en un motor de búsqueda”.

Captura de p…

Busca en Google un nombre 'negro', ¿obtienes un anuncio de arresto?
theroot.com · 2013

Ingrese un nombre en Google y es probable que termine con los anuncios correspondientes junto con sus resultados. Adivina qué tipos de nombres tienen más probabilidades de generar anuncios relacionados con arrestos que sugieran que la perso…

Resultados de búsqueda de Google 'muestran sesgo racial'
telegraph.co.uk · 2013

Los nombres típicamente asociados con personas negras tienen más probabilidades de producir anuncios relacionados con actividades delictivas, según el artículo de la Universidad de Harvard.

Una búsqueda en Google de un nombre como Tom Smith…

Google acusado de racismo después de que los nombres negros tienen un 25% más de probabilidades de mostrar anuncios para verificaciones de antecedentes penales
dailymail.co.uk · 2013

Google acusado de racismo después de que los nombres negros tienen un 25% más de probabilidades de mostrar anuncios para verificaciones de antecedentes penales

El profesor encuentra una "discriminación significativa" en los resultados de lo…

Un estudio encuentra que los anuncios de búsqueda de Google tienen prejuicios raciales
businessinsider.com · 2013

Los anuncios vinculados a los resultados de búsqueda de Google pueden tener sesgos raciales debido a cómo ciertos nombres se asocian con negros o blancos, según un nuevo estudio.

La profesora de la Universidad de Harvard, Latanya Sweeney, e…

Profesor de Harvard dice que es más probable que los nombres 'negros' en las búsquedas de Google ofrezcan anuncios de arrestos
archive.boston.com · 2013

¿Google está sesgando los anuncios que publica en función de si un nombre suena "negro"?

Esa es la conclusión de un artículo de la profesora de Harvard Latanya Sweeney, quien escribió en su artículo que las búsquedas de nombres que pueden i…

¿Googlear puede ser racista?
theguardian.com · 2013

Lectores, odio decírtelo, pero según Harvard, Internet es racista. Le sugiero que deje de usarlo de inmediato a menos que desee que su patrocinio de Google y otros ennegrezcan su nombre. En realidad, err, tal vez espere hasta que termine de…

Los anuncios de búsqueda en línea exponen el sesgo racial, según un estudio
phys.org · 2013

La página de búsqueda de Google aparece en la pantalla de una computadora en Washington el 30 de agosto de 2010. Los anuncios vinculados a los resultados de búsqueda de Google pueden tener sesgos raciales debido a cómo ciertos nombres se as…

Anuncio en línea de Google resulta culpable de perfilado racial, según un nuevo estudio
huffingtonpost.com · 2013

Todos los candidatos a un puesto de trabajo viven con el temor de que una búsqueda en Google pueda revelar indiscreciones incriminatorias de un pasado lejano. Pero un nuevo estudio que examina el sesgo racial en la redacción de los anuncios…

abcnews.go.com · 2013

Una búsqueda en Google de un "nombre asociado racialmente" tiene más probabilidades de generar anuncios que sugieran que la persona tiene antecedentes penales, según un estudio realizado por un profesor de Harvard.

Latanya Sweeney, profesor…

Los anuncios de Google revelan un sesgo contra los afroamericanos, revela un estudio de la Universidad de Harvard
sitepronews.com · 2013

6 de febrero de 2013

'Arresto' aparece con mayor frecuencia en anuncios con nombres 'negros'

La entrega de anuncios de Google tiene un sesgo racial significativo, según un estudio realizado por un profesor de la Universidad de Harvard.

La p…

bostonglobe.com · 2013

Resultados de la página web de los anuncios que aparecieron en la pantalla cuando la profesora de Harvard Latanya Sweeney escribió su nombre en una búsqueda de Google. Los anuncios presentaban servicios para registros de arrestos. Sweeney r…

cio.com · 2013

¿Es el algoritmo de búsqueda de Google culpable de racismo? Un estudio realizado por un investigador de Harvard descubrió que podría serlo.

La profesora Latanya Sweeney dice que encontró una "discriminación estadísticamente significativa" a…

¿Google es racista o el resto de nosotros?
forbes.com · 2013

Una pequeña y encantadora investigación que muestra que los anuncios que se muestran junto con las búsquedas de Google podrían, si así lo desearas, ser vistos como un tanto racistas:

Un estudio reciente de las búsquedas en Google realizado …

Investigador de Harvard: los anuncios generados por Google muestran prejuicios raciales
thecrimson.com · 2013

ACTUALIZADO: 20 de febrero de 2013 a las 10:35 a. m.

Un investigador de Harvard descubrió que los nombres típicamente afroamericanos tienen más probabilidades de estar vinculados a antecedentes penales en los anuncios generados por Google e…

queue.acm.org · 2013

El número de enero/febrero de 2019 de acmqueue ya está disponible

Los suscriptores y miembros de ACM Professional inician sesión aquí

PDF

2 de abril de 2013

Volumen 11, número 3

Discriminación en la entrega de anuncios en línea

Anuncios de …

sites.law.berkeley.edu · 2013

Latanya Sweeney, Discriminación racial en la entrega de anuncios en línea

Comentario de: Margaret Hu

PLSC 2013

Versión publicada disponible aquí: http://papers.ssrn.com/sol3/papers.cfm?abstract_id=2208240

Resumen del borrador del taller:

Al…

¿Cuánto importa tu nombre?
freakonomics.com · 2013

Escucha ahora:

Temporada 4, Episodio 2

Cuando la profesora de Harvard Latanya Sweeney buscó su nombre en Google un día, notó algo extraño: apareció un anuncio para un sitio web de verificación de antecedentes en los resultados, con el títul…

technologyreview.com · 2015

Es bien sabido que Google y otras empresas rastrean nuestros movimientos en la Web para orientarnos con anuncios. No se sabe exactamente cómo se usa esa información, pero un trabajo de investigación presentado la semana pasada sugiere que a…

Es menos probable que las mujeres vean anuncios de trabajos bien pagados en Google, muestra un estudio
theguardian.com · 2015

Las mujeres que buscan trabajo tienen muchas menos probabilidades de ver anuncios en Google de trabajos bien remunerados que los hombres, según han descubierto los investigadores.

El equipo de investigadores de Carnegie Mellon construyó una…

topbots.com · 2017

Cuando Timnit Gebru asistió a una prestigiosa conferencia de investigación de IA el año pasado, contó con 6 personas negras en la audiencia de un estimado de 8500. Y solo una mujer negra: ella misma.

Como candidato a doctorado en la Univers…

¿Pueden las computadoras ser racistas? Big data, desigualdad y discriminación
fordfoundation.org · 2018

Parece que todo el mundo habla del poder del big data y de cómo ayuda a las empresas, los gobiernos y las organizaciones a tomar decisiones mejores y más eficientes. Pero rara vez mencionan que los grandes datos en realidad pueden perpetuar…

Google expone la discriminación racial en la entrega de anuncios en línea: estudio
rt.com · 2019

Los algoritmos de búsqueda de Google exponen la discriminación racial, según afirma un nuevo estudio realizado por un profesor de Harvard. Afirma que es más probable que aparezcan anuncios relacionados con antecedentes penales cuando se "bu…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.