Journal des citations pour l'incident 19

Description: Advertisements chosen by Google Adsense are reported as producing sexist and racist results.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique
Présumé : Un système d'IA développé et mis en œuvre par Google, endommagé Women and Minority Groups.

Statistiques d'incidents

ID
19
Nombre de rapports
27
Date de l'incident
2013-01-23
Editeurs
Sean McGregor

Classifications de taxonomie CSETv0

Détails de la taxonomie

Full Description

Advertisements chosen by Google Adsense are reported as producing sexist and racist results. In a 2015 Carnegie Mellon study, 17,370 fake profiles were created to visit jobseeker sites, the profiles were shown around 600,000 advertisements. 1,852 male profiles received advertisements for high-paying executive jobs and career building while only 318 of the female profiles were shown the advertisements. Companies are allowed to filter who is shown their advertisements, which is attributed to this difference in male/female outcomes of advertising. In a separate instance, Harvard professor Latanya Sweeney released a 2013 study showing how black identifying names, when searched in Google, are more likely to return advertisments involving arrests. When testing 2,000 racially-sensitive names, black identifying names returned advertisements using the word "arrest" 81-95% of the time, while white identifying names did so 0-9% of the time. All of the ads were from www.instantcheckmate.com, implying, again, the company's choice of who to target their advertising toward played a factor in the discriminatory results.

Short Description

Advertisements chosen by Google Adsense are reported as producing sexist and racist results.

Severity

Unclear/unknown

Harm Distribution Basis

Race, Sex

Harm Type

Harm to social or political systems, Harm to civil liberties, Other:Reputational harm

AI System Description

Google Adsense, an algorithm used to target advertisements toward relevant audiences.

System Developer

Google

Sector of Deployment

Information and communication

Relevant AI functions

Perception, Cognition, Action

AI Techniques

Google Adsense

AI Applications

targeted advertising

Location

Global

Named Entities

Google, Harvard University, Carnegie Mellon University, www.instantcheckmate.com

Technology Purveyor

Google, Instant Checkmate

Beginning Date

2013-01-01T00:00:00.000Z

Ending Date

2015-01-01T00:00:00.000Z

Near Miss

Unclear/unknown

Intent

Unclear

Lives Lost

No

Data Inputs

Advertiser's preference, Google user's search history, Google user's purchase history

Classifications de taxonomie CSETv1

Détails de la taxonomie

Harm Distribution Basis

race, sex

Sector of Deployment

information and communication

Discrimination dans la diffusion d'annonces en ligne
arxiv.org · 2013

Une recherche sur Google pour le nom d'une personne, telle que "Trevon Jones", peut générer une annonce personnalisée pour des dossiers publics sur Trevon qui peut être neutre, comme "Vous recherchez Trevon Jones ?", ou peut suggérer un dos…

dataprivacylab.org · 2013

Questions fréquemment posées

  1. Le taux d'arrestation des Noirs n'est-il pas plus élevé de toute façon ?

Les annonces apparaissent indépendamment du fait que l'entreprise qui parraine l'annonce ait un casier judiciaire pour le nom. L'apparit…

privacyinternational.org · 2013

En 2013, Latanya Sweeney, professeure à Harvard, a découvert que la discrimination raciale imprègne la diffusion de publicités en ligne. Dans une étude, elle a découvert que les recherches sur des noms d'identification noirs tels que Revon,…

Les recherches sur Google révèlent des préjugés raciaux, selon une étude de noms
bbc.com · 2013

Image caption Le professeur Sweeney a déclaré que la technologie pourrait être utilisée pour lutter contre l'intolérance raciale

Une étude des recherches Google a révélé une "discrimination significative" dans les résultats des annonces en …

Le racisme empoisonne la diffusion d'annonces en ligne, déclare un professeur de Harvard
technologyreview.com · 2013

"As-tu déjà été arrêté? Imaginez que la question n'apparaisse pas dans la solitude de vos pensées pendant que vous lisez cet article, mais apparaît explicitement chaque fois que quelqu'un interroge votre nom dans un moteur de recherche.

Cap…

Google un nom « noir », obtenir une annonce d'arrestation ?
theroot.com · 2013

Insérez un nom dans Google et vous risquez de vous retrouver avec des publicités correspondantes à côté de vos résultats. Devinez quels types de noms sont les plus susceptibles de générer des publicités liées à une arrestation suggérant que…

Les résultats de recherche Google "montrent des préjugés raciaux"
telegraph.co.uk · 2013

Selon l'article de l'Université de Harvard, les noms généralement associés aux Noirs sont plus susceptibles de produire des publicités liées à des activités criminelles.

Une recherche sur Google pour un nom tel que Tom Smith peut faire appa…

Google accusé de racisme après que les noms noirs sont 25% plus susceptibles de faire apparaître des publicités pour des vérifications de casier judiciaire
dailymail.co.uk · 2013

Google accusé de racisme après que les noms noirs sont 25% plus susceptibles de faire apparaître des publicités pour des vérifications de casier judiciaire

Le professeur constate une « discrimination importante » dans les résultats des anno…

Une étude révèle que les annonces de recherche Google sont racistes
businessinsider.com · 2013

Selon une nouvelle étude, les publicités rattachées aux résultats de recherche Google peuvent être biaisées sur le plan racial en raison de la façon dont certains noms sont associés aux Noirs ou aux Blancs.

Latanya Sweeney, professeure à l'…

Un professeur de Harvard affirme que les noms "noirs" dans les recherches Google sont plus susceptibles de proposer des annonces d'arrestation
archive.boston.com · 2013

Google biaise-t-il les annonces qu'il diffuse en fonction du fait qu'un nom sonne "noir" ?

C'est la conclusion d'un article du professeur de Harvard Latanya Sweeney, qui a écrit dans son article que les recherches sur des noms pouvant être …

Googler peut-il être raciste ?
theguardian.com · 2013

Lecteurs, je déteste vous le dire, mais selon Harvard, Internet est raciste. Je vous suggère de cesser de l'utiliser immédiatement à moins que vous ne vouliez que votre patronage de Google et al noircisse votre nom. En fait, euh, attendez p…

Les annonces de recherche en ligne exposent les préjugés raciaux, selon une étude
phys.org · 2013

La page de recherche Google apparaît sur un écran d'ordinateur à Washington le 30 août 2010. Selon une nouvelle étude, les publicités liées aux résultats de recherche Google peuvent être racistes en raison de la façon dont certains noms son…

Les résultats d'annonces en ligne de Google coupables de profilage racial, selon une nouvelle étude
huffingtonpost.com · 2013

Chaque candidat à un emploi vit dans la crainte qu'une recherche sur Google puisse révéler des indiscrétions incriminantes d'un passé lointain. Mais une nouvelle étude examinant les préjugés raciaux dans le libellé des publicités en ligne s…

abcnews.go.com · 2013

Selon une étude d'un professeur de Harvard, une recherche Google pour un "nom associé à une race" est plus susceptible de déclencher des publicités suggérant que la personne a un passé criminel.

Latanya Sweeney, professeur de gouvernement e…

Google Ads révèle un biais contre les Afro-Américains, révèle une étude de l'Université de Harvard
sitepronews.com · 2013

6 février 2013

"Arrest" apparaît avec une plus grande fréquence dans les publicités comportant des noms "noirs"

La diffusion d'annonces Google comporte d'importants préjugés raciaux, selon une étude réalisée par un professeur de l'Universit…

bostonglobe.com · 2013

Résultats de la page Web des publicités qui sont apparues à l'écran lorsque la professeure de Harvard Latanya Sweeney a tapé son nom dans une recherche Google. Les publicités présentaient des services pour les dossiers d'arrestation. Sweene…

cio.com · 2013

L'algorithme de recherche de Google est-il coupable de racisme ? Une étude menée par un chercheur de Harvard a révélé que cela pourrait être le cas.

La professeure Latanya Sweeney dit avoir trouvé une "discrimination statistiquement signifi…

Google est-il raciste ou est-ce le reste d'entre nous ?
forbes.com · 2013

Une jolie petite étude qui montre que les publicités diffusées parallèlement aux recherches Google pourraient, si vous étiez dans ce sens, être considérées comme quelque peu racistes :

Une étude récente des recherches Google par le professe…

Chercheur de Harvard : les annonces générées par Google montrent des préjugés raciaux
thecrimson.com · 2013

MISE À JOUR : 20 février 2013 à 10 h 35

Un chercheur de Harvard a découvert que les noms typiquement afro-américains sont plus susceptibles d'être liés à un casier judiciaire dans les publicités générées par Google sur le moteur de recherch…

queue.acm.org · 2013

Le numéro de janvier/février 2019 d'acmqueue est maintenant disponible

Les abonnés et les membres ACM Professional se connectent ici

PDF

2 avril 2013

Tome 11, numéro 3

Discrimination dans la diffusion d'annonces en ligne

Annonces Google, no…

sites.law.berkeley.edu · 2013

Latanya Sweeney, Discrimination raciale dans la diffusion d'annonces en ligne

Commentaire de : Margaret Hu

PLSC 2013

Version publiée disponible ici : http://papers.ssrn.com/sol3/papers.cfm?abstract_id=2208240

Projet de résumé de l'atelier :…

À quel point votre nom compte-t-il ?
freakonomics.com · 2013

Écoute maintenant:

Saison 4, épisode 2

Un jour, lorsque Latanya Sweeney, professeure à Harvard, a recherché son nom sur Google, elle a remarqué quelque chose d'étrange : une annonce pour un site Web de vérification des antécédents est appar…

technologyreview.com · 2015

Que Google et d'autres sociétés suivent nos mouvements sur le Web pour nous cibler avec des publicités est bien connu. Comment exactement ces informations sont utilisées ne l'est pas, mais un document de recherche présenté la semaine derniè…

Les femmes sont moins susceptibles de voir des annonces pour des emplois bien rémunérés sur Google, selon une étude
theguardian.com · 2015

Les chercheuses d'emploi sont beaucoup moins susceptibles que les hommes de voir des annonces sur Google pour des emplois bien rémunérés, ont constaté des chercheurs.

L'équipe de chercheurs de Carnegie Mellon a construit une plate-forme de …

topbots.com · 2017

Lorsque Timnit Gebru a assisté à une prestigieuse conférence de recherche sur l'IA l'année dernière, elle a compté 6 personnes noires dans le public sur environ 8 500. Et une seule femme noire : elle-même.

En tant que doctorant à l'Universi…

Les ordinateurs peuvent-ils être racistes ? Mégadonnées, inégalités et discrimination
fordfoundation.org · 2018

Il semble que tout le monde parle de la puissance du Big Data et de la manière dont il aide les entreprises, les gouvernements et les organisations à prendre des décisions meilleures et plus efficaces. Mais ils mentionnent rarement que les …

Google dénonce la discrimination raciale dans la diffusion d'annonces en ligne - étude
rt.com · 2019

Les algorithmes de recherche de Google révèlent la discrimination raciale, selon une nouvelle étude d'un professeur de Harvard. Il affirme que les publicités liées aux casiers judiciaires sont plus susceptibles d'apparaître lorsque des "nom…

Variantes

Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.