Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Incident 19: Sexist and Racist Google Adsense Advertisements

Description: Advertisements chosen by Google Adsense are reported as producing sexist and racist results.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique

Entités

Voir toutes les entités
Présumé : Un système d'IA développé et mis en œuvre par Google, a endommagé Women et Minority Groups.

Statistiques d'incidents

ID
19
Nombre de rapports
27
Date de l'incident
2013-01-23
Editeurs
Sean McGregor
Applied Taxonomies
CSETv0, CSETv1, GMF, MIT

Classifications de taxonomie CSETv0

Détails de la taxonomie

Problem Nature

Indicates which, if any, of the following types of AI failure describe the incident: "Specification," i.e. the system's behavior did not align with the true intentions of its designer, operator, etc; "Robustness," i.e. the system operated unsafely because of features or changes in its environment, or in the inputs the system received; "Assurance," i.e. the system could not be adequately monitored or controlled during operation.
 

Unknown/unclear

Physical System

Where relevant, indicates whether the AI system(s) was embedded into or tightly associated with specific types of hardware.
 

Software only

Level of Autonomy

The degree to which the AI system(s) functions independently from human intervention. "High" means there is no human involved in the system action execution; "Medium" means the system generates a decision and a human oversees the resulting action; "low" means the system generates decision-support output and a human makes a decision and executes an action.
 

High

Nature of End User

"Expert" if users with special training or technical expertise were the ones meant to benefit from the AI system(s)’ operation; "Amateur" if the AI systems were primarily meant to benefit the general public or untrained users.
 

Expert

Public Sector Deployment

"Yes" if the AI system(s) involved in the accident were being used by the public sector or for the administration of public goods (for example, public transportation). "No" if the system(s) were being used in the private sector or for commercial purposes (for example, a ride-sharing company), on the other.
 

No

Data Inputs

A brief description of the data that the AI system(s) used or were trained on.
 

Advertiser's preference, Google user's search history, Google user's purchase history

Classifications de taxonomie CSETv1

Détails de la taxonomie

Incident Number

The number of the incident in the AI Incident Database.
 

19

Special Interest Intangible Harm

An assessment of whether a special interest intangible harm occurred. This assessment does not consider the context of the intangible harm, if an AI was involved, or if there is characterizable class or subgroup of harmed entities. It is also not assessing if an intangible harm occurred. It is only asking if a special interest intangible harm occurred.
 

yes

Date of Incident Year

The year in which the incident occurred. If there are multiple harms or occurrences of the incident, list the earliest. If a precise date is unavailable, but the available sources provide a basis for estimating the year, estimate. Otherwise, leave blank. Enter in the format of YYYY
 

2013

Date of Incident Month

The month in which the incident occurred. If there are multiple harms or occurrences of the incident, list the earliest. If a precise date is unavailable, but the available sources provide a basis for estimating the month, estimate. Otherwise, leave blank. Enter in the format of MM
 

01

Date of Incident Day

The day on which the incident occurred. If a precise date is unavailable, leave blank. Enter in the format of DD
 

13

Estimated Date

“Yes” if the data was estimated. “No” otherwise.
 

No

Classifications de taxonomie MIT

Machine-Classified
Détails de la taxonomie

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

1.1. Unfair discrimination and misrepresentation

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Discrimination and Toxicity

Entity

Which, if any, entity is presented as the main cause of the risk
 

AI

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Unintentional

Rapports d'incidents

Chronologie du rapport

+7
Discrimination dans la diffusion d'annonces en ligne
+13
Google accusé de racisme après que les noms noirs sont 25% plus susceptibles de faire apparaître des publicités pour des vérifications de casier judiciaire
À quel point votre nom compte-t-il ?+1
Explorer le côté obscur du système de ciblage publicitaire de Google
Combattre les biais algorithmiques et la pensée homogène dans l'IALes ordinateurs peuvent-ils être racistes ? Mégadonnées, inégalités et discriminationGoogle dénonce la discrimination raciale dans la diffusion d'annonces en ligne - étude
Discrimination dans la diffusion d'annonces en ligne

Discrimination dans la diffusion d'annonces en ligne

arxiv.org

Discrimination dans la diffusion d'annonces en ligne

Discrimination dans la diffusion d'annonces en ligne

dataprivacylab.org

Le racisme intégré détermine le placement publicitaire en ligne

Le racisme intégré détermine le placement publicitaire en ligne

privacyinternational.org

Les recherches sur Google révèlent des préjugés raciaux, selon une étude de noms

Les recherches sur Google révèlent des préjugés raciaux, selon une étude de noms

bbc.com

Le racisme empoisonne la diffusion d'annonces en ligne, déclare un professeur de Harvard

Le racisme empoisonne la diffusion d'annonces en ligne, déclare un professeur de Harvard

technologyreview.com

Google un nom « noir », obtenir une annonce d'arrestation ?

Google un nom « noir », obtenir une annonce d'arrestation ?

theroot.com

Les résultats de recherche Google "montrent des préjugés raciaux"

Les résultats de recherche Google "montrent des préjugés raciaux"

telegraph.co.uk

Google accusé de racisme après que les noms noirs sont 25% plus susceptibles de faire apparaître des publicités pour des vérifications de casier judiciaire

Google accusé de racisme après que les noms noirs sont 25% plus susceptibles de faire apparaître des publicités pour des vérifications de casier judiciaire

dailymail.co.uk

Une étude révèle que les annonces de recherche Google sont racistes

Une étude révèle que les annonces de recherche Google sont racistes

businessinsider.com

Un professeur de Harvard affirme que les noms "noirs" dans les recherches Google sont plus susceptibles de proposer des annonces d'arrestation

Un professeur de Harvard affirme que les noms "noirs" dans les recherches Google sont plus susceptibles de proposer des annonces d'arrestation

archive.boston.com

Googler peut-il être raciste ?

Googler peut-il être raciste ?

theguardian.com

Les annonces de recherche en ligne exposent les préjugés raciaux, selon une étude

Les annonces de recherche en ligne exposent les préjugés raciaux, selon une étude

phys.org

Les résultats d'annonces en ligne de Google coupables de profilage racial, selon une nouvelle étude

Les résultats d'annonces en ligne de Google coupables de profilage racial, selon une nouvelle étude

huffingtonpost.com

La diffusion d'annonces Google peut montrer des "préjugés raciaux", selon une étude de Harvard

La diffusion d'annonces Google peut montrer des "préjugés raciaux", selon une étude de Harvard

abcnews.go.com

Google Ads révèle un biais contre les Afro-Américains, révèle une étude de l'Université de Harvard

Google Ads révèle un biais contre les Afro-Américains, révèle une étude de l'Université de Harvard

sitepronews.com

Un professeur de Harvard repère un biais de recherche sur le Web

Un professeur de Harvard repère un biais de recherche sur le Web

bostonglobe.com

Les résultats d'annonces Google sont-ils coupables de profilage racial ?

Les résultats d'annonces Google sont-ils coupables de profilage racial ?

cio.com

Google est-il raciste ou est-ce le reste d'entre nous ?

Google est-il raciste ou est-ce le reste d'entre nous ?

forbes.com

Chercheur de Harvard : les annonces générées par Google montrent des préjugés raciaux

Chercheur de Harvard : les annonces générées par Google montrent des préjugés raciaux

thecrimson.com

Discrimination dans la diffusion d'annonces en ligne

Discrimination dans la diffusion d'annonces en ligne

queue.acm.org

Latanya Sweeney, Discrimination raciale dans la diffusion d'annonces en ligne

Latanya Sweeney, Discrimination raciale dans la diffusion d'annonces en ligne

sites.law.berkeley.edu

À quel point votre nom compte-t-il ?

À quel point votre nom compte-t-il ?

freakonomics.com

Explorer le côté obscur du système de ciblage publicitaire de Google

Explorer le côté obscur du système de ciblage publicitaire de Google

technologyreview.com

Les femmes sont moins susceptibles de voir des annonces pour des emplois bien rémunérés sur Google, selon une étude

Les femmes sont moins susceptibles de voir des annonces pour des emplois bien rémunérés sur Google, selon une étude

theguardian.com

Combattre les biais algorithmiques et la pensée homogène dans l'IA

Combattre les biais algorithmiques et la pensée homogène dans l'IA

topbots.com

Les ordinateurs peuvent-ils être racistes ? Mégadonnées, inégalités et discrimination

Les ordinateurs peuvent-ils être racistes ? Mégadonnées, inégalités et discrimination

fordfoundation.org

Google dénonce la discrimination raciale dans la diffusion d'annonces en ligne - étude

Google dénonce la discrimination raciale dans la diffusion d'annonces en ligne - étude

rt.com

Discrimination dans la diffusion d'annonces en ligne
arxiv.org · 2013
Traduit par IA

Une recherche sur Google pour le nom d'une personne, telle que "Trevon Jones", peut générer une annonce personnalisée pour des dossiers publics sur Trevon qui peut être neutre, comme "Vous recherchez Trevon Jones ?", ou peut suggérer un dos…

Discrimination dans la diffusion d'annonces en ligne
dataprivacylab.org · 2013
Traduit par IA

Questions fréquemment posées

  1. Le taux d'arrestation des Noirs n'est-il pas plus élevé de toute façon ?

Les annonces apparaissent indépendamment du fait que l'entreprise qui parraine l'annonce ait un casier judiciaire pour le nom. L'apparit…

Le racisme intégré détermine le placement publicitaire en ligne
privacyinternational.org · 2013
Traduit par IA

En 2013, Latanya Sweeney, professeure à Harvard, a découvert que la discrimination raciale imprègne la diffusion de publicités en ligne. Dans une étude, elle a découvert que les recherches sur des noms d'identification noirs tels que Revon,…

Les recherches sur Google révèlent des préjugés raciaux, selon une étude de noms
bbc.com · 2013
Traduit par IA

Image caption Le professeur Sweeney a déclaré que la technologie pourrait être utilisée pour lutter contre l'intolérance raciale

Une étude des recherches Google a révélé une "discrimination significative" dans les résultats des annonces en …

Le racisme empoisonne la diffusion d'annonces en ligne, déclare un professeur de Harvard
technologyreview.com · 2013
Traduit par IA

"As-tu déjà été arrêté? Imaginez que la question n'apparaisse pas dans la solitude de vos pensées pendant que vous lisez cet article, mais apparaît explicitement chaque fois que quelqu'un interroge votre nom dans un moteur de recherche.

Cap…

Google un nom « noir », obtenir une annonce d'arrestation ?
theroot.com · 2013
Traduit par IA

Insérez un nom dans Google et vous risquez de vous retrouver avec des publicités correspondantes à côté de vos résultats. Devinez quels types de noms sont les plus susceptibles de générer des publicités liées à une arrestation suggérant que…

Les résultats de recherche Google "montrent des préjugés raciaux"
telegraph.co.uk · 2013
Traduit par IA

Selon l'article de l'Université de Harvard, les noms généralement associés aux Noirs sont plus susceptibles de produire des publicités liées à des activités criminelles.

Une recherche sur Google pour un nom tel que Tom Smith peut faire appa…

Google accusé de racisme après que les noms noirs sont 25% plus susceptibles de faire apparaître des publicités pour des vérifications de casier judiciaire
dailymail.co.uk · 2013
Traduit par IA

Google accusé de racisme après que les noms noirs sont 25% plus susceptibles de faire apparaître des publicités pour des vérifications de casier judiciaire

Le professeur constate une « discrimination importante » dans les résultats des anno…

Une étude révèle que les annonces de recherche Google sont racistes
businessinsider.com · 2013
Traduit par IA

Selon une nouvelle étude, les publicités rattachées aux résultats de recherche Google peuvent être biaisées sur le plan racial en raison de la façon dont certains noms sont associés aux Noirs ou aux Blancs.

Latanya Sweeney, professeure à l'…

Un professeur de Harvard affirme que les noms "noirs" dans les recherches Google sont plus susceptibles de proposer des annonces d'arrestation
archive.boston.com · 2013
Traduit par IA

Google biaise-t-il les annonces qu'il diffuse en fonction du fait qu'un nom sonne "noir" ?

C'est la conclusion d'un article du professeur de Harvard Latanya Sweeney, qui a écrit dans son article que les recherches sur des noms pouvant être …

Googler peut-il être raciste ?
theguardian.com · 2013
Traduit par IA

Lecteurs, je déteste vous le dire, mais selon Harvard, Internet est raciste. Je vous suggère de cesser de l'utiliser immédiatement à moins que vous ne vouliez que votre patronage de Google et al noircisse votre nom. En fait, euh, attendez p…

Les annonces de recherche en ligne exposent les préjugés raciaux, selon une étude
phys.org · 2013
Traduit par IA

La page de recherche Google apparaît sur un écran d'ordinateur à Washington le 30 août 2010. Selon une nouvelle étude, les publicités liées aux résultats de recherche Google peuvent être racistes en raison de la façon dont certains noms son…

Les résultats d'annonces en ligne de Google coupables de profilage racial, selon une nouvelle étude
huffingtonpost.com · 2013
Traduit par IA

Chaque candidat à un emploi vit dans la crainte qu'une recherche sur Google puisse révéler des indiscrétions incriminantes d'un passé lointain. Mais une nouvelle étude examinant les préjugés raciaux dans le libellé des publicités en ligne s…

La diffusion d'annonces Google peut montrer des "préjugés raciaux", selon une étude de Harvard
abcnews.go.com · 2013
Traduit par IA

Selon une étude d'un professeur de Harvard, une recherche Google pour un "nom associé à une race" est plus susceptible de déclencher des publicités suggérant que la personne a un passé criminel.

Latanya Sweeney, professeur de gouvernement e…

Google Ads révèle un biais contre les Afro-Américains, révèle une étude de l'Université de Harvard
sitepronews.com · 2013
Traduit par IA

6 février 2013

"Arrest" apparaît avec une plus grande fréquence dans les publicités comportant des noms "noirs"

La diffusion d'annonces Google comporte d'importants préjugés raciaux, selon une étude réalisée par un professeur de l'Universit…

Un professeur de Harvard repère un biais de recherche sur le Web
bostonglobe.com · 2013
Traduit par IA

Résultats de la page Web des publicités qui sont apparues à l'écran lorsque la professeure de Harvard Latanya Sweeney a tapé son nom dans une recherche Google. Les publicités présentaient des services pour les dossiers d'arrestation. Sweene…

Les résultats d'annonces Google sont-ils coupables de profilage racial ?
cio.com · 2013
Traduit par IA

L'algorithme de recherche de Google est-il coupable de racisme ? Une étude menée par un chercheur de Harvard a révélé que cela pourrait être le cas.

La professeure Latanya Sweeney dit avoir trouvé une "discrimination statistiquement signifi…

Google est-il raciste ou est-ce le reste d'entre nous ?
forbes.com · 2013
Traduit par IA

Une jolie petite étude qui montre que les publicités diffusées parallèlement aux recherches Google pourraient, si vous étiez dans ce sens, être considérées comme quelque peu racistes :

Une étude récente des recherches Google par le professe…

Chercheur de Harvard : les annonces générées par Google montrent des préjugés raciaux
thecrimson.com · 2013
Traduit par IA

MISE À JOUR : 20 février 2013 à 10 h 35

Un chercheur de Harvard a découvert que les noms typiquement afro-américains sont plus susceptibles d'être liés à un casier judiciaire dans les publicités générées par Google sur le moteur de recherch…

Discrimination dans la diffusion d'annonces en ligne
queue.acm.org · 2013
Traduit par IA

Le numéro de janvier/février 2019 d'acmqueue est maintenant disponible

Les abonnés et les membres ACM Professional se connectent ici

PDF

2 avril 2013

Tome 11, numéro 3

Discrimination dans la diffusion d'annonces en ligne

Annonces Google, no…

Latanya Sweeney, Discrimination raciale dans la diffusion d'annonces en ligne
sites.law.berkeley.edu · 2013
Traduit par IA

Latanya Sweeney, Discrimination raciale dans la diffusion d'annonces en ligne

Commentaire de : Margaret Hu

PLSC 2013

Version publiée disponible ici : http://papers.ssrn.com/sol3/papers.cfm?abstract_id=2208240

Projet de résumé de l'atelier :…

À quel point votre nom compte-t-il ?
freakonomics.com · 2013
Traduit par IA

Écoute maintenant:

Saison 4, épisode 2

Un jour, lorsque Latanya Sweeney, professeure à Harvard, a recherché son nom sur Google, elle a remarqué quelque chose d'étrange : une annonce pour un site Web de vérification des antécédents est appar…

Explorer le côté obscur du système de ciblage publicitaire de Google
technologyreview.com · 2015
Traduit par IA

Que Google et d'autres sociétés suivent nos mouvements sur le Web pour nous cibler avec des publicités est bien connu. Comment exactement ces informations sont utilisées ne l'est pas, mais un document de recherche présenté la semaine derniè…

Les femmes sont moins susceptibles de voir des annonces pour des emplois bien rémunérés sur Google, selon une étude
theguardian.com · 2015
Traduit par IA

Les chercheuses d'emploi sont beaucoup moins susceptibles que les hommes de voir des annonces sur Google pour des emplois bien rémunérés, ont constaté des chercheurs.

L'équipe de chercheurs de Carnegie Mellon a construit une plate-forme de …

Combattre les biais algorithmiques et la pensée homogène dans l'IA
topbots.com · 2017
Traduit par IA

Lorsque Timnit Gebru a assisté à une prestigieuse conférence de recherche sur l'IA l'année dernière, elle a compté 6 personnes noires dans le public sur environ 8 500. Et une seule femme noire : elle-même.

En tant que doctorant à l'Universi…

Les ordinateurs peuvent-ils être racistes ? Mégadonnées, inégalités et discrimination
fordfoundation.org · 2018
Traduit par IA

Il semble que tout le monde parle de la puissance du Big Data et de la manière dont il aide les entreprises, les gouvernements et les organisations à prendre des décisions meilleures et plus efficaces. Mais ils mentionnent rarement que les …

Google dénonce la discrimination raciale dans la diffusion d'annonces en ligne - étude
rt.com · 2019
Traduit par IA

Les algorithmes de recherche de Google révèlent la discrimination raciale, selon une nouvelle étude d'un professeur de Harvard. Il affirme que les publicités liées aux casiers judiciaires sont plus susceptibles d'apparaître lorsque des "nom…

Variantes

Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

Gender Biases of Google Image Search

Google Image Search Has A Gender Bias Problem

Apr 2015 · 11 rapports
COMPAS Algorithm Performs Poorly in Crime Recidivism Prediction

A Popular Algorithm Is No Better at Predicting Crimes Than Random People

May 2016 · 22 rapports
Biased Google Image Results

'Black teenagers' vs. 'white teenagers': Why Google's algorithm displays racist results

Mar 2016 · 18 rapports
Incident précédentProchain incident

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

Gender Biases of Google Image Search

Google Image Search Has A Gender Bias Problem

Apr 2015 · 11 rapports
COMPAS Algorithm Performs Poorly in Crime Recidivism Prediction

A Popular Algorithm Is No Better at Predicting Crimes Than Random People

May 2016 · 22 rapports
Biased Google Image Results

'Black teenagers' vs. 'white teenagers': Why Google's algorithm displays racist results

Mar 2016 · 18 rapports

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • ecd56df