Journal des citations pour l'incident 88
Entités
Voir toutes les entitésStatistiques d'incidents
Classifications de taxonomie CSETv0
Détails de la taxonomieFull Description
In October 2020, Google images showed anti-semitic images of a portable oven when a user searches "Jewish baby stroller" due to anti-semitic online groups tagging these anti-semitic images with the tag "Jewish baby stroller." Google claims this is a result of 'voids of information' or the algorithm being unable to decipher the image and relying on the images' tags.
Short Description
In October 2020, results for "Jewish baby stroller" on Google Images showed anti-semitic images as a result of organized online targeting by anti-Semitic online groups.
Severity
Minor
Harm Distribution Basis
Religion
Harm Type
Psychological harm
AI System Description
The Google image algorithm uses image recognition and appended text or tags to classify images.
System Developer
Sector of Deployment
Information and communication
Relevant AI functions
Perception, Cognition, Action
AI Techniques
supervised learning, open source
AI Applications
image recognition, image classification, recommendation engine
Location
Global
Named Entities
Google Images, Google, raid
Technology Purveyor
Google, raid
Beginning Date
10/2020
Ending Date
10/2020
Near Miss
Harm caused
Intent
Deliberate or expected
Lives Lost
No
Data Inputs
images, tags, appended texts, user input
Rapports d'incidents
Chronologie du rapport
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
(JTA) — Les résultats de Google sont choquants : faites une recherche d'image pour "poussettes juives" et vous verrez des rangées de fours portables — une allusion offensante au Holocauste.
Google dit qu'il examine les résultats de recherch…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Le mouvement antisémite est en hausse coordonné par un groupe en ligne nommé « raid ». Ils fonctionnent en manipulant les résultats du moteur de recherche d'images Google en joignant des images abusives étiquetées avec des mots-clés innocen…
Variantes
Incidents similaires
Did our AI mess up? Flag the unrelated incidents
Incidents similaires
Did our AI mess up? Flag the unrelated incidents