Journal des citations pour l'incident 16

Description: Google Photos image processing software mistakenly labelled a black couple as "gorillas."

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique
Présumé : Un système d'IA développé et mis en œuvre par Google, endommagé Black people.

Statistiques d'incidents

ID
16
Nombre de rapports
24
Date de l'incident
2015-06-03
Editeurs
Sean McGregor, Kevin Paeth

Classifications de taxonomie CSETv0

Détails de la taxonomie

Full Description

Google's Google Photo image processing software "mistakenly labelled a black couple as being 'gorillas.'" The error occurred in the software's image processing that attempts to assign themes to groups of similar photos. In this example, the suggested themes were "Graduation, Bikes, Planes, Skyscrapers, Cars, and Gorillas."

Short Description

Google Photos image processing software mistakenly labelled a black couple as "gorillas."

Severity

Minor

Harm Distribution Basis

Race

Harm Type

Psychological harm, Harm to social or political systems

AI System Description

Google's Google Photo Image Processing

System Developer

Google

Sector of Deployment

Arts, entertainment and recreation

Relevant AI functions

Perception, Cognition

AI Techniques

image classification

AI Applications

image processing, facial recognition, image classification

Location

Global

Named Entities

Google, Google Photos

Technology Purveyor

Google

Beginning Date

2015-06-29

Ending Date

2015-06-29

Near Miss

Harm caused

Intent

Accident

Lives Lost

No

Data Inputs

photographs, images, multi-media content

Classifications de taxonomie GMF

Détails de la taxonomie

Known AI Goal

Image Tagging

Known AI Technology

Face Detection, Convolutional Neural Network, Keyword Filtering

Known AI Technical Failure

Underfitting

Potential AI Technical Failure

Dataset Imbalance, Context Misidentification

Classifications de taxonomie CSETv1

Détails de la taxonomie

Harm Distribution Basis

race

Sector of Deployment

information and communication

Google Photos qualifie les Noirs de "gorilles"
telegraph.co.uk · 2015

Google a supprimé la balise "gorille" de sa nouvelle application Photos, après qu'un utilisateur a remarqué qu'elle avait déposé un certain nombre de photos de lui et de son ami noir dans un album généré automatiquement nommé "gorilles".

L'…

Google Photos identifie les Noirs comme des « gorilles » et place les photos dans un dossier spécial
independent.co.uk · 2015

L'algorithme de reconnaissance d'images de Google étiquette les photos de personnes noires comme des gorilles et les place dans un album spécial.

Le logiciel de reconnaissance automatique est destiné à repérer les caractéristiques des photo…

Google s'excuse pour la bévue raciste de l'application Photos
bbc.com · 2015

M. Alcine a tweeté Google sur le fait que son application avait mal classé sa photo

Google se dit "consterné" que sa nouvelle application Photos ait qualifié à tort un couple noir de "gorilles".

Son produit marque automatiquement les images…

Google Photos a identifié deux Noirs comme des "gorilles"
mashable.com · 2015

Google Photos utilise un logiciel sophistiqué de reconnaissance faciale pour identifier non seulement les individus, mais également des catégories spécifiques d'objets et de types de photos, comme la nourriture, les chats et les horizons.

C…

Google Photos a identifié les Noirs comme des "gorilles", mais les logiciels racistes ne sont pas nouveaux
splinternews.com · 2015

Google a récemment été critiqué pour un "pépin" objectivement raciste trouvé dans sa nouvelle application Photos pour iOS et Android qui identifie les Noirs comme des "gorilles".

En théorie, Photos est censé agir comme un assistant numériqu…

Google s'excuse pour le marquage automatique raciste dans l'application photo
theguardian.com · 2015

Google s'est excusé après que sa nouvelle application photo ait qualifié deux Noirs de "gorilles".

Le service photo, lancé en mai, marque automatiquement les photos téléchargées à l'aide de son propre logiciel d'intelligence artificielle.

"…

L'application Google Photos identifie Jacky Alcine noir et son ami comme des GORILLES
dailymail.co.uk · 2015

Google a été contraint de s'excuser après que son logiciel de reconnaissance d'images ait mal étiqueté des photographies de personnes noires comme des gorilles.

La nouvelle application Google Photos du géant de l'Internet utilise une foncti…

Google se précipite pour réparer un logiciel qui a servi d'insulte raciale
edition.cnn.com · 2015

Faits saillants de l'histoire Google Photos a marqué les photos d'un homme afro-américain de lui et d'un ami comme "Gorilles"

Il a souligné le problème sur Twitter, attirant l'attention d'un ingénieur de Google

(CNN) Lorsque Jacky Alcine a …

Étiquettes d'application Google Photo Couple noir 'Gorilles'
news.sky.com · 2015

Google s'est dit "vraiment désolé" après que son logiciel de reconnaissance d'images ait qualifié les photographies d'un couple noir de "gorilles".

L'application Google Photos, lancée en mai, utilise un outil de marquage automatique pour ai…

Google identifie par erreur les Noirs comme des «gorilles», montrant les limites des algorithmes
blogs.wsj.com · 2015

Google est un leader de l'intelligence artificielle et de l'apprentissage automatique. Mais les ordinateurs de l'entreprise ont encore beaucoup à apprendre, à en juger par une erreur majeure de son application Photos cette semaine.

L'applic…

Google Photos qualifie les Noirs de "gorilles"
usatoday.com · 2015

Google a lancé son application Photos lors de Google I/O en mai. Ici, les membres du personnel attendent pour enregistrer les participants à la conférence au Moscone Center de San Francisco. (Photo : Jeff Chiu, Associated Press)

SAN FRANCIS…

Google s'excuse après que l'application ait qualifié par erreur les Noirs de "gorilles"
cbc.ca · 2015

Google a été critiqué après que la fonction de reconnaissance d'images de son application Photos ait identifié par erreur les personnes à la peau foncée comme des "gorilles".

Jacky Alciné de New York a tweeté dimanche une photo de lui et d'…

Google s'excuse d'avoir mal étiqueté des photos d'Afro-Américains
cbsnews.com · 2015

Google n'a pas tardé à répondre au cours du week-end à un utilisateur après avoir tweeté que la nouvelle application Google Photos avait mal classé une photo de lui et de son ami de manière malheureuse et offensante.

Jacky Alciné, un progra…

Google Photos identifie deux Afro-Américains comme des gorilles grâce à un logiciel de reconnaissance faciale
forbes.com · 2015

Lorsque Jacky Alcine, originaire de Brooklyn, s'est connecté à Google Photos dimanche soir, il a été choqué de trouver un album intitulé "Gorilles", dans lequel le logiciel de reconnaissance faciale le catégorisait, lui et son ami, comme de…

Google Photos qualifie par erreur les Noirs de « gorilles »
bits.blogs.nytimes.com · 2015

Google a continué de s'excuser mercredi pour une faille dans Google Photos, qui a été publiée en grande pompe en mai, qui a conduit la nouvelle application à étiqueter par erreur des photos de personnes noires comme "gorilles".

La société a…

Google s'excuse d'avoir identifié des photos de personnes noires comme des "gorilles"
huffingtonpost.com · 2015

Lorsque Jacky Alciné a vérifié son application Google Photos plus tôt cette semaine, il a remarqué qu'elle étiquetait des photos de lui et d'un ami, tous deux noirs, comme des "gorilles".

Le programmeur de Brooklyn a posté ses captures d'éc…

Pourquoi Google "pensait" que cette femme noire était un gorille
wnycstudios.org · 2015

Partagez ceci sur Twitter (Ouvre dans une nouvelle fenêtre)

Partagez ceci sur Facebook (Ouvre dans une nouvelle fenêtre)

Partagez ceci sur Twitter (Ouvre dans une nouvelle fenêtre)

Partagez ceci sur Facebook (Ouvre dans une nouvelle fenêtre…

Google Photos a toujours un problème avec les gorilles
technologyreview.com · 2018

En 2015, Google a suscité des critiques lorsque son système de reconnaissance d'images Photos a qualifié à tort une femme noire de gorille, mais deux ans plus tard, le problème n'est toujours pas correctement résolu. Au lieu de cela, Google…

Quand il s'agit de gorilles, Google Photos reste aveugle
wired.com · 2018

En 2015, un développeur de logiciels noir a embarrassé Google en tweetant que le service Photos de l'entreprise avait qualifié les photos de lui avec un ami noir de "gorilles". Google s'est déclaré "consterné et sincèrement désolé". Un ingé…

Google a supprimé les gorilles de la recherche pour corriger l'algorithme raciste
nymag.com · 2018

Cela fait plus de deux ans que l'ingénieur Jacky Alciné a appelé Google Photos pour marquer automatiquement les Noirs sur ses photos en tant que "gorilles". Après avoir été appelé, Google s'est rapidement et abondamment excusé, promettant d…

Deux ans plus tard, Google résout le problème de "l'algorithme raciste" en supprimant l'étiquette "gorille" du classificateur d'images
boingboing.net · 2018

Deux ans plus tard, Google résout le problème de "l'algorithme raciste" en supprimant l'étiquette "gorille" du classificateur d'images

En 2015, un développeur de logiciels noir nommé Jacky Alciné a révélé que le classificateur d'images util…

La solution de Google au racisme algorithmique accidentel : bannir les gorilles
theguardian.com · 2018

L'"action immédiate" de Google sur l'étiquetage par l'IA des Noirs en tant que gorilles consistait simplement à bloquer le mot, ainsi que le chimpanzé et le singe, selon des rapports

Cet article date de plus d'un an

Cet article date de plus…

Google a « corrigé » son algorithme qui classait les gens dans la catégorie des « gorilles » avec une solution pas si élégante
firstpost.com · 2018

tech2 Nouvelles Personnel

Vous souvenez-vous du moment où l'algorithme de reconnaissance d'images de Google a créé une controverse majeure après avoir classé un couple noir dans la catégorie "Gorilles" ?

Si vous ne le faites pas, nous ne vo…

L'application photo de Google ne trouve toujours pas les gorilles. Et Apple non plus.
nytimes.com · 2023

Huit ans après une controverse sur les Noirs étiquetés à tort comme des gorilles par un logiciel d'analyse d'images – et malgré de grandes avancées dans la vision par ordinateur – les géants de la technologie craignent toujours de répéter l…

Variantes

Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.