Journal des citations pour l'incident 114

Description: Rekognition's face comparison feature was shown by the ACLU to have misidentified members of congress, and particularly members of colors, as other people who have been arrested using a mugshot database built on publicly available arrest photos.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique
Présumé : Un système d'IA développé et mis en œuvre par Amazon, endommagé Rekognition users and arrested people.

Statistiques d'incidents

ID
114
Nombre de rapports
1
Date de l'incident
2018-07-26
Editeurs
Sean McGregor, Khoa Lam
La reconnaissance faciale d'Amazon correspond à tort à 28 membres du Congrès avec des mugshots
aclu.org · 2018

La technologie de surveillance faciale d'Amazon est la cible d'une opposition croissante à l'échelle nationale, et aujourd'hui, il y a 28 autres sujets de préoccupation. Lors d'un test récemment effectué par l'ACLU sur l'outil de reconnaiss…

Variantes

Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents