Entités
Voir toutes les entitésStatistiques d'incidents
Classifications de taxonomie CSETv0
Détails de la taxonomieFull Description
In June 2020, the Detroit Police Department wrongfully arrested Robert Julian-Borchak Williams after facial recognition techonology provided by DataWorks Plus had mistaken Williams for a black man who was recorded on a CCTV camera stealing. This incident is cited as an instance where facial recognition continues to possess racial bias, especially towards the Black and Asian population.
Short Description
The Detroit Police Department wrongfully arrest a black man due to its faulty facial recognition program provided by Dataworks Plus.
Severity
Moderate
Harm Distribution Basis
Race
Harm Type
Harm to civil liberties
AI System Description
DataWorks Plus facial recognition software was provided to the Detroit Police Department and focuses on biometrics storage and matching, including fingerprints, palm prints, irises, tattoos, and mugshots.
System Developer
DataWorks Plus
Sector of Deployment
Public administration and defence
Relevant AI functions
Perception, Cognition, Action
AI Techniques
facial recognition, machine learning, environmental sensing
AI Applications
Facial recognition, environmental sensing, biometrics, image recognition, speech recognition
Location
United States (Detroit, Michigan)
Named Entities
Detroit Police Department, DataWorks Plus
Technology Purveyor
DataWorks Plus
Beginning Date
06/2020
Ending Date
06/2020
Near Miss
Harm caused
Intent
Accident
Lives Lost
No
Data Inputs
biometrics, images, camera footage
Classifications de taxonomie GMF
Détails de la taxonomieKnown AI Goal
Face Recognition
Known AI Technology
Face Detection
Potential AI Technology
Convolutional Neural Network, Distributional Learning
Potential AI Technical Failure
Dataset Imbalance, Generalization Failure, Underfitting, Covariate Shift
Rapports d'incidents
Chronologie du rapport
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
La police de Detroit a arrêté à tort Robert Julian-Borchak Williams en janvier 2020 [pour un vol à l'étalage qui avait eu lieu deux ans plus tôt](https://www.nytimes.com/2020/06/24/technology/facial-recognition-arrest. html). Même si Willia…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
"Remarque : en réponse à cet article, le bureau du procureur du comté de Wayne a déclaré que Robert Julian-Borchak Williams pourrait faire effacer l'affaire et ses données d'empreintes digitales. "Nous nous excusons", a déclaré le procureur…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
** Mis à jour à 21h05. HE mercredi**
La police de Detroit tentait de déterminer qui avait volé cinq montres dans un magasin de détail Shinola. Les autorités disent que le voleur a décollé avec une valeur estimée à 3 800 $ de marchandises.
L…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Mercredi matin, l'ACLU a annoncé qu'elle déposait une plainte contre le département de police de Detroit au nom de Robert Williams, un résident noir du Michigan qui le groupe a déclaré être l'une des premières personnes faussement arrêtées …
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
La police de Detroit a utilisé une technologie de reconnaissance faciale très peu fiable presque exclusivement contre les Noirs jusqu'à présent en 2020, selon les propres statistiques du département de police de Detroit. L'utilisation de la…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Préjugés raciaux et reconnaissance faciale. Un homme noir du New Jersey arrêté par la police et passe dix jours en prison après un faux match de reconnaissance faciale
Les préoccupations concernant l'exactitude et les préjugés raciaux conce…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Teaneck vient d'interdire la technologie de reconnaissance faciale pour la police. Voici pourquoi
Show Caption Hide Caption Programme de reconnaissance faciale qui fonctionne même si vous portez un masque Une entreprise japonaise affirme av…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Un homme du Michigan a poursuivi la police de Detroit après avoir été arrêté à tort et identifié à tort comme un suspect de vol à l'étalage par le logiciel de reconnaissance faciale du département dans l'un des premiers procès du genre à re…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Depuis qu'un officier de police de Minneapolis a tué George Floyd en mars 2020 et a relancé des manifestations massives de Black Lives Matter, les communautés à travers le pays ont repensé l'application de la loi, de l'examen granulaire des…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
ROBERT WILLIAMS travaillait dans le jardin avec sa famille un après-midi d'août dernier lorsque sa fille Julia a dit qu'ils avaient besoin d'une réunion de famille immédiatement. Une fois que tout le monde fut à l'intérieur de la maison, la…
Variantes
Incidents similaires
Did our AI mess up? Flag the unrelated incidents
Gunshot detection system gets mixed reviews nationally
Policing the Future
Incidents similaires
Did our AI mess up? Flag the unrelated incidents
Gunshot detection system gets mixed reviews nationally