Journal des citations pour l'incident 154

Description: Department of Justice’s inmate-recidivism risk assessment tool was reported to have produced racially uneven results, misclassifying risk levels for inmates of color.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique
Présumé : Un système d'IA développé et mis en œuvre par US Department of Justice, endommagé inmates of color.

Statistiques d'incidents

ID
154
Nombre de rapports
1
Date de l'incident
2022-01-26
Editeurs
Sean McGregor, Khoa Lam

Classifications de taxonomie GMF

Détails de la taxonomie

Known AI Goal

Recidivism Prediction

Potential AI Technology

Diverse Data, Distributional Learning

Known AI Technical Failure

Lack of Transparency, Misconfigured Threshold

Potential AI Technical Failure

Incomplete Data Attribute Capture, Distributional Bias

Des failles affectent un outil destiné à aider les prisonniers fédéraux à faible risque à obtenir une libération anticipée
npr.org · 2022

Des milliers de personnes sortent de prison fédérale ce mois-ci grâce à une loi appelée First Step Act, qui leur a permis d'obtenir une libération anticipée en participant à des programmes visant à faciliter leur retour dans la société.

Mai…

Variantes

Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents