インシデント 154の引用情報

Description: Department of Justice’s inmate-recidivism risk assessment tool was reported to have produced racially uneven results, misclassifying risk levels for inmates of color.

組織

すべての組織を表示
Alleged: US Department of Justice developed and deployed an AI system, which harmed inmates of color.

インシデントのステータス

インシデントID
154
レポート数
1
インシデント発生日
2022-01-26
エディタ
Sean McGregor, Khoa Lam
Applied Taxonomies
GMF, CSETv1, MIT

CSETv1 分類法のクラス

分類法の詳細

Incident Number

154

GMF 分類法のクラス

分類法の詳細

Known AI Goal Snippets

(Snippet Text: In a report issued days before Christmas in 2021, the department said its algorithmic tool for assessing the risk that a person in prison would return to crime produced uneven results. , Related Classifications: Recidivism Prediction)

MIT 分類法のクラス

Machine-Classified
分類法の詳細

Risk Subdomain

1.1. Unfair discrimination and misrepresentation

Risk Domain

  1. Discrimination and Toxicity

Entity

AI

Timing

Post-deployment

Intent

Unintentional

インシデントレポート

レポートタイムライン

+1
Flaws plague a tool meant to help low-risk federal prisoners win early release
Flaws plague a tool meant to help low-risk federal prisoners win early release
npr.org · 2022

Thousands of people are leaving federal prison this month thanks to a law called the First Step Act, which allowed them to win early release by participating in programs aimed at easing their return to society.

But thousands of others may s…

バリアント

「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください

よく似たインシデント

テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

COMPAS Algorithm Performs Poorly in Crime Recidivism Prediction

A Popular Algorithm Is No Better at Predicting Crimes Than Random People

· 22 レポート
Kronos Scheduling Algorithm Allegedly Caused Financial Issues for Starbucks Employees

Working Anything but 9 to 5

· 10 レポート
Kidney Testing Method Allegedly Underestimated Risk of Black Patients

How an Algorithm Blocked Kidney Transplants to Black Patients

· 3 レポート
前のインシデント次のインシデント