インシデント 154の引用情報
Description: Department of Justice’s inmate-recidivism risk assessment tool was reported to have produced racially uneven results, misclassifying risk levels for inmates of color.
推定: US Department of Justiceが開発し提供したAIシステムで、inmates of colorに影響を与えた
インシデントのステータス
インシデントID
154
レポート数
1
インシデント発生日
2022-01-26
エディタ
Sean McGregor, Khoa Lam
GMF 分類法のクラス
分類法の詳細Known AI Goal
An AI Goal which is almost certainly pursued by the AI system referenced in the incident.
Recidivism Prediction
Potential AI Technology
An AI Method / Technology which probably is a part of the implementation of the AI system referenced in the incident.
Diverse Data, Distributional Learning
Known AI Technical Failure
An AI Technical Failure which almost certainly contributes to the AI system failure referenced in the incident.
Lack of Transparency, Misconfigured Threshold
Potential AI Technical Failure
An AI Technical Failure which probably contributes to the AI system failure referenced in the incident.
Incomplete Data Attribute Capture, Distributional Bias
インシデントレポート
レポートタイムライン
npr.org · 2022
- 情報源として元のレポートを表示
- インターネットアーカイブでレポートを表示
Thousands of people are leaving federal prison this month thanks to a law called the First Step Act, which allowed them to win early release by participating in programs aimed at easing their return to society.
But thousands of others may s…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents