Description: NarxCare's algorithm assessing a patient’s overdose risk allegedly did not undergo peer-reviewed validation studies, and considered sensitive data with high risk of biases towards women and Black patients such as experience of sexual abuse and criminality.
推定: Apprissが開発し提供したAIシステムで、American physicians , American pharmacists , American patients of minority groups と American patientsに影 響を与えた
インシデントのステータス
インシデントID
172
レポート数
1
インシデント発生日
2020-07-01
エディタ
Sean McGregor, Khoa Lam
インシデントレポート
レポートタイムライン
wired.com · 2021
- 情報源として元のレポートを表示
- インターネットアーカイブでレポートを表示
ONE EVENING IN July of 2020, a woman named Kathryn went to the hospital in excruciating pain.
A 32-year-old psychology grad student in Michigan, Kathryn lived with endometriosis, an agonizing condition that causes uterine-like cells to abno…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
:format(webp)/cdn.vox-cdn.com/uploads/chorus_image/image/59105949/wjoel_180320_2353_healthcare_001.0.jpg)
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents