Skip to Content
logologo
AI Incident Database
寄付する
発見する
投稿する
  • ようこそAIIDへ
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • 空間ビュー
  • ブログ
  • AIニュースダイジェスト
  • おまかせ表示
  • サインアップ
発見する
投稿する
  • ようこそAIIDへ
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • 空間ビュー
  • ブログ
  • AIニュースダイジェスト
  • おまかせ表示
  • サインアップ
自動翻訳済み

インシデント 123: エピックシステムズの敗血症予測アルゴリズムは重症患者に対して高いエラー率を示すことが判明

自動翻訳済み
レスポンスしました
概要:
自動翻訳済み
Epic System の敗血症予測アルゴリズムは、ミシガン大学病院の調査員によって、偽陽性と偽陰性の割合が高く、患者に関する不正確で無関係な情報を提供しているとされ、公表された主張とは大きく対照的であることが示されました。

ツール

新しいレポート新しいレスポンス発見する履歴を表示

組織

すべての組織を表示
Alleged: Epic Systems developed an AI system deployed by University of Michigan Hospital, which harmed sepsis patients.
関与が疑われるAIシステム: Enterprise AI systems と AI-enabled decision support systems

インシデントのステータス

インシデントID
123
レポート数
6
インシデント発生日
2021-08-01
エディタ
Sean McGregor, Khoa Lam, Daniel Atherton
Applied Taxonomies
CSETv1, GMF, MIT

CSETv1 分類法のクラス

分類法の詳細

Incident Number

The number of the incident in the AI Incident Database.
 

123

MIT 分類法のクラス

Machine-Classified
分類法の詳細

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

7.3. Lack of capability or robustness

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. AI system safety, failures, and limitations

Entity

Which, if any, entity is presented as the main cause of the risk
 

AI

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Unintentional

インシデントレポート

レポートタイムライン

+2
Epic's widely used sepsis prediction model falls short among Michigan Medicine patients
Artificial Intelligence Can Improve Health Care—but Not Without Human Oversight+1
Algorithms Are Making Decisions About Health Care, Which May Only Worsen Medical Racism
情報源を確認するだけでは不十分です。ある番号をたどって科学論文を見つけたところ、Teamsの会議が見つかりました。
Loading...
Epic's widely used sepsis prediction model falls short among Michigan Medicine patients

Epic's widely used sepsis prediction model falls short among Michigan Medicine patients

fiercehealthcare.com

Loading...
An Epic Failure: Overstated AI Claims in Medicine

An Epic Failure: Overstated AI Claims in Medicine

mindmatters.ai

Loading...
Artificial Intelligence Can Improve Health Care—but Not Without Human Oversight

Artificial Intelligence Can Improve Health Care—but Not Without Human Oversight

pewtrusts.org

Loading...
Algorithms Are Making Decisions About Health Care, Which May Only Worsen Medical Racism

Algorithms Are Making Decisions About Health Care, Which May Only Worsen Medical Racism

aclu.org

Loading...
Epic overhauls sepsis algorithm

Epic overhauls sepsis algorithm

beckershospitalreview.com

Loading...
情報源を確認するだけでは不十分です。ある番号をたどって科学論文を見つけたところ、Teamsの会議が見つかりました。

情報源を確認するだけでは不十分です。ある番号をたどって科学論文を見つけたところ、Teamsの会議が見つかりました。

jamiewatters.work

Loading...
Epic's widely used sepsis prediction model falls short among Michigan Medicine patients
fiercehealthcare.com · 2021

Among roughly 38,500 hospitalizations, researchers said a proprietary sepsis prediction algorithm developed by Epic missed two-thirds of sepsis patients and generated numerous false alerts. While the EHR vendor attributed the weak performan…

Loading...
An Epic Failure: Overstated AI Claims in Medicine
mindmatters.ai · 2021

Epic Systems, America’s largest electronic health records company, maintains medical information for 180 million U.S. patients (56% of the population). Using the slogan, “with the patient at the heart,” it has a portfolio of 20 proprietary …

Loading...
Artificial Intelligence Can Improve Health Care—but Not Without Human Oversight
pewtrusts.org · 2021

Every year 1.7 million adults in the United States develop sepsis, a severe immune response to infection that kills about 270,000 people. Detecting the disease early can mean the difference between life and death.

One of the largest U.S. de…

Loading...
Algorithms Are Making Decisions About Health Care, Which May Only Worsen Medical Racism
aclu.org · 2022

Artificial intelligence (AI) and algorithmic decision-making systems — algorithms that analyze massive amounts of data and make predictions about the future — are increasingly affecting Americans’ daily lives. People are compelled to includ…

Loading...
Epic overhauls sepsis algorithm
beckershospitalreview.com · 2022
Naomi Diazによるインシデント後のレスポンス

Epic has made changes to its sepsis prediction model in a bid to improve its accuracy and make its alerts more meaningful to clinicians.

An Epic spokesperson told Becker's in an emailed statement that it began the development of its new sep…

Loading...
情報源を確認するだけでは不十分です。ある番号をたどって科学論文を見つけたところ、Teamsの会議が見つかりました。
jamiewatters.work · 2026
自動翻訳済み

対象者 仕事や習慣で情報源を検証する人、そして公表された数値に基づいてツールを購入する人。このガイドを読み終える頃には、通常の検証では問題ない数値でも、実は間違っている場合があることを発見するための3つの質問が身についているでしょう。

以下の場合は読み飛ばしてください すべての数値を最初に計測した文献まで遡って確認し、その文献で何が計測されたかを確認済みであれば、このガイドは不要です。それがこのガイドの結論です。

所要時間 11分。3つの質問が成果物であり、それらの質問を生み…

バリアント

「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか?

よく似たインシデント

テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

Loading...
オプタムのアルゴリズムによる健康リスクスコアは黒人患者のニーズを過小評価していたと報告されている

オプタムのアルゴリズムによる健康リスクスコアは黒人患者のニーズを過小評価していたと報告されている

Oct 2019 · 7 レポート
Loading...
IBM Watson for Oncology、がん治療の推奨が安全ではない、不正確だと顧客から批判される

IBM Watson for Oncology、がん治療の推奨が安全ではない、不正確だと顧客から批判される

Apr 2017 · 2 レポート
Loading...
PredPolの予測的警察活動バイアス

PredPolの予測的警察活動バイアス

Nov 2015 · 17 レポート
前のインシデント次のインシデント

よく似たインシデント

テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

Loading...
オプタムのアルゴリズムによる健康リスクスコアは黒人患者のニーズを過小評価していたと報告されている

オプタムのアルゴリズムによる健康リスクスコアは黒人患者のニーズを過小評価していたと報告されている

Oct 2019 · 7 レポート
Loading...
IBM Watson for Oncology、がん治療の推奨が安全ではない、不正確だと顧客から批判される

IBM Watson for Oncology、がん治療の推奨が安全ではない、不正確だと顧客から批判される

Apr 2017 · 2 レポート
Loading...
PredPolの予測的警察活動バイアス

PredPolの予測的警察活動バイアス

Nov 2015 · 17 レポート

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2026 - AI Incident Database

  • 利用規約
  • プライバシーポリシー