概要: A purported AI tool using LLMs was deployed to classify Veterans Affairs contracts as expendable based on limited text and simplified criteria. The system allegedly produced hallucinated values and flagged critical healthcare and research services for cancellation. Reportedly, at least two dozen flagged contracts were later terminated.
推定: Department of Government Efficiency , DOGE , Sahil Lavingia , Custom LLM-based contract classifier ("Munchable" tool) と OpenAI large language modelsが開発し提供したAIシステムで、Department of Veterans Affairs (VA) , Veterans , Veterans receiving care through the VA , VA clinical and research staff と VA contractorsに影響を与えた
インシデントのステータス
インシデントID
1103
レポート数
2
インシデント発生日
2025-03-18
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン
As the Trump administration prepared to cancel contracts at the Department of Veteran Affairs this year, officials turned to a software engineer with no health care or government experience to guide them.
The engineer, working for the Depar…
The Department of Government Efficiency (DOGE) developed an artificial intelligence (AI) tool to identify unnecessary contracts at the Department of Veterans Affairs (VA), intending to cut costs. However, the AI system showed significant te…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents