概要: 法学修士（LLM）を用いたとされるAIツールが、限られたテキストと簡略化された基準に基づいて退役軍人省の契約を消耗品として分類するために導入されました。このシステムは、幻覚的な値を生成し、重要な医療および研究サービスにキャンセルのフラグを付けたとされています。報告によると、少なくとも24件のフラグが付けられた契約は後に解除されました。
推定: Department of Government Efficiency , DOGE , Sahil Lavingia , Custom LLM-based contract classifier ("Munchable" tool) と OpenAI large language modelsが開発し提供したAIシステムで、Department of Veterans Affairs (VA) , Veterans , Veterans receiving care through the VA , VA clinical and research staff と VA contractorsに影響を与えた
インシデントのステータス
インシデントID
1103
レポート数
2
インシデント発生日
2025-03-18
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン
トランプ政権が今年、退役軍人省の契約をキャンセルする準備を進める中、当局は医療や政府機関での経験がないソフトウェアエンジニアに助言を求めた。
政府効率化局に勤務するこのエンジニアは、民間企業のサービスのうち、どれが不可欠でないかを特定する人工知能ツールを迅速に構築した。彼はそれらの契約を「MUNCHABLE（食べられる）」と名付けた。
時代遅れで安価なAIモデルを用いたこのコードは、明らかな誤りを含む結果を生成した。例えば、契約の規模を錯覚し、頻繁に誤読して価値を水増ししてい…
政府効率化局（DOGE）は、退役軍人省（VA）における不要な契約を特定し、コスト削減を図る人工知能（AI）ツールを開発しました。しかし、このAIシステムには重大な技術的欠陥と不正確さが露呈し、退役軍人サービスに悪影響を及ぼす可能性のある契約のキャンセルが発生しました。
AIツールの開発と目的
2023年初頭、トランプ政権はVAの支出削減を目指しました。当局は、医療や政府調達の経験が限られているソフトウェアエンジニアのサヒル・ラビンジア氏に、迅速なAIソリューションの構築を依頼…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents