トランプ政権が今年、退役軍人省の契約をキャンセルする準備を進める中、当局は医療や政府機関での経験がないソフトウェアエンジニアに助言を求めた。
政府効率化局に勤務するこのエンジニアは、民間企業のサービスのうち、どれが不可欠でないかを特定する人工知能ツールを迅速に構築した。彼はそれらの契約を「MUNCHABLE（食べられる）」と名付けた。
時代遅れで安価なAIモデルを用いたこのコードは、明らかな誤りを含む結果を生成した。例えば、契約の規模を錯覚し、頻繁に誤読して価値を水増ししていた。1,000件以上の契約をそれぞれ3,400万ドルと結論付けたが、実際には3万5,000ドル程度のものもあった。
DOGE AIツールは2,000件以上の契約を 「Munching（食べられる）」と判定した。実際にどれだけの契約がキャンセルされたのか、あるいはキャンセルされる予定なのかは不明だ。トランプ政権による退役軍人省の契約に関する決定は、ほとんどがブラックボックス状態だったからだ。 VA（退役軍人省）は、病院、研究、そして病弱な退役軍人のケアを目的としたその他のサービスへの支援など、様々な理由で請負業者を利用しています。
VA当局は、全体で約600件の契約を破棄したと述べています。民主党議員は、VAの幹部に対し、破棄された契約の具体的な内容について圧力をかけていますが、成果は得られていません。
私たちは、DOGEリストの中で、これまでに少なくとも24件の契約が破棄されたことを確認しました。破棄された契約の中には、より優れたがん治療法の開発に使用される遺伝子配列解析装置の保守契約、VAの研究プロジェクトを支援するための血液サンプル分析契約、看護師が提供するケアを測定・改善するための追加ツールの提供契約などがありました。
ProPublicaは、ある情報源からコードと、それがフラグ付けした契約を入手し、AIおよび調達の専門家6名と共有しました。全員が、スクリプトに欠陥があると述べました。多くの人が、VAの予算削減をAIで導くというコンセプトを批判し、ある人はそれを「深刻な問題がある」と指摘しました。
ペンシルベニア大学で法学と政治学の教授を務め、政府による人工知能の活用と規制を研究しているキャリー・コリアネーゼ氏は、こうした汎用大規模言語モデル（LLM）の使用に懸念を抱いていると述べた。「既製のLLMは、これほど複雑で入り組んだ問題には、それほど信頼 性があるとは思えません」とコリアネーゼ氏は述べた。
当時イーロン・マスク氏が経営していたDOGEに採用されたプログラマー、サヒル・ラヴィンジア氏は、コードの欠陥を認めた。
「間違いはあったと思います」と、DOGEで約2ヶ月間働いたラヴィンジア氏は述べた。「間違いは必ず起こります。間違いはいつでも起こるものです。私のコードを実行して、指示通りに行動するように誰かに勧めることは決してありません。まるで『Office』でスティーブ・カレルがGoogleマップに「湖に突っ込め」と表示されたため湖に突っ込んだエピソードのようです。湖に突っ込んではいけません。」
ラヴィンジア氏は以前にもDOGEでの活動について語っていたが、その仕事が詳細に検証されたり、具体的なコード行に至るまで開発プロセスを公に説明されたりするのは今回が初めてだ。
ラヴィンジア氏はソフトウェアエンジニアおよび起業家として15年近くの経験を持つが、AIに関する正式な訓練は受けていない。2015年に倒産寸前までいった小規模なeコマース企業、Gumroadを設立する前は、Pinterestで短期間働いていた。「会社の75%を解雇した。親友の多くも含め。本当に最悪だった」と彼は語る。個人ブログの投稿によると、ラヴィンジア氏は「あらゆる手作業を自動化することで」会社を存続させたという。
ラヴィンジア氏は、3月17日に着任してから翌日にツールを開発するまでの間、VA（退役軍人省）が退役軍人のケアをどのように行っているかをじっくりと調べる時間があまりなかった。しかし、自身の会社での経験は、業務の効率化と経費削減のため、政府全体でAI の活用を推進しているトランプ政権の方向性と一致していた。
ラビンジア氏は、各機関に契約と助成金の審査を30日以内に完了するよう命じたトランプ大統領の2月の大統領令の短い期限は、手作業で行うには短すぎると述べた。「9万件もの契約があるのですから、それは不可能です」と同氏は述べた。「コードを書かない限りは。しかし、それでも現実的には不可能です」。
時間的な制約の中、ラビンジア氏は、AIの助けを借りてコードの作成を行い、就任2日目に契約処理ツールの最初のバージョンを完成させたと述べた。彼はProPublicaに対し、最初の1週間はVA（退役軍人省）の契約書をノートパソコンにダウンロードして分析することに費やしたと語った。
VAの広報担当官ピート・カスペロウィッツ氏は、ProPublicaへの声明の中で、DOGEによる契約審査の取り組みを称賛した。「我々の知る限り、このような審査は前例がないが、この常識的な前例となることを嬉しく思う」と述べた。
彼は、VAは7万6000件の契約すべてを審査し、それぞれの契約が退役軍人に利益をもたらし、納税者のお金の有効な使い方になっていることを確認していると述べた。契約のキャンセルや規模縮小の決定は、機関の契約専門家や上級職員を含むVA職員による複数回の審査を経て行われると、彼は書いている。
カスペロウィッツ氏は、VAは退役軍人にサービスを提供する業務、または緊急時対応計画が整備されていない限りVAが単独で対応できない業務については、契約をキャンセルしないと述べた。同氏はさらに、「無駄、重複、または退役軍人省が自ら実施できるサービスに関わる」契約は通常、解除されると付け加えた。
トランプ政権当局は、退役軍人省の約50万人の職員のうち、約8万人を削減するという「目標」に向けて取り組んでいると述べている。職員のほとんどは、退役軍人省が所有する170の病院と約1,200の診療所のいずれかで勤務している。
退役軍人省は、退役軍人に損害を与えることを懸念し、医療に直接影響を与える契約の削減は避けると述べている。 ProPublicaは最近、同省における比較的小規模な削減が既に退役軍人のケアを危うくしていると報じた。
VAは、ラヴィンジア氏のコードが示唆するように、職員削減と並行してサービスを社内移行する計画について、どのように説明していない。
VA内部の関係者の多くはProPublicaに対し、契約の審査プロセスがあまりにも不透明で、特定の契約を破棄する最終決定を誰が下したのかさえ分からないと語った。「munching」スクリプトが契約リストを選択すると、ラヴィンジア氏はそれを他の人に引き継ぎ、どの契約を破棄し、どの契約を維持するかを決定すると述べた。「人間による審査なしに破棄された契約はない」と彼は述べた。
「私はただ[契約リスト]をVA職員に渡しただけだ」と彼は述べた。 「基本的に、munchableを一番上にして、他のものを下に置きました。」
VA職員はProPublicaに対し、今年初め――ラヴィンジア氏が就任する前――DOGEがキャンセルすべき契約を特定した際、職員にはサービス継続の正当性を説明する時間がほとんど与えられないこともあったと語った。ある職員は、わずか数時間しか与えられなかったと回想している。職員たちは、記者と話したことで職を失うことを恐れ、匿名を条件に取材に応じた。
ラヴィンジア氏のAI分析に先立つ内部メールによると、職員は255文字以内で回答する必要があり、これはマスク氏のソーシャルメディアプラットフォーム「X」の280文字制限をわずかに下回るものだった。
DOGEの契約分析に着手したラヴィンジア氏は、技術的な限界に直面したと述べた。彼のコードで発生したエラーの少なくとも一部は、VAを通じて入手可能なOpenAIモデルの古いバージョンを使用していたことに起因している。ProPublicaが相談した専門家によると、これらのモデルは複雑なタスクを解決できないという。
さらに、このツールの基本的な命令には深刻な欠陥があった。記録によると、ラヴィンジア氏はAIシステムをプログラムし、各契約書の最初の数ページ（約2,500語）に書かれた、まばらな要約情報しか含まれていない情報に基づいて複雑な判断を下すようにした。
「AIは絶対にこの用途には不向きなツールだ」と、オバマ政権下で財務省のIT契約を監督していたウォルド・ジャキス氏は述べた。「AIは説得力のある回答を出すように見えるが、往々にして間違っている。この仕事をする人間が必要なのだ。」
ラヴィンジア氏の指示には、退役軍人省（VA）の運営方法、どの契約が必須か、連邦法でどの契約が義務付けられているかといった文脈が含まれていなかった。そのため、AIはVA独自の契約 調達システムの中核部分が「簡単に扱える」と判断した。
ラヴィンジア氏の指示の核心は、「直接的な患者ケア」に関わる契約は避けるようにという指示である。
専門家によると、このようなアプローチは、病院で退役軍人のケアを行う医師や看護師の仕事は、周囲の多大な支援があってこそ可能になるという現実に向き合っていないという。
ラヴィンジア氏のシステムは、契約番号や「契約総額」といった詳細情報の抽出にもAIを利用していた。そのため、契約書に複数の契約番号が見つかった場合にAIが誤った金額を返すという、避けられないエラーが発生していた。専門家によると、正しい情報は公開データベースから容易に入手できるという。
ラヴィンジア氏は、このアプローチによってエラーが発生したことを認めたが、後にVA職員によって修正されたと述べた。
ラヴィンジア氏は3月下旬、ProPublicaに対し、他の人々に利用と改良を促すため、「munchable」スクリプトのバージョンを自身のGitHubアカウントで公開したと語った。「連邦政府全体がこのスクリプトを使用し、VAが契約削減についてこのように考えていることを一般市民が理解できたら素晴らしいだろう」と同氏は語った。
彼のブログの投稿によると、これは彼がDOGEを去る前にマスク氏の承認を得て行われたとのことだ。「マスク氏がDOGEの世間一般の評価向上について質問してきたとき、私は自分が書いてきたコードをオープンソース化してもよいかと尋ねました」とラヴィンジア氏は述べた。「彼はイエスと答えました。それはDOGEの最大限の透明性という目標と一致していました。」
このオープンな姿勢が、最終的にラヴィンジア氏の解雇につながったのかもしれない。ラヴィンジア氏は、Fast Company誌のインタビューで同省での自身の仕事について語った後、DOGEから解雇されたことを認めた。VAの広報担当者はラヴィンジア氏の解雇についてコメントを控えた。
VA当局は、今後この「munchable」ツールを使い続けるかどうかについては言及を避けている。しかし、政権は職員の交代を支援するためにAIを導入する可能性がある。ProPublicaが以前入手した文書によると、DOGE当局は3月に、AIをより活用することで給付金請求部門を統合することを提案していた。
そして、政府の請負業者もこの動きに注目している。ラヴィンジア氏がコードを投稿した後、資金の流れを維持する方法を知りたいという人々から連絡があったという。
「このコードを見て、VAの請負業者から数件のダイレクトメッセージが届きました」と彼は言う。「彼らは契約が打ち切られないようにしたい、あるいはなぜ打ち切られたのかを知りたいと考えていました。
「結局のところ、契約を打ち切るのは人間ですが、DOGEやトランプ大統領、あるいは政府機関の幹部が、どのような契約を破棄しようとしているのかを知ることは、彼らにとって有益です。透明性は良いことです。」