先月、イーロン・マスクのDOGEチームは、「AIファースト戦略」を通じて米国連邦政府を変革する計画の概要を発表しました。
元テスラのエンジニアで現在は一般調達局の技術チームを担当しているトーマス・シェッドが率いる計画は、連邦政府全体にAIを広く導入することです。全体的な目標は、機関の予算を50パーセント削減することです。シェッド氏は、AI を使って契約を分析し、人員削減を行い、詐欺を根絶し、連邦政府の労働力の削減を促進するために、彼らの仕事の多くを自動化することを提案した。
2015 年に OpenAI を共同設立し、現在は (さまざまな取り組みの中で) xAI という会社を経営しているマスク氏が、AI 主導の政府改革を提唱していることは驚くに当たらない。AI ツールは、エッセイの執筆から物理学の問題への回答まで、多くの素晴らしい偉業を成し遂げることができるため、この野心はもっともらしく思えるかもしれない。しかし、連邦政府を改革するために AI を解き放つことは、災難を招くことになる。
マスク氏が提案する改革がどのように進むかを予測するには、政府の意思決定と運営に AI を統合した過去の例を見ることができる。AI 主導の統治が失敗した例は既に数多くある。特に、詐欺を根絶し、予算を削減することが目的の場合である。
私の故郷であるミシガン州では、失業保険庁（UIA）が業務を効率化するためにアルゴリズム（ミシガン統合データ自動化システム、別名MiDAS）を採用しました。UIAの目標は、失業詐欺を防ぎ、作業を自動化することで既存のスタッフの3分の1を削減することでした。MiDASにより、福祉詐欺の疑いのあるケースが急速に5倍に増加し、UIAの収益が23倍に増加しました。
これらの数字に基づくと、MiDASはUIAの目標を達成したようです。唯一の問題は？詐欺の告発のほぼすべて（詐欺とされるケースの93％）が間違っていたことです。その後、こうした誤りが明らかになった後も、誤って告発された人々が支払われるべき金銭を受け取るまでには何年もの訴訟が必要でした。多くの人々にとって、詐欺罪は何年も犯罪歴に残り、仕事に就くことができませんでした。
米国および世界のその他の地域では、同様のアルゴリズムが脆弱な人々を医療から排除、人権を侵害しています。
これらの欠陥のある AI ツールの主な理由は、エンジニアが政府のプロセスの複雑さを過小評価していることです。その結果、エンジニアは表面的な仮定をソフトウェアに埋め込み、ツールの機能を過大評価します。
エンジニアが、技術的な専門知識があれば既存のボトルネックを打破し、政府のすべての問題を解決できると信じて、大胆な自信を持って政府部門に足を踏み入れるのは、典型的な話です。これらの即効性のある提案は、政府プロセスの複雑なニュアンスをナビゲートする深い専門知識を持つ機関の既存のスタッフにとっては、通常、笑いものになります。エンジニアは、政府機関が従う複雑なワークフローを理解していません。そして、これらのワークフローを理解していないため、エンジニアは政府のデータとフォームを解釈する方法を知りません。
最近の研究で、同僚と私はコンピューター科学者に、人々が破産救済の資格があるかどうかについて 自動的にアドバイスするソフトウェアツールを開発するよう依頼しました。コンピューター科学者はすぐにタスクを完了し、1人は「これは非常に簡単そう」とさえ述べました。しかし、彼らが構築したソフトウェアツールを分析したところ、エラーや法律上の誤解が蔓延していることがわかりました。これらの欠陥にもかかわらず、コンピューター科学者は、ツールが実際に役立つと確信していました。彼らの79％は、破産裁判所の裁判官の代わりにツールを使用することに満足していると述べました。
DOGEチームは、このエンジニアリングの傲慢さを極端に示しています。彼らは、既存の法律やプロトコルをほとんど気にせずに突き進んでいます。シェッド氏は、政府の運営を理解する時間を費やすことなく、AI が多くの連邦職員に取って代わることができると断言。
政府における AI 革命の計画が前進したらどうなるだろうか。すでに、DOGE が他の政府自動化の例を悩ませてきたのと同じ過ちを繰り返しているという証拠が見受けられる。
最も注目すべきは、DOGE が AI の結果に基づいて無駄や詐欺について根拠のない判断を多く下す可能性が高いことだ。この結果は、ムスク氏自身の無駄や詐欺の非常に拡大した定義に一部起因する。彼は、[[無駄、詐欺、乱用に対処するだけで 1 兆ドルを節約できる]] と、何の証拠もなく、他の推定とは反対に [述べ 述べている。この観点からす ると、DOGE の AI 開発者は、特に 利益相反 がある可能性のある ケース では、偽陽性 (詐欺の事例を見落とす) を回避することにもっと注意を払うことになるでしょう。
誤った告発の原因の 1 つは、政府データベース内の情報を誤って解釈することです。政府データは複雑であることで有名です。その意味を理解するには、そのデータがどのように収集され、使用されるかについての詳細な知識が必要です。この誤りの初期の例は、100歳以上の何百万人もの人々が社会保障給付金を受け取っているとされていることに憤慨したマスク氏のツイート時だった。同氏の投稿には、社会保障データベースの簡単な分析のスクリーンショットが含まれており、さまざまな年齢で「生存」とマークされた人の数を数えていた。同氏の分析ではデータは正しくカウントされていたが、マスク氏はその意味を誤解していた。技術的な制限とデータの欠落により、100歳以上の何百万人もの人々が生存とマークされている。重要なのは、彼らのほとんどが給付金を受け取っていないことだ。実際、数年前、社会保障局は死亡者の注釈付けシステムの更新を検討したが、アップグレードのコストはメリットに見合わないと判断した。マスク氏がデータについて社会保障の専門家に尋ねただけなら、正しい理解を 得ることができただろう。しかし、彼は自信満々に誤った結論に飛びついた。
誤った詐欺の告発のもう 1 つの原因は、AI が契約の意味と契約間の関係を解釈できないことである。政府は多くの場合、業務を 複数の契約 に分割し、それぞれがより大きなプログラムのさまざまな側面に役立てている。これらの契約は AI ツールには冗長に見えるかもしれないが、実際には別個で補完的である。確かに、政府契約の合理化にはメリットがある。しかし、そのためには、既存の契約を木材粉砕機に送るのではなく、根本的な政策目標を満たすように契約を慎重に再構築する必要がある。
DOGE はすでに契約を誤って解釈するパターンを示しており、それによって生み出した節約額を大幅に誇張しています。2 月 19 日、DOGE はキャンセルされた契約による 165 億ドルの節約を自慢する「領収書の壁」を投稿しました。彼らの計算は 間違いだらけ でした。たとえば、多くの「キャンセルされた」契約は数年前に終了していたか、以前の政権下で終了していました。最初の投稿以来、DOGE は契約の 40% をより正確で小さな値に更新しました。これらの更新には、DOGE が当初功績を主張していた 5 つの最大の契約の削除が含まれていました。その165億ドルは今では80億ドルに近いように見える、さらにエラーが修正されていない。
さらに悪いことに、DOGEはこれらの決定を不透明で説明責任 のない方法で行っている。DOGEがすでに行った行動においてAIがどのような役割を果たしたかは不明である。今後、AIによる詐欺の分類により、通知や異議申し立てのプロセスなしに契約が即座にキャンセルされる可能性がある。この行動が個人や組織に損害を与えた場合、「AIがそう言った」以外に何が起こったのか明確な説明が得られない可能性がある。
もちろん、マスク氏とその仲間にとって、これらの問題はバグではなく機能である可能性がある。AIは彼らが連邦予算を迅速に削減し、政府に対する優位性を主張するのに役立つだろう。それでは、多くの詐欺の告発が間違っていて、いくつかの重要な政府業務が妨害されたとしてもどうだろう？
これは、AI が政府のサービスや運営の改善に役立つツールではないと言っているわけではありません。しかし、その目標を達成するには、DOGE とは逆のアプローチを取る必要があります。
地方自治体でデータ サイエンティストとして働いていたとき、私は自分の技術的ノウハウだけでは不十分であることがすぐにわかりました。社会的に有益なプロジェクトを進めるには、テクノロジーの限界を認識し、最先端の技術ツールが実際に最も役立つという思い込みを避ける必要がありました。また、既存のスタッフの知恵を評価する必要もありました。政府のプロセスやデータセットを理解するために、彼らの指導に頼りました。自分の仕事は、既存のチームの仕事を補うものであり、置き換えるものではないと考える必要がありました。
マスク氏と DOGE が政府を改善するテクノロジーを慎重に開発することに取り組んでいないことの最も明白な証拠は、彼らがこの仕事の先駆者であったチームを解体していることです。 2014年の設立以来、米国デジタルサービス（USDS）は、1,800万人の退役軍人の医療アクセスの改善や、何百万もの農村世帯が手頃な価格の高速インターネットを利用できるようにすることなど、メリットを生み出してきました。しかし、DOGEはUSDSスタッフの3分の1をすぐに解雇しました。数日後、別のグループのUSDSスタッフが辞職し、「DOGEの行動は、テクノロジーとデザインを通じてアメリカ国民により良いサービスを提供するという、米国デジタルサービスに参加して遂行する使命と相容れない」と書いています。そして先週末、DOGE は連邦政府機関の技術向上を支援するグループである 18F を排除しました。この動きは、シェッドが 18F のスタッフに、彼らが政府の技術開発者の「ゴールド スタンダード」を代表していると伝えてからわずか数週間後に起こりました。
マスク氏と DOGE チームの猛烈なペースと傲慢さを考えると、この AI の侵入が連邦政府の業務とそれに依存する人々に信じられないほどの損害を与えるのではないかと心配しています。しかし、少なくとも、テクノロジーと公共政策に関するコースを教える私たちは、政府の AI が失敗した新しいケース スタディを学生と共有できるようになります。