レポート 5101

ここ数ヶ月、イーロン・マスク氏のDOGEは、アメリカの連邦政府機関の空洞化を試みてきました。大量の職員を解雇し、主要機関の規模縮小を試みた後、億万長者が支援するこの取り組みは、自動化を優先する新たなガバナンスモデルの構築を試みています。金曜日にWiredは、機関の近代化に向けた試行錯誤の中で、ChatGPTスタイルの新しいボットが職員のワークフローに統合されたと報じました。

同誌が閲覧した社内メールには、このAgency Support Companionは「職員の日常業務を支援し、生産性を向上させる」ことを目的としていると記されています。しかし、このチャットボットはあまりうまく機能していないようです。「正直なところ、誰もこの話題にしていません」と、Agencyで働く関係者はWiredに語りました。

このアプリのリリースには、滑稽なほどひどい研修ビデオ（こちらで閲覧可能）が付随していたと報じられています。動画には、アニメーションが下手で、4本指の女性が出てくるという内容でした。職員にアプリの使い方を説明するはずだったこのビデオは、非常に重要な情報、つまり機密性の高い個人情報をプログラムにアップロードしないよう注意すべきという情報が抜け落ちていました。この見落としにより、SSAは職員に謝罪メールを送り、欠落していた文脈を強調する必要がありました。メールには「研修ビデオにおける見落としについてお詫び申し上げます」と書かれていました。

「同僚のほとんどが研修ビデオを視聴したかどうかさえ分かりません」と、SSAの情報筋はWiredに語りました。「チャットボットを少し操作してみましたが、返ってきた回答の中には、信じられないほど曖昧なものや不正確なものもありました。」彼らはさらにこう付け加えた。「同僚たちがグラフィックを嘲笑しているのが聞こえたよ。私の知り合いは誰も使っていない。とても不格好でひどい。」

もしマスク氏の計画が社会保障局（SSA）の自動化だとしたら、（ひどい新アプリ以外にも）それが悪いアイデアであることを示唆する証拠はたくさんある。実際、ブラジルで行われた同様の社会福祉サービスの自動化の試みは、福祉プログラムの運営にアルゴリズムを過度に依存すると、誰にとっても悪い結果につながる可能性があることを示している。

Rest of the World 報告によると ブラジル政府が官僚機構を削減し、役人をアルゴリズムに置き換える試みは、必ずしも最良の結果をもたらしていない。ブラジルには、国営企業Dataprevが開発した社会保障請求処理用のアプリMeu INSSがある。2018年にリリースされたこのアプリは、コンピュータービジョンと自然言語処理を用いて、請求者が政府に提出した書類を分析している。しかし残念なことに、このアプリは些細な誤りを理由に正当な請求を却下する傾向がある。こうした自動判定は、解決に何ヶ月もかかる長期の法廷闘争の引き金となる可能性がある。

同メディアは、55歳の元サトウキビ労働者、ホセリア・デ・ブリトさんの体験を報じている。彼女はこのアプリを使って退職給付金を申請したが、自動システムによって男性と誤認され、給付金が却下された。「健康状態など、あらゆることを証明する書類をすべて持っているのに、それでも[給付金は]却下される。本当に屈辱的だ」とデ・ブリトさんは同メディアに語った。

同メディアは、国内の農村部の農業労働者は、社会福祉サービスのデジタル化が進む中で苦戦を強いられていると指摘している。「この辺りの人々はGmail、Facebook、Instagramさえ使えない」と、バラ・ド・コルダの農村労働者組合代表フランシスコ・サンタナ氏はRest of World誌に語った。「手続きはますます自動化されているが、社会はそれに対応できていない。特に地方、郊外、農村部に住む人々にとってはなおさらだ」

他国が自動化に苦戦している現状は、トランプ政権が投入したテクノクラートの手先によって社会福祉サービスの「近代化」が進められている米国にとって、潜在的な警告となる可能性がある。マスク氏のDOGE（Dogment of General Economic Affairs：地方自治庁）は、社会保障庁（SSA）を含む連邦政府機関の骨抜きを試みている。 DOGEは、職員をフルに雇用する代わりに、「AIファースト」戦略を導入しようとしており、連邦政府の労働力を半減させ、人間の労働者をソフトウェアで置き換えることになる。「機械で自動化できるものはすべて自動化されるだろう。そして、テクノクラートが官僚に取って代わるだろう」と、DOGEの活動に詳しい人物は最近ワシントンポスト紙に語った。しかし、DOGEによる改革は、効率性の向上には程遠く、これまでのところ、社会保障局を含む多くの機関で機能不全と混乱を招いている。

実際、社会保障庁（SSA）で最近発生した事件では、DOGE職員が「無数の」生存給付受給者を「死亡」とマークし、給付を停止していたと報じられていますが、これはほんの一例に過ぎません。同庁で長年、保険金請求技術アナリストを務めているレニー・グラスゴー氏は、デイリー・ビースト紙に「（DOGE職員は）システムに侵入し、人々を殺したのです」と語りました。「彼らは約400万人を死亡とマークしました。しかし、これらの人々が本当に死亡とマークされるべきだったのか確信が持てず、『これらの人々が身分証明書を持って事務所に来れば、復職できます』というメールを送ってきたのです」とグラスゴー氏は同紙に語りました。

「彼らを蘇生させ、生存者として戻すには、3～4日かかることもあります」とグラスゴー氏は付け加えました。

DOGEはまた、最近発表し、数ヶ月のうちにSSAのコードベース全体を書き換える計画を明らかにしました。関係者によると、DOGEが計画している猛スピードで作業を進めるには、ほぼ確実にAIに頼らざるを得なくなるとのことです。 AIを使ったコード記述はより一般的な手法となってきましたが、ソフトウェアがミスを犯す頻度が高いため、厳重な監視 が必要となります。DOGEの人間オペレーターが政府への電撃攻撃中に犯したミスの数を考えると、SSAのコードベースを自動化して書き換えれば大惨事になるのは当然です。

もちろん、ミスを犯すことが目的だと推測する人もいます。これらの批判者たちは、DOGEは社会保障庁（SSA）を「近代化」したり改善したりしようとしているのではなく、むしろ民営化を目指して不安定化と破壊しようとしていると考えている。もしそうだとすれば、すべては計画通りに進んでいることになる。