関連インシデント
AIを活用した政治的欺瞞の最も大胆な例の一つとして、マルコ・ルビオ米国務長官を装った人物がAIディープフェイクツールを用いて、ルビオ国務長官の声と文体を模倣し、政府高官への一連の標的型通信を行いました。その目的は「情報やアカウントへのアクセス」でした。
この件を特に憂慮すべきものにしているのは、高度な技術だけでなく、標的の選択です。トランプ政権第2期で国務長官に昇格したルビオ氏は、米国政府で最も国際的に認知度の高い役職の1つに就いています。外国高官との会話でルビオ氏の声を模倣するためにAIが使用されたことは、欺瞞だけでなく、国家間の関係を操作する意図があった可能性を示唆しています。
この件は、個人の電話番号がど のように入手されたのか、そしてイーロン・マスク氏が設立し、最近まで監督していた政府効率化局（DOGE）による、機密システムを含む国務省の通信への侵入という、これまで行われてきた不正行為についても、疑問を投げかけています。
ルビオ氏のディープフェイクによる音声とテキストによるなりすましは、7月3日付の機密扱いではない機密扱いの機密電報で明らかにされました。この電報は、すべての米国大使館と領事館に配布されました。この電報によると、6月中旬には、Signalメッセージアプリを使用して「マルコ・ルビオ」氏からAI生成メッセージが送信されたとのことです。
FBIは今春、「悪意のある人物」が米国政府高官になりすます「悪質なテキストメッセージと音声メッセージキャンペーン」について警告 していました。
5月には、トランプ大統領の首席補佐官であるスージー・ワイルズ氏をAIがなりすましたという事件が発生しました。なりすまし犯は、ワイルズ氏の個人携帯電話の連絡先にアクセスし、上院議員、州知事、ビジネスリーダーなど、様々な著名人に連絡を取りました。当局はワイルズ氏の連絡先リストが侵害されたことを確認しましたが、実際の電話番号は安全であるとしています。なりすまし犯は、国家安全保障当局者が「驚くほど形式的」と評した方法で、大統領の恩赦や資金提供の可能性のあるリストを要求しました。
電話番号を知らなくても他人の携帯電話の連絡先にアクセスするには、通常、その人のデバイスまたは関連するクラウドアカウントを侵害 する必要があります。特に著名人を標的とした高度な攻撃では、攻撃者はWhatsApp、Signal、Telegramなどのメッセージングアプリの脆弱性を悪用する可能性があります。これらのアプリは、設定時にユーザーの連絡先リストへのアクセスを要求することがよくあります。
権限が厳密に管理されていない場合、携帯電話自体を侵害することなく、連絡先が漏洩する可能性があります。ワイルズ氏は携帯電話でSignalを使用していた。これは、当時国家安全保障問題担当補佐官だったマイク・ウォルツ氏が、イエメンのフーシ派テロリストに対する3月11日の空爆について議論するために作成したプライベートなSignalチャットグループに参加していたためである。
AIによる音声複製と合成メッセージを用いたルビオ氏へのディープフェイクによるなりすましは、デジタル欺瞞作戦の著しいエスカレーションを示している。複数の報道によると、犯人は高度な生成AIを用いてルビオ氏の声と文体を模倣し、少なくとも3人の外務大臣、州知事、そして国会議員に連絡を取った。
音声複製に加え、なりすまし犯は「@state.gov」というメールドメインを複製し、外交保安局が作成した米国国務省の偽ブランドを使用して、作戦の信頼性を高めた。
これは単なるいたずらや金銭目的の詐欺ではなかった。この巧妙な欺瞞行為は、外交上の高官レベルの通信チャネルに侵入しようとする戦略的な試みを示唆している。国務省関係者は、この件の深刻さを軽視しようとしており、ある関係者は、この侵害は「それほど高度なものではない」と述べたと報じられている。アナリストやサイバーセキュリティ関係者は、この攻撃が 国家主導のものなのか、それとも政治的混乱と技術ギャップを悪用した組織的な民間人によるものなのかを検討している。
このなりすましは、音声合成、自然言語生成、ソーシャルエンジニアリングといった複数のAI機能を融合させていることが特徴で、これらはすべて、国家安全保障関係者や指導者を標的としたマルチプラットフォームの計画に統合されていた。また、地政学的緊張の高まりと時期が重なることから、そのタイミングも疑問視されている。
漏洩された公電によると、なりすまし犯はAIによって生成された音声とテキストの両方を用いて、標的から「情報やアカウントへのアクセス」を引き出しようとしたという。具体的には、2人の人物にボイスメールが残され、少なくとも1件のケースでは、受信者にSignalで会話を続けるよう促すテキストメッセージが残されていたと指摘されている。
この公電は、米国外交官に対し、このようななりすましについて外部パートナーに警告するよう明確に警告していた。内部的には、職員は同様の事件が発生した場合、外交保安局に報告するよう指示され、省外の受信者はFBIのインターネット犯罪苦情センターに通報するよう指示された。
「国務省はこの事件を認識しており、現在調査中だ」と国務省は声明で述べた。「国務省は情報保護の責任を重く受け止めており、将来の事件防止のため、サイバーセキュリティ体制の改善に継続的に取り組んでいる。」
漏洩した公電は、AIを活用したルビオ氏へのなりすましと、4月にロシアと関係のある人物がフィッシング手法と偽の「@state.gov」メールを用いてシンクタンクの学者、活動家、ジャーナリスト、元職員を標的にしたとされる別のキャンペーンを対比させている。
この公電は、国務省システムへの直接的なサイバー侵害はなかったと述べている。むしろ、懸念されるのは、ソーシャルエンジニアリングや、公式アカウントに紐付けられた電話番号などの個人情報の漏洩によって、個人が欺かれる可能性があることだと述べている。
「この攻撃によって国務省に直接的なサイバー脅威はもたらされないが、標的の個人が侵害された場合、第三者と共有された情報が漏洩する可能性がある」と、この電報は付け加えている。
国務省は「安全保障上の理由」と進行中の捜査を理由に、これ以上のコメントを控えた。国務省報道官のタミー・ブルース氏も、火曜日の午後の記者会見で詳細を明らかにすることを拒否した。
しかし、対諜報（CI）筋によると、この偽装者が外務大臣、米国知事、そして連邦議会議員の機密情報または非公開の連絡先情報にアクセスしたように見えることは、単なるAI音声クローン作成よりもはるかに深刻な侵害を示唆しているという。このような直通電話番号の入手は、内部者によるアクセス、連絡先データベースへの侵入、あるいは個人またはそのスタッフを標的としたフィッシングやソーシャルエンジニアリング攻撃の成功を意味し、より深刻な懸念を生じさせる。
まず、国務省内の信頼できるディレクトリシステム、機密外交通信インフラ、あるいは世界的な連絡先データベースを持つ関連機関からの侵入またはデータ漏洩の可能性を示唆している。第二に、これは敵対者が高度な影響力行使を行うために、サイバー侵入とAIを活用したなりす ましをますます統合していることを示している。
したがって、ルビオ氏のなりすましは、生成型AIによる欺瞞行為にとどまらず、保護された通信チャネルに侵入し、外交と統治において用いられる信頼に基づくプロトコルを悪用しようとする、組織的な諜報レベルの取り組みを反映している可能性が高い。
もしこれが確認されれば、包括的なCI（情報機密）対応と、米国政府内および国際パートナー間で機密性の高い連絡先データがどのように保管、共有、検証されているかの再評価が必要となる。
対諜報筋によると、国務省外交保安局と連邦捜査局国家安全保障局が、広範囲にわたるCI捜査を実施している。
この計画の全容はまだ調査中であるが、米国当局はこの作戦が外交儀礼の重大な違反であり、国家安全保障上の潜在的な脅威であることを認めている。これはまた、高官を標的としたAIを活用したなりすましの増加傾向を浮き彫りにしている。
ルビオ氏のなりすまし事件の数か月前、トランプ政権による連邦官僚機構の広範な再編の一環として設立された政府効率化局は、デジタル業務の監査、合理化、統合を大義名分として、多数の連邦ITシステムおよびデータシステムへの広範なアクセスを許可されていた。これには、通信のセキュリティ確保、機密システムの管理、世界的な外交ITインフラの監督を担当する国務省外交技術局（DT）も含まれていた。
DOGEがDTのネットワーク、ディレクトリ、または認証システムにアクセスできていた場合、潜在的な脆弱性が生じていた可能性がある。こうしたアクセスには、安全な電話帳、外交スケジュール管理プラットフォーム、および「@state.gov」ドメインを使用する社内メールシステムなどが含まれていたはずです。
Biometric Update 報じた 2月、DOGEの職員が国務省外交技術局の「上級顧問」を務めていたと報じられました。外交技術局は、米国外交の技術力を近代化・強化するために設立されました。
外交技術局の主要な機能と責任には、国務省の機密情報と外交通信を外国の敵対者や悪意のある行為者を含むサイバー脅威から保護すること、そして世界中の外交公館の変化するニーズに対応するために時代遅れのシステムとインフラをアップグレードすることが含まれます。これには、クラウド技術の導入、安全な通信チャネルの強化、デジタルワークフローの改善が含まれます。
国務省情報局は、国務省と外国政府間の通信の真正性と安全性を確保し、スパイ活動や妨害行為から保護することで、国家安全保障において極めて重要な役割を果たしています。国務省で最も機密性が高く、技術的に高度な部署の一つであり、大使館のITシステム、電子メールセキュリティ、外交官向けの暗号化通信、そして米国の公館で使用されるクラウドサービスの開発と運用を監督しています。
DOGEとルビオ国務長官のAIによるなりすまし事件を直接結びつける公的な証拠はないものの、内部不正侵入、不適切なデータ保持、あるいは請負業者システムの不適切なオフボーディングなどを通じて、過去のアクセスポイントが悪用された可能性を否定できないと、CI筋は述べています。
しかし、DOGEの不透明な監視メカニズムと広範なデジタル リーチを考えると、敵対者や内部関係者が国務省高官の通信に関する連絡先情報や偽装可能なメタデータを入手した可能性は依然として高いと考えられます。
ルビオ氏のAIによるなりすまし事件は、特に選挙シーズンが本格化し、外交関係が多方面で緊張状態にある中で、AIガバナンスの重要性を一層高めている。ルビオ氏の事件は、連邦政府機関や国際同盟国に対し、悪意のある行為者（国家主導か犯罪者かを問わず）が生成AIを急速に活用し、国際外交における政治的な脆弱性や作戦上の隙間を突いていることを明確に示した。
こうしたなりすましの脅威は、迅速に対処しなければ、外交コミュニケーションへの信頼を著しく損なうだけでなく、スパイ活動や政策操作を可能にし、すでに不安定な地政学的環境にさらなる混乱をもたらす可能性がある。したがって、ルビオ氏の事件は、AIを活用した影響力行使の能力の進化、そして国家運営における合成メディアの利用に関する技術的対策と国際規範の緊急の必要性について、厳しい警告となっている。