関連インシデント
米国務省は火曜日、人工知能（AI）がマルコ・ルビオ米国務長官の声を偽装し、外相や米国当局者に電話をかけていたことを確認した。ディープフェイクの使用増加に対する懸念が高まっている。
ワシントン・ポスト紙が最初に報じたメモによると、ルビオ氏を装う身元不明の人物が6月中旬、メッセージアプリ「シグナル」にアカウントを作成し、「marco.rubio@state.gov」という表示名で、少なくとも3人の外務大臣、1人の米国上院議員、1人の州知事に連絡を取った。この偽者はAIを使い、ルビオ氏の声と文体を模倣した。
タミー・ブルース報道官は、国務省がこの状況を注視し、対応していると述べた。
ブルース氏は、「国務省は情報保護の責任を真摯に受け止めており、セキュリティ上の理由から、将来のインシデント発生を防ぐため、サイバーセキュリティ体制の強化に向けた継続的な対策を講じています」と述べた。
ルビオ氏になりすました今回の試みは、AIを用いて動画、画像、音声録音などのメディアを操作する「ディープフェイク」コンテンツの増加を浮き彫りにしている。
昨年のニューハンプシャー州民主党大統領予備選では、当時再選を目指していたジョー・バイデン氏からディープフェイクのロボコールを受けたと住民から報告がありました。また、昨年のスロバキア選挙では、候補者が不正投票の方法を詳細に語るとされるディープフェイクの音声録音が拡散しました。
AIによって政府への侵入が容易になると、国家安全保障に影響を及ぼす脆弱性が生じる可能性があり、真実と虚構を区別することがますます困難になっています。
ユニバーシティ・カレッジ・ロンドンが2023年に行った調査によると、人間はディ ープフェイク音声サンプルの4分の1以上を正確に検出できなかったことが示されました。
この調査はAI音声技術の黎明期に行われ、その後ツールは劇的に進化しました。最近のAIアプリの中には、ほんの数個の音声断片だけで音声を忠実に複製し、ほぼ何でも話せるものもあり、話者の癖まで真似ることさえあります。
しかし、AIの普及に伴い、ディープフェイクコンテンツを見分ける技術の開発が進められています。
2022年、UAEのモハメド・ビン・ザイド人工知能大学（MBZUAI）は、ディープフェイク検出用ビデオ変換器に関する米国特許の出願人としてリストアップされました。この特許は、「ディープフェイクの可能性がある動画を再生し、その動画が本物か偽物かを示す表示装置」で構成される予定です。
MBZUAIのコンピュータービジョン准教授であるハオ・リー氏は昨年、The Nationalに対し、ディープフェイク検出技術は飛躍的な進歩を遂げていると述べました。
「検出不可能なディープフェイクを作成することはますます困難になっています」と同氏は述べました。
しかし、その結果、今後数ヶ月、数年のうちに、政府関係者のなりすまし行為がさらに蔓延する可能性があります。
民主主義防衛財団のAI研究員であるリア・シスキンド氏は、AIを活用した欺瞞行為は、影響力行使における新たな領域だと述べています。
「これは深刻な外交的影響を及ぼす、喫緊の国家安全保障問題です」とシスキンド氏は述べました。
「政府高官のディープフェイクが個人のアカウントへのアクセスに利用された事例は他にもありますが、外交関係や意思決定に影響を与えるためにAIを活用することは、事態のエスカレーションとして危険です。」