関連インシデント
ワシントン発 ― 国務省は、人工知能（AI）技術を用いてマルコ・ルビオ国務長官やおそらく他の政府高官を詐称しようとする試みについて、米国外交官に警告を発した。これは、2人の高官と、先週全米大使館・領事館に送られた電報で明らかになった。
ワシントン・ポスト紙が最初に報じた7月3日付の電報によると、ルビオ氏を装った詐欺師が少なくとも3人の外務大臣、1人の上院議員、1人の州知事に連絡を取ろうとしていたことが国務省で確認されたことを受けての警告である。
詐欺メッセージは、テキストメッセージ、シグナル、ボイスメールで送信され、その電報のコピーはAP通信に提供された。
「国務省はこの事案を認識しており、現在、事態の監視と対応に取り組んでいる」と、国務省報道官タミー・ブルース氏は記者団に述べた。「国務省は情報保護の責任を重く受け止めており、今後の事案発生を防ぐため、サイバーセキュリティ体制の強化に向けた継続的な対策を講じている」
彼女は「セキュリティ上の理由」と捜査継続中を理由に、これ以上のコメントを控えた。
これは、トランプ政権高官がなりすましの標的となった最新の事例であり、5月にはドナルド・トランプ大統領のスージー・ワイルズ首席補佐官が関与した同様の事件が明らかになった。AI技術の進歩と普及に伴い、AIを悪用して人々を欺く行為は増加すると予想され、FBIは今春、テキストメッセージや音声メッセージを使ったキャンペーンで米国政府高官になりすます「悪意のある人物」について警告を発していた。
ルビオ氏を巻き込んだ偽装工作は失敗に終わり、「それほど巧妙なものではなかった」と、当局者の1人は述べた。しかし、もう1人の当局者は、特に外国勢力による情報セキュリティ侵害の試みが増加していることから、FBIはすべての職員と外国政府に助言することが「賢明」だと考えていると述べた。
当局者らはこの件について公に議論する権限がなく、匿名を条件に話した。
「このキャンペーンはFBIに直接的なサイバー脅威を与えないが、標的の個人がセキュリティ侵害を受けた場合、第三者と共有された情報が漏洩する可能性がある」と公電は述べている。
FBIは公共広告で、米国高官を装い、他の政府関係者や被害者の関係者、連絡先を騙そうとするテキストメッセージやAI生成の音声メッセージを利用した「悪質な」キャンペーンについて警告を発している。
ルビオ氏がディープフェイクでなりすまされたのは今回が初めてではない。今年の春には、ルビオ氏がイーロン・マスク氏のインターネットサービス「スターリンク」へのウクライナからのアクセスを遮断したいと発言する偽の動画が作成された。ウクライナ政府は後にこの虚偽の主張を否定した。
近年、AIによる欺瞞行為への悪用が増加していることに対し、刑事罰の導入やメディアリテラシーの向上など、いくつかの解決策が提案されている。ディープフェイクへの懸念から、人間を簡単に騙せるような偽物を見抜くための新しいアプリやAIシステムが次々と登場している。
バッファロー大学の教授でコンピューター科学者のシウェイ・リュ氏によると、こうしたシステムを開発しているテクノロジー企業は、AIを使って人を騙そうとする企業と競争しているという。リュ氏は、技術の進歩に伴い、著名人、政治家、ビジネスリーダーを模倣したディープフェイクの数が増加していると述べた。
ほんの数年前までは、フェイクには簡単に見分けられる欠陥――人間離れした声や余分な指といったミス――が含まれていたが、今ではAIが非常に優れているため、人間が見分けるのははるかに難しく、ディープフェイク作成者が有利になっている。
「リアリティと品質のレベルは向上している」とリュ氏は述べた。「これは軍拡競争であり、今はディープフェイク作成者が優位に立っている」
ウォール・ストリート・ジャーナル紙が5月に報じたところによると、ルビオ氏を騙したという捏造は、ワイルズ氏の個人携帯電話の連絡先にアクセスしたと思われる人物から、議員、企業幹部、その他の著名人にテキス トメッセージや電話が送られたことを受けて起きた。
同紙によると、電話を受けた人の中には、ワイルズ氏に似た声を聞いた人もいたという。これはAIによって生成された可能性がある。報道によると、メッセージや電話はワイルズ氏の番号から発信されたものではなかったという。政府は現在調査中だ。