関連インシデント
身元不明の人物が、メッセンジャーサービス「Signal」上で、マルコ・ルビオ米国務長官になりすまし、本物と見紛うような音声とテキストメッセージを送信したとみられる。このキャンペーンの目的は、米国国内外の政治家に影響を与えることだった。これは、ディープフェイクの脅威が増大していることを示す、極めて憂慮すべき事例である。
Signalを介したなりすまし：政界へのサイバー攻撃
身元不明の攻撃者が、ディープフェイク技術を用いてマルコ・ルビオ米国務長官になりすましたと報じられている。攻撃者は、ルビオ氏の名前を騙り、テキストと音声の両方でメッセンジャーサービス「Signal」経由でメッセージを送信したとみられる。受信者は米国の政策決定者だけでなく、他国の外務大臣にも及んだ。
ディープフェイ ク：本物と見紛うほどに危険
ほんの数年前にはSFの世界のように聞こえたものが、今や現実離れした日常となっている。人工知能（AI）の助けを借りれば、声や人格さえも、本物らしく模倣できるのだ。サイバー犯罪者にとって、これは信頼を獲得し、偽情報を拡散し、政治プロセスを操作するための強力なツールとなります。
セキュリティ専門家がリスクの増大を警告
Arctic WolfのCISOであり、元FBI捜査官でもあるアダム・マレ氏が、ディープフェイクに関する見解を述べ、社会へのリスクを評価します。
現在報じられている内容は憂慮すべきものです。これまで正体不明の脅威アクターが人工知能（AI）を用いて、Signalアカウント経由でマルコ・ルビオ米国務長官になりすまし、米国政府高官や外国政府関係者に接触したとされています。この事例は、オンラインコンテンツをスクロールする際に何が真実なのか分からなくなる時代が到来したことを示しています。
現在、世界中でAIが政治家、ビジネス界の著名人、著名人になりすます事例が数多く発生しています。今回の事件は、私たちが常に警戒を怠らない必要があることを改めて浮き彫りにしています。昨年も、AI生成コンテンツを用いて選挙に影響を与えようとする試みや、偽情報の拡散が見られました。
そして、画面や受信トレイに表示される情報の中で何が真実なのかを見極めることはますます困難になっています。セキュリティ専門家は長年にわたり、AI生成コンテンツのリスクとそれが世論に影響を与える可能性について警告してきました。特に、世界各地で重要な政治選挙が控えている状況において、これらの懸 念は深刻です。政治的動機を持つ脅威アクターやハクティビストは明確な目的を持ち、AIツールを用いて動画や画像などの偽コンテンツを作成・配信するケースが増えています。そして音声録音。そして、社会はこれに対する準備が驚くほど不十分です！
したがって、あらゆるコミュニケーションを検証するための構造化されたプロセスが必要です。直感だけに頼るだけではもはや不十分です。メッセージが本当に指定された情報源から発信されたものかどうかを、確実に確認できる必要があります。さらに、社会的な議論は新たな方向へ進む必要があります。そのようなコンテンツをホストし、配信するプラットフォームは、より一層の責任を負わなければなりません。虚偽コンテンツの検証、ラベル付け、削除において、プラットフォームは中心的な役割を担わなければなりません。
AIによる偽情報を深刻な社会的リスクとして扱い、嘘を拡散し、社会を不安定化させる責任者を訴追するための、より優れた安全策、法整備、そして現実的な罰則を確立すべき時が来ています。
(副社長/アークティック・ウルフ)