関連インシデント
ディープフェイク攻撃は、採用や銀行詐欺だけにとどまらず、今や政府の最高レベルにも及んでいます。今週、マルコ・ルビオ米国務長官を装ったAI攻撃が行われたというニュースが報じられました。当局はこの事件の背後にいる人物を特定していません。
ワシントン・ポスト紙が入手した米国務省の機密文書閲覧済みは、メッセージングアプリ「Signal」の音声メッセージとテキストメッセージで、何者かがルビオ氏の声と文体を偽装したと警告しています。攻撃者はルビオ氏の名前で複数の政府関係者に連絡を取り、情報やアカウントへのアクセスを試みていたと報じられています。機密文書によると 、攻撃者の標的には、3人の外務大臣、1人の米国知事、1人の米国下院議員が含まれていました。
攻撃者は「Marco.Rubio@state.gov」という表示名でSignalアカウントを作成し、標的にSignalでのコミュニケーションを促しました。
これらの攻撃におけるAI要素とは、ディープフェイクを指している可能性が高い。これはデジタルミミクリの一種で、攻撃者は人物の音声や映像を用いて、説得力のある音声や画像を作成する。多くの攻撃者が、標的の偽動画を作成し、ディープフェイクポルノやビジネスマンになりすますに利用している。
ルビオ氏のディープフェイクは、なりすまし犯が政府関係者を標的にした初めての事例ではない。 5月、何者かがホワイトハウス首席補佐官スージー・ワイルズ氏になりすまし、彼女の連絡先に電話やテキストメッセージを送信しました。当初、何人かは詐欺に気付かず、本物の会話であるかのように攻撃者とやり取りしました。
この事件はルビオ氏の責任ではありません。このような攻撃は、詐欺師が人気のメッセージングツールを利用することで、一般的になりつつあります。Signalは行政府で広く使用されているアプリのようで、国家情報長官のタルシ・ギャバード氏は、政府のデバイスにプリインストールされていると述べています。
このSignalの悪用は、当時の国家安全保 障問題担当大統領補佐官マイク・ウォルツ氏が、イエメン爆撃計画に関する議論を含むSignalのグループチャットにジャーナリストを誤って追加したことで頂点に達しました。ウォルツ氏は現在、国家安全保障問題担当大統領補佐官を退任しています。このアプリの悪用は前政権時代にまで遡り、国防総省はこれに関するメモを公開せざるを得ませんでした。
なぜ政府高官に対するこのような攻撃を心配する必要があるのでしょうか？まず、外国がこのような方法で機密情報を入手してしまう可能性があると考えるのは恐ろしいことです。しかし、これはディープフェイクを使って誰かになりすますことがいかに簡単であるかを示しています。アルゴリズムを学習させる音声の断片をいくつか用意するだけで、音声攻撃を仕掛けることができます。
パメラ・ボンディがあなたの読書クラブのチャットに参加したら疑わしいと思うでしょう。しかし、もし誰かがあなたになりすまして年配の親戚に電話をかけてきて、事故に巻き込まれた、あるいは誘拐されたので身代金を懇願してきたら、彼らは騙されるでしょうか？実際に騙されたケースが数件。
奇妙に思えるかもしれませんが、現代の脅威には昔ながらの保護対策が必要です。親しい人と家族のパスワードを共有し、お互いの身元確認のためにパスワードを要求できるようにすることをお勧め します。このパスワードは絶対に誰にも送らず、自分だけの秘密にして、直接会って合意してください。
しかし、家族のパスワードを使っても、おばあちゃんが偽のマーク・ラファロやブラッド・ピットによるディープフェイクロマンス詐欺の標的になることは避けられません。しかし、静かに話し合い、脅威について説明し、テクノロジーにあまり詳しくない大切な人の安全を定期的に確認することで、このような災難を回避できるかもしれません。