FBIは木曜日、悪意のある人物がテキストメッセージと音声メッセージによるキャンペーンで米国政府高官になりすまし、フィッシング詐欺のテキストメッセージとAI生成音声を用いて他の政府高官を騙し、個人アカウントへのアクセスを奪っていると発表した。
警告では、4月に始まり現在も継続中のこのキャンペーンについて詳細はほとんど明らかにされていない。メッセージは、米国高官のテキストメッセージまたはディープフェイク音声メッセージの形で届き、主に「現職または元職の米国連邦政府または州政府高官とその連絡先」に送信され、アカウントへのアクセスを得ようとしていた。
FBIは現在、一般市民に対し、「米 国高官を装ったメッセージを受け取った場合、本物だと決めつけない」よう勧告している。
これは、悪意のある人物がAIとディープフェイク技術を用いて他人の声や容姿をリアルに模倣した最新の事例である。大規模言語モデルが急増し、リアルな動画や音声画像を作成する能力が向上するにつれ、フィッシング詐欺や詐欺キャンペーンでの利用が急増しています。
この技術のこれまでの最も有名な利用例は、おそらく、2024年のニューハンプシャー州大統領予備選に向けて行われた当時のジョー・バイデン大統領のディープフェイクによるなりすましでしょう。政治コンサルタントのスティーブ・クレイマーは、民主党予備選の候補者ディーン・フィリップスと協力し、民主党員に投票所に行かないよう勧告する音声の作成を監督し、予備選の数日前に有権者に送られました。
クレイマー氏はこの事件でFCCから600万ドルの罰金を科され、ニューハンプシャー州の候補者になりすまして投票妨害を試みたとして刑事告訴も受けている。
しかし、ディープフェイク音声は、この技術が登場して以来、より日常的な金融詐欺や、より高度なスパイ活動やサイバー犯罪の計画において急増している。
懸念をさらに深めるのは、今回のキャンペーンで個人アカウントが標的にされているように見えることに加え、トランプ政権の複数の高官が個人の携帯電話から米国政府の政策に関する連絡と調整を行い、Signalなどの暗号化メッセージアプリの安全でないサードパーティ製バージョンを使用していると報道されていることです。
これらの技術による悪用に対する防御策は、警戒を怠らず、知らない発信者を信用しない、公式の番号に電話して身元を確認する、アカウントのセキュリティ保護に多要素認証を使用するなど、標準的なセキュリティアドバイスに従う以外には限られています。
同日、下院で行われた公聴会で、連邦取引委員会（FTC）のアンドリュー・ファーガソン委員長は、AIによるなりすましへの対策は、Take It Down Actなどの新法を通じて、同委員会の最重要課題の一つであると述べた。
「なりすましの愛する人からの電話を受けたことがある人がいるかどうかは分かりませんが、なりすましの家族からの電話を受けた友人がいます」とファーガソン委員長は議員らに語った。「本当に恐ろしい経験です。」
Google Threat Intelligence Groupのチーフアナリスト、ジョン・ハルトクイスト氏は、CyberScoopへのメールで、「以前からサイバー犯罪者はコンテンツを偽造できましたが、AIの登場により、より容易になりすまし、大規模に行うことができるようになりました」と述べた。
「彼らは数年前からAIを使って動画、テキスト、音声を偽造してきました」と同委員長は付け加えた。「そして、その技術は明らかに向上しています。」
この記事は、FTC委員長であるGoogleのハルトクイスト氏のコメントを反映して5月15日に更新されました。