Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる

レポート 5157

関連インシデント

インシデント 10603 Report
Institute for Strategic Dialogue Reports Russian-Aligned Operation Overload Using Purported AI-Generated Impersonations Across January to March 2025

Loading...
盗まれた音声:ロシアと連携した作戦で音声と画像を操作し専門家になりすます
isdglobal.org · 2025

ロシアと連携した影響力行使作戦「オペレーション・オーバーロード」は、マトリョーシカやストーム-1679*とも呼ばれ、メディア、学者、法執行機関を偽装することで知られています。ウクライナ戦争に関する世論を動かし、民主主義国家に分裂を植え付けることを目的としています。この作戦の投稿には、複数のメディアや研究機関がタグ付けされることが多く、他の調査から注意をそらす可能性が高いと考えられます。この作戦は、X、Telegram、Blueskyなど、複数のプラットフォームで展開されています。 * *このISDディスパッチでは、2025年第1四半期のオペレーション・オーバーロードの活動の概要を、最新のナラティブとターゲットに焦点を当てて説明します。ISDは、2025年1月から3月までのオペレーション・オーバーロードに起因する活動のサンプルをレビューしました。その結果、135件のコンテンツにおいて、80を超えるさまざまな組織になりすましていることがわかりました。ほとんどの場合、ロゴを悪用したり、関係者の発言を操作することでなりすましが行われていました。オペレーション・オーバーロードの大規模ななりすましキャンペーンは現在も継続しており、バイラルコンテンツを生み出し、信頼されている組織の評判を傷つけ、その投稿にタグ付けされた人々の注意をそらす可能性があります。 * #### 主な調査結果 - オペレーション・オーバーロードは、持続的で大量のキャンペーンです。そのナラティブは、NATO加盟国とウクライナ内で新たに浮上している論争を利用しています。135件のコンテンツのサンプルで、この作戦はドイツ、フランス、ウクライナを中心に10か国を標的にしていることがわかりました。そのメッセージは、ウクライナの戦争努力を弱体化させ、民主主義を不安定化させることに重点を置いていました。 - この作戦の最新段階では、信頼できる情報源になりすますように設計された動画が作成され、2025年の最初の3か月間で80以上の組織になりすましました。これらの組織の4分の3は、報道機関、大学、または法執行機関でした。多くの動画には、ジャーナリスト、教授、警察官の実際の映像とAI生成の音声が組み込まれていました。 - この作戦のコンテンツのほとんどは、USAIDが有名人にウクライナへの旅行費を支払ったという虚偽の主張をした1つの動画を除いて、あまり関心を集めませんでした。この動画は400万回以上再生されました。その他のレビューされた投稿はすべて、実際のユーザーからの注目をほとんど集めず、いいねやシェアを生成するためにボットネットワークに大きく依存していました。リーチは限られているにもかかわらず、この作戦の大量出力は、ユーザーにリーチし、投稿にタグ付けされた組織の注意をそらし、なりすました組織の評判を傷つける可能性を高めました。 ISD とその他の組織は、この作戦を監視して、影響度を測定し、傾向を特定し、将来のキャンペーンを予測しています。 - ISD は、X (旧 Twitter) での作戦の投稿のサンプルを分析して、物語と戦術のパターンを評価しましたが、この作戦は Telegram や Bluesky を含む複数のプラットフォームに同じコンテンツを投稿することが多かったです。アナリストが記録する前に X がコンテンツを削除したことがあり、一部の投稿は、ロシアの情報作戦で一般的に標的とされる物語や国に関連する検索に依存する、コンテンツを浮上させる方法論から外れていました。 #### 新年も同じ戦術 オーバーロード作戦は、持続的 かつ大量のロシアの 情報作戦 です。信頼できる情報源になりすまして、不和、混乱、不信感を煽ります。この作戦は、ニュース報道を装った動画を作成・投稿し、AIを使って専門家の音声を複製し、新聞の見出しを偽造し、画像を操作している。CheckFirst、Recorded Future、Digital Forensics Research Labなどの組織が、この作戦の過去の経緯や、ソーシャルメディアやメールを通じた反証依頼でジャーナリストなどを圧倒する取り組みについて詳細に報じている。このISDディスパッチは、2025年の最初の3か月間にわたるオペレーション・オーバーロードのキャンペーンの最新情報を提供し、新しいメッセージとターゲットにスポットを当てています。今年の第1四半期に、この作戦はXに少なくとも135のコンテンツを投稿しました。10か国をターゲットにし、10の言語で投稿し[1]、80を超える組織に所属する人々のロゴを使用したり、操作された声を使用したりしました。ターゲットはさまざまでしたが、ドイツ、フランス、ウクライナに重点が置かれていたことは明らかです。その物語は、選挙、政治家、経済、教育、医療に関連する政策について虚偽または誤解を招く情報を広めるなどして、ウクライナに対するNATO諸国の支援を弱め、国内政治を混乱させることに重点を置いていました。そのために、この作戦は既存の機関になりすますことが頻繁に行われました。コンテンツの4分の3以上は、メディア、大学、法執行機関から発信されたものと思われます。しかし、こうした努力にもかかわらず、オペレーション・オーバーロードでは、X上でオーガニックなエンゲージメントを獲得した投稿は1件のみでした。USAIDがセレブのウクライナ旅行に資金を提供しているという嘘を広めたその投稿は、有名な陰謀論者アカウントによって共有され、その後、キャンペーンとは無関係の有名アカウントによって拡散された結果、420万回以上の閲覧数を記録しました。これほどのバイラル性は稀ですが、この作戦は今後、さらに多くの「ブレイクアウト・モーメント」を生み出す可能性があります。また、なりすましの個人や機関には特有の課題が突きつけられ、対応方法について慎重な判断が求められます。以前投稿されたコンテンツは依然としてリスクをもたらします。ISDが特定した投稿の約80%がX上で引き続き利用可能なため、ユーザーは誤解を招くコンテンツにさらされ、なりすましのユーザーは評判の損害リスクにさらされています。 #### ヨーロッパとウクライナをターゲットに オペレーション・オーバーロードは、危機や議論を利用するために国から国へと移動しています。最初の3か月間で、ISDはコンテンツの4分の3がウクライナとEU加盟国、特にドイツとフランスの視聴者を対象としていることを発見した。2月23日に行われた連邦選挙に対する作戦の関心を反映して、ドイツが最も頻繁に標的にされた。最もなりすましが多かった組織であるドイツの国際放送局ドイチェ・ヴェレ(DW)もドイツの組織だった。しかし、ドイツの政治問題に言及する投稿や動画のほとんどは他の言語で行われており、ドイツの国際的地位を弱体化させようとする、または多言語のドイツ人視聴者にリーチしようとする動きがうかがえる。フランスは2番目に標的となった国であり、エマニュエル・マクロン大統領への言及は他のどの政治家よりも多かった。オペレーション・オーバーロードは頻繁にフランス語でコンテンツを作成し、動画の約3分の1がフランス語だった。最近の多くのロシアと連携した情報作戦の焦点を考えれば、意外ではないかもしれないが、ウクライナも標的にされていた。オペレーション・オーバーロードのアカウントは、ウクライナ政府を好戦的で腐敗した存在として描写するコンテンツで、欧米のユーザーを定期的に標的にしていました。これらの傾向は、オペレーション・オーバーロードが選挙、ウクライナを支持する有力政治家、そしてウクライナそのものといった、地政学的に重要な標的に重点を置いていることを示しています。ロシアと連携した多くの情報作戦と同様に、この作戦は、既に国際的な見出しを飾っている会話に、虚偽で誤解を招くような情報を挿入することに重点を置いています。#### ウクライナと欧州政治に関するメッセージ オペレーション・オーバーロードのメッセージは多岐にわたりましたが、そのほとんどは2つの目標に焦点を当てていました。NATOによるウクライナ支援を弱体化させることと、政治的混乱を引き起こすことです。オペレーション・オーバーロードのコンテンツの約3分の1は、NATOによるウクライナ支援を弱体化させることを目的としていました。アカウントは、信頼できる情報源からの偽の引用を掲載し、ウクライナはヨーロッパを第三次世界大戦に引きずり込む「陰険な挑発者」であると主張しました。また、ウクライナが10万件以上の虚偽の報告を拡散し、サイバー攻撃を仕掛けたと非難しました。ウクライナ当局者が国外に逃亡し、外国援助を利用して豪邸を購入していると報じられた。現在EU諸国に居住しているウクライナ難民は、放火、窃盗、嫌がらせ、動物虐待の容疑で仕立て上げられた。1月下旬、この作戦は2月のドイツ総選挙を標的とした。ドイツ連邦情報局(BND)、米国CIA、英国対外情報機関MI6、イスラエル国家情報局モサドといった情報機関による偽のテロ脅迫を用いて、投票率を抑制しようとした。これらの投稿は、投票所でテロ攻撃が発生するだろう、そしてドイツの法執行機関は対応準備ができていないという主張を広めた。ある投稿では、有権者が「ドイツのための選択肢(AfD)」に投票しない限り、選挙で投票することは「命をかけてまでする価値はない」と主張した。また、この作戦は、現与党連合を構成するCSUとCDUの政治家を小児性愛と汚職で非難した。「オーバーロード作戦」は、NATO加盟国内および加盟国間の分裂を誘発することを目的としていた。その内容の多くは、マクロン仏大統領の国内支持を削ぐことに焦点を当て、大統領を不人気で無能な人物として描き出していました。中には、マクロン大統領の「物理的な排除」を主張したり、暗殺未遂事件の捏造報道をしたりした投稿もありました。また、この作戦は米国と欧州の間に亀裂を生じさせることも狙っており、欧州の政治家によるドナルド・トランプ大統領を攻撃する捏造された発言を拡散するなどしています。「オペレーション・オーバーロード」の主張の多くは過激すぎて、支持を得ることができません。偽の暗殺計画や小児性愛の告発といった過激な嘘は、実際の会話に影響を与えることはほとんどありませんでした。しかし、時折、EUの政治家によるトランプ大統領を批判する偽の発言など、より微妙な主張を混ぜ込むこともあります。これらはすぐに却下するのが難しく、民主的な議論に大きなリスクをもたらす可能性があります。 #### 信頼できる情報源のなりすまし Operation Overload は、信頼できる組織が作成したように見える動画の作成を専門としています。3 か月の間に、81 の組織に関連する人々のロゴを使用したり、声を操作したりしました。4 分の 3 以上がメディア、大学、法執行機関で、最も多かったのはフランス、イギリス、ドイツでした。これらの動画のほとんどは、虚偽の主張を含む動画クリップにメディアのロゴを重ね合わせることで、メディアのレポートのように見せるようにデザインされていました。ISD が分析したコンテンツのサンプルでは、合計 28 の異なるメディアのロゴが使用されていました。最も模倣されたメディアは DW (そのブランドは 15 の異なる動画に登場) で、BBC、Sky News、Le Point がそれに続きました。動画の約 40 パーセントは、学者、記者、法執行官の実際の映像と思われるものをソーシャル メディアから取得し、AI 生成の音声を追加して、彼らが何か虚偽または扇動的に発言したように聞こえさせていました。学者の声は、他の分野の人物と比べて約4倍も複製されていました。彼らは権威ある専門家とみなされているものの、一般の人々には一般的に認識できないため、選ばれていると考えられます。そのため、作戦の内容は信憑性があり、発言が人為的に作成または拡張された場合の識別が困難になっています。「オーバーロード作戦」では、少なくとも8つのメディアからのフェイクニュースの見出しや、米国と欧州における親ロシア派の落書きの偽画像など、改ざんされた画像も拡散されました。ある画像には、カリフォルニア州の建物に描かれた落書きで、ウクライナのウォロディミル・ゼレンスキー大統領が「USAID」という文字を引き裂いている様子が写っていました。これは、同州における草の根のウクライナ反対運動という誤った印象を与えるために設計されたものとみられます。この大規模ななりすましキャンペーンは、ロシアの主張を助長し、機関に対する国民の信頼を損ない、信頼できる情報と操作されたコンテンツを区別する国民の能力を低下させています。 #### さまざまな方法で危害を加える 全体的な影響範囲は限られていたものの、「オペレーション・オーバーロード」は、情報キャンペーンがさまざまな方法で影響を及ぼす可能性があることを示している。その範囲は、単発的なバイラルな瞬間や評判の失墜から、研究およびファクトチェックを行うコミュニティへの意図的な混乱まで多岐にわたる。「オペレーション・オーバーロード」は、X では支持を集めるのに苦労したが、1 つの注目すべき例外があった。それは、USAID がセレブのウクライナ旅行に資金を提供したと主張する、広く配布されたビデオだった。有名な陰謀論アカウントがこのビデオを共有した後、複数の著名人がそれを増幅させ、ビデオは 420 万回以上再生された。ただし、この作戦のコンテンツに対する「いいね」や共有のほとんどは、大規模なボット ネットワークによるものだった。これらの投稿へのインタラクションを調べたところ、すべてのエンゲージメントは投稿がオンラインになってからわずか 1 分以内に発生したことがわかり、これはボットの活動を示す強力な指標である。この明らかにボット ネットワークは、暗号通貨や親中国の投稿も促進している。フランス政府機関VIGINUMは、Operation OverloadがWebMasterMarketという会社からXアカウントを購入しているようだと報告しました。これは、国家と連携したアクターがAIチャットボット、PRエージェンシー、[ホスティング]などの商用サービスをどのように使用しているかを示しています。オペレーション・オーバーロードの潜在的な影響は、エンゲージメント指標だけにとどまりません。自社のロゴが流用され、虚偽の報道に不適切に掲載された報道機関は、評判が損なわれ、国民の信頼を失うリスクがあります。なりすましの法執行機関は、自社のロゴが虚偽の情報と結び付けられると、将来の脅威に関する意識を高めることが難しくなる可能性があります。テロリストを称賛したり、ワクチンを批判したり、政治家を攻撃したりするために発言を操作された学者は、専門家からの反発や脅迫に直面する可能性があります。さらに、オペレーション・オーバーロードの各投稿では、研究者、メディア、その他の機関にタグが付けられ、追加の虚偽暴露の取り組みに気を取られます。これにより、より差し迫った、またはより信頼性の高いオンラインの脅威への対処からリソースが転用される可能性があります。 #### 結論:迫り来るオーバーロード作戦「オーバーロード」は、ソーシャルメディアユーザーを欺き、評判の良い組織を装い、その信頼を損ない、研究者の注意をそらすなど、大量のコンテンツを継続的に発信しています。最近の傾向が示すように、この作戦は多言語対応能力を活かし、様々な国で発生している地政学的な論争や出来事を標的としています。選挙、著名政治家、ウクライナ関連の動向は、ほぼ確実に標的に残るでしょう。オーバーロード作戦の標的と戦術を理解することで、プラットフォームは作戦の活動をより適切に監視し、対処できるようになります。Telegram、X、Blueskyなど、作戦が投稿するプラットフォームは、積極的にコンテンツを追跡し、削除する必要があります。オーバーロード作戦は複数のプラットフォームに同一の動画や画像を投稿する傾向があるため、トラストチームとセーフティチームが連携することで、コンテンツをより迅速に特定・削除し、情報空間全体での可視性を低減することができます。研究者は、これらの調査結果を基に、特に影響力の大きい、あるいは悪意のある投稿に関する意識を高める必要があります。繰り返し投稿される物語やバイラル投稿に対する人々の理解を深めることは、情報操作を防ぐのに役立ちます。さらに、「オペレーション・オーバーロード」によるなりすまし被害を受けた組織や個人には、通知を受け、必要に応じて対応する機会を与える必要があります。この作戦がコンテンツの共有を続けるほど、被害を拡大する可能性は高まります。その進化を追跡し、その影響を評価し、タイムリーな対応を可能にするために、追加の監視が必要です。 #### 注釈 [1] オーバーロード作戦は、カナダ、デンマーク、フランス、ドイツ、イタリア、ポーランド、スペイン、ウクライナ、イギリス、アメリカを標的としました。投稿はアラビア語、英語、フランス語、ドイツ語、インドネシア語、日本語、ポルトガル語、スペイン語、トルコ語、ウクライナ語で行われました。

情報源を読む

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd