Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
自動翻訳済み

インシデント 1060: 戦略対話研究所は、2025年1月から3月にかけて、ロシアと連携した「オーバーロード作戦」がAIによるなりすまし行為を目的に実施されたと報告した。

概要:
自動翻訳済み
戦略対話研究所(ISD)の研究者らは、「オペレーション・オーバーロード」(別名マトリョーシカ、ストーム1679)は、AI生成のナレーションやビジュアルインパーソナリティを駆使し、虚偽または扇動的なコンテンツをプラットフォーム間で拡散する、ロシアと連携したキャンペーンであると報告している。ISDが2025年初頭に分析したこのキャンペーンには、機関や個人を標的とした少なくとも135件の個別の投稿が含まれており、その中には、USAID(米国国際開発庁)が資金提供した著名人のウクライナ旅行を偽って主張する動画も含まれていた(インシデント1061参照)。
Editor Notes: Timeline note: Although individual Operation Overload posts circulated prior to May 2025, this record uses the publication date of ISD's comprehensive report (05/06/2025) as the temporal anchor. The report can be accessed at the following URL: https://www.isdglobal.org/digital_dispatches/stolen-voices-russia-aligned-operation-manipulates-audio-and-images-to-impersonate-experts/. It consolidates evidence of coordinated AI-generated disinformation activity, including impersonation of institutions and individuals, across the first quarter of 2025. Please also refer to (1) Incident 909: Matryoshka Campaign Allegedly Uses Deepfakes to Impersonate Academics for Pro-Russian Propaganda; (2) Incident 929: Sustained AI-Driven Russian Disinformation Campaigns Doppelgänger, Storm-1516, and Matryoshka Reportedly Disrupting German Federal Elections; and (3) Incident 931: Reportedly Manipulated TikTok Videos Misrepresent Anti-AfD Protests as Far-Right Rallies. While 931 has not been explicitly attributed to Operation Overload (also known as Matryoshka or Storm-1679), its thematic content and manipulation tactics appear adjacent. (No direct forensic or institutional linkage has been established as of this writing.) (4) See also Incident 1061 for a specific archive of reporting on the USAID celebrity impersonation incident.

ツール

新しいレポート新しいレポート新しいレスポンス新しいレスポンス発見する発見する履歴を表示履歴を表示

組織

すべての組織を表示
Alleged: Various generative AI developers , Unknown voice cloning technology developers と Unknown deepfake technology developers developed an AI system deployed by Storm-1679 , Russian-aligned actors , Operation Overload と Matryoshka, which harmed Western support for Ukraine , Voters in Germany , USAID , Ukrainian refugees , Truth , News organizations , Law enforcement agencies , Journalists , General public , Fact-checkers , European politicians , Electoral integrity , Democracy と Academics.
関与が疑われるAIシステム: X (Twitter) , Unknown voice cloning technology , Unknown deepfake technology , Telegram , Social media platforms と Bluesky

インシデントのステータス

インシデントID
1060
レポート数
3
インシデント発生日
2025-05-06
エディタ
Daniel Atherton

インシデントレポート

レポートタイムライン

虚偽がUSAIDに対する右翼の運動を煽る+2
盗まれた音声:ロシアと連携した作戦で音声と画像を操作し専門家になりすます
虚偽がUSAIDに対する右翼の運動を煽る

虚偽がUSAIDに対する右翼の運動を煽る

nytimes.com

盗まれた音声:ロシアと連携した作戦で音声と画像を操作し専門家になりすます

盗まれた音声:ロシアと連携した作戦で音声と画像を操作し専門家になりすます

isdglobal.org

ロシアのフェイクニュース組織は苦戦していた。そしてUSAIDを標的にした。

ロシアのフェイクニュース組織は苦戦していた。そしてUSAIDを標的にした。

washingtonpost.com

虚偽がUSAIDに対する右翼の運動を煽る
nytimes.com · 2025
自動翻訳済み

米国国際開発庁(USAID)がベン・スティラー、アンジェリーナ・ジョリーら俳優たちにウクライナ渡航費として数百万ドルを支払ったという虚偽の主張を含むこの動画は、E!Newsのクリップのように見えたが、実際には同エンターテイメントチャンネルでは放映されなかった。

実際、この動画は最初にXに掲載された。研究者らによると、このアカウントはロシアの偽情報を拡散しているとされている。

数時間後、イーロン・マスク氏の注目を集め、同氏はそれを再投稿した。トランプ大統領の息子ドナルド・トラン…

盗まれた音声:ロシアと連携した作戦で音声と画像を操作し専門家になりすます
isdglobal.org · 2025
自動翻訳済み

ロシアと連携した影響力行使作戦「オペレーション・オーバーロード」は、マトリョーシカやストーム-1679*とも呼ばれ、メディア、学者、法執行機関を偽装することで知られています。ウクライナ戦争に関する世論を動かし、民主主義国家に分裂を植え付けることを目的としています。この作戦の投稿には、複数のメディアや研究機関がタグ付けされることが多く、他の調査から注意をそらす可能性が高いと考えられます。この作戦は、X、Telegram、Blueskyなど、複数のプラットフォームで展開されていま…

ロシアのフェイクニュース組織は苦戦していた。そしてUSAIDを標的にした。
washingtonpost.com · 2025
自動翻訳済み

ロシアの偽情報は必ずしも効果がないわけではない。

新たな報告書で分析された、クレムリンと連携したプロパガンダ投稿135件のうち、134件はソーシャルメディアユーザーにほとんど受け入れられず、主にボットネットワークによって「いいね!」や再シェアされただけだった。しかし、1件は大きな反響を呼んだ。そして、人工知能によって偽情報の作成コストが削減されたため、専門家は、この1件の成功が、おそらくロシアの資金提供者による陰謀論の目にキャンペーン全体の勝利を映す可能性が高いと指摘している…

バリアント

「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください

よく似たインシデント

Selected by our editors

Falsehoods Fuel the Right-Wing Crusade Against U.S.A.I.D.

Feb 2025 · 2 レポート
テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

Fake Accounts Using GAN Faces Deployed by Propaganda Campaign on Social Platforms

Pro-China Propaganda Act Used Fake Followers Made With AI-Generated Images

Jun 2020 · 2 レポート
Twitter Recommender System Amplified Right-Leaning Tweets

Twitter admits bias in algorithm for rightwing politicians and news outlets

Feb 2016 · 3 レポート
Alleged Issues with Proctorio's Remote-Testing AI Prompted Suspension by University

University of Illinois to Discontinue Remote-Testing Software After Students Complain of Privacy Violation

Jan 2020 · 6 レポート
前のインシデント次のインシデント

よく似たインシデント

Selected by our editors

Falsehoods Fuel the Right-Wing Crusade Against U.S.A.I.D.

Feb 2025 · 2 レポート
テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

Fake Accounts Using GAN Faces Deployed by Propaganda Campaign on Social Platforms

Pro-China Propaganda Act Used Fake Followers Made With AI-Generated Images

Jun 2020 · 2 レポート
Twitter Recommender System Amplified Right-Leaning Tweets

Twitter admits bias in algorithm for rightwing politicians and news outlets

Feb 2016 · 3 レポート
Alleged Issues with Proctorio's Remote-Testing AI Prompted Suspension by University

University of Illinois to Discontinue Remote-Testing Software After Students Complain of Privacy Violation

Jan 2020 · 6 レポート

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 1420c8e