Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
自動翻訳済み

インシデント 1221: AIを利用したPRISONBREAKによるXへの影響作戦とされる、エヴィン刑務所襲撃のディープフェイクとテヘランで進行中の攻撃を同期させているとの報道

自動翻訳済み
概要:
自動翻訳済み
シチズン・ラボとクレムソン大学の研究者らは、「PRISONBREAK」と呼ばれる、50以上の偽のXアカウントからなる組織的なネットワークが、AIを活用したとされる影響力行使活動を行っていたことを明らかにした。このネットワークは6月23日のエヴィン刑務所襲撃事件と同期し、襲撃中にAIが生成した「襲撃」動画を投稿し、イラン国民に囚人の釈放を促したほか、他の合成メディアやなりすましメディアも利用していたと報告されている。研究者らは、イスラエル政府または請負業者の関与の可能性を中程度の確信度で評価している。
Editor Notes: Reconstructing the reported timeline of events: (1) 2023: >50 inauthentic X accounts created; mostly dormant. (2) January 2025: network becomes active; coordinated posting via X Web, synthetic media, and amplification tactics. (3) Jun 13, 2025: with hostilities beginning, network reportedly circulates unrest/panic content. (4) 06/23/2025, incident date: during the reportedly ongoing Evin Prison strikes (11:17–12:18 IRST), an account purportedly posts an AI-generated "strike" video (~12:05 IRST) and the network allegedly urges a prison break; we anchor the incident here as the earliest reported real-time use of AI-generated content intended to influence events. (5) After 06/24/2025: campaign continues (water/energy crisis posts; August AI deepfake song); researchers notify X (09/30/2025); report published (10/02/2025). See the full report at: https://citizenlab.ca/2025/10/ai-enabled-io-aimed-at-overthrowing-iranian-regime/.

ツール

新しいレポート新しいレポート新しいレスポンス新しいレスポンス発見する発見する履歴を表示履歴を表示

組織

すべての組織を表示
Alleged: Unknown generative AI developers と Unknown deepfake technology developers developed an AI system deployed by Unidentified Israeli government entity , Unidentified Israeli government contractor under close supervision と PRISONBREAK network operators, which harmed Journalism , Iranian diaspora , General public of Iran , Epistemic integrity と Civil society of Iran.
関与が疑われるAIシステム: Unknown generative AI systems , Unknown deepfake technology と Social media

インシデントのステータス

インシデントID
1221
レポート数
1
インシデント発生日
2025-06-23
エディタ
Daniel Atherton

インシデントレポート

レポートタイムライン

Incident Occurrence革命を望んでいると私たちは言います:PRISONBREAK – イラン政権転覆を目指すAIを活用した影響力作戦
Loading...
革命を望んでいると私たちは言います:PRISONBREAK – イラン政権転覆を目指すAIを活用した影響力作戦

革命を望んでいると私たちは言います:PRISONBREAK – イラン政権転覆を目指すAIを活用した影響力作戦

citizenlab.ca

Loading...
革命を望んでいると私たちは言います:PRISONBREAK – イラン政権転覆を目指すAIを活用した影響力作戦
citizenlab.ca · 2025
自動翻訳済み

AIID編集者注:このレポートは大幅に短縮されています。完全な調査結果については、元のソースをご覧ください。

主な調査結果

  • 50以上の偽のXプロフィールからなる組織化されたネットワークが、AIを活用した影響力行使活動を行っています。「PRISONBREAK」と名付けられたこのネットワークは、イランの視聴者をイラン・イスラム共和国に対する反乱へと扇動する情報を拡散しています。
  • このネットワークは2023年に作成されましたが、その活動のほぼすべては2025年1月から開始され、現…

バリアント

「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか?

よく似たインシデント

テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

Loading...
DALL-E 2 Reported for Gender and Racially Biased Outputs

DALL-E 2 Reported for Gender and Racially Biased Outputs

Apr 2022 · 3 レポート
Loading...
Virginia Courts’ Algorithmic Recidivism Risk Assessment Failed to Lower Incarceration Rates

Virginia Courts’ Algorithmic Recidivism Risk Assessment Failed to Lower Incarceration Rates

Jul 2003 · 2 レポート
Loading...
OpenAI's GPT-3 Associated Muslims with Violence

OpenAI's GPT-3 Associated Muslims with Violence

Aug 2020 · 3 レポート
前のインシデント次のインシデント

よく似たインシデント

テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

Loading...
DALL-E 2 Reported for Gender and Racially Biased Outputs

DALL-E 2 Reported for Gender and Racially Biased Outputs

Apr 2022 · 3 レポート
Loading...
Virginia Courts’ Algorithmic Recidivism Risk Assessment Failed to Lower Incarceration Rates

Virginia Courts’ Algorithmic Recidivism Risk Assessment Failed to Lower Incarceration Rates

Jul 2003 · 2 レポート
Loading...
OpenAI's GPT-3 Associated Muslims with Violence

OpenAI's GPT-3 Associated Muslims with Violence

Aug 2020 · 3 レポート

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 6f6c5a5