概要: ニューヨークでは、「マムダニ反対市民」と名乗るアカウントが連携し、当時市長に選出されたゾーラン・マムダニ氏を批判する架空の住民のAI生成動画をInstagram、TikTok、XなどのSNSに投稿したと報じられている。一部の動画にはSoraの透かしがはっきりと表示されており、法医学鑑定士は少なくとも1つの動画がディープフェイクである可能性が非常に高いと判断したと報じられている。このキャンペーンは草の根運動による反対運動を模倣したもので、大きな反響を呼んだと伝えられている。
Editor Notes: Timeline notes: Incident date set to 11/05/2025 based on a reported recovered Instagram post from the citizensagainstmamdani account showing a visible Sora watermark and an on-platform posting date of November 5, 2025. This appears to currently be the earliest verified public posting identified for the campaign. The incident ID was created 03/21/2026.
Alleged: Voice cloning technology developers , OpenAI と Deepfake technology developers developed an AI system deployed by Unknown social media account operators , Information manipulation actors , Citizens Against Mamdani social media accounts , Citizens Against Mamdani と Information manipulation actors targeting Zohran Mamdani, which harmed Zohran Mamdani , Voters in New York , General public of New York , Epistemic integrity , American social media users と Democratic integrity.
関与が疑われるAIシステム: X (Twitter) , Voice cloning technology , Deepfake technology , TikTok , Sora と Instagram
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
4.1. Disinformation, surveillance, and influence at scale
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Malicious Actors & Misuse
Entity
Which, if any, entity is presented as the main cause of the risk
AI
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Intentional
インシデントレポート
レポートタイムライン
Loading...
ゾラン・マムダニ次期市長を批判する架空のニューヨーカーの動画を生成するために、ほぼ間違いなく人工知能（AI）を使用していると思われる不気味なアカウントが、恐ろしい可能性を提起している。それは、ディープフェイクが政治家だけでなく、有権者のなりすましにも悪用される可能性があるということだ。
複数のソーシャルメディアプラットフォーム上のアカウントは、似たようなプロフィール画像を使用し、互いに関連しているように見える。これらのアカウントは「マムダニ反対市民」と名乗っている。ここ数日、…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents