概要: ニューヨークでは、「マムダニ反対市民」と名乗るアカウントが連携し、当時市長に選出されたゾーラン・マムダニ氏を批判する架空の住民のAI生成動画をInstagram、TikTok、XなどのSNSに投稿したと報じられている。一部の動画にはSoraの透かしがはっきりと表示されており、法医学鑑定士は少なくとも1つの動画がディープフェイクである可能性が非常に高いと判断したと報じられている。このキャンペーンは草の根運動による反対運動を模倣したもので、大きな反響を呼んだと伝えられている。
Editor Notes: Timeline notes: Incident date set to 11/05/2025 based on a reported recovered Instagram post from the citizensagainstmamdani account showing a visible Sora watermark and an on-platform posting date of November 5, 2025. This appears to currently be the earliest verified public posting identified for the campaign. The incident ID was created 03/21/2026.
Alleged: Unknown voice cloning technology developers , Unknown deepfake technology developers と OpenAI developed an AI system deployed by Unknown social media account operators , Unknown disinformation actors targeting Zohran Mamdani , Unknown disinformation actors , Citizens Against Mamdani social media accounts と Citizens Against Mamdani, which harmed Zohran Mamdani , Voters in New York , General public of New York , Epistemic integrity , Electoral integrity と American social media users.
関与が疑われるAIシステム: X (Twitter) , Unknown voice cloning technology , Unknown deepfake technology , TikTok , Sora と Instagram
インシデントのステータス
インシデントID
1425
レポート数
1
インシデント発生日
2025-11-05
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン
Loading...
ゾラン・マムダニ次期市長を批判する架空のニューヨーカーの動画を生成するために、ほぼ間違いなく人工知能（AI）を使用していると思われる不気味なアカウントが、恐ろしい可能性を提起している。それは、ディープフェイクが政治家だけでなく、有権者のなりすましにも悪用される可能性があるということだ。
複数のソーシャルメディアプラットフォーム上のアカウントは、似たような プロフィール画像を使用し、互いに関連しているように見える。これらのアカウントは「マムダニ反対市民」と名乗っている。ここ数日、…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents