概要: TikTok videos purportedly depicted large crowds as chanting pro-AfD slogans by reportedly replacing the original audio with manipulated sound. The footage, originally from January 2024 anti-extremism protests, was repurposed in January 2025 to reportedly mislead viewers. Purported AI-generated or altered audio was added to create the illusion of far-right support. Fact-checkers confirmed the deception, and the accounts responsible later deleted the content, claiming no intent to spread misinformation.
Editor Notes: Please also refer to Incidents 909, 929, 1060, and 1061 for similar incidents. While this incident has not been explicitly attributed to Operation Overload (also known as Matryoshka or Storm-1679), its thematic content and manipulation tactics appear adjacent. No direct forensic or institutional linkage has been established as of this writing.
Alleged: Unknown voice cloning technology developer developed an AI system deployed by TikTok user Alice Weidel Fan , TikTok user AfD John と AfD supporters, which harmed Protesters against right-wing extremism in Germany , German election integrity と General public of Germany.
関与が疑われるAIシステム: Unknown voice cloning technology と TikTok
インシデントのステータス
インシデントID
931
レポート数
2
インシデント発生日
2025-01-21
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン
いくつかの TikTok動画 何百万回も再生されているもの には、大規模なデモの様子が映っており、「東、東、東ドイツ」というスローガンが聞こえる。これらの動画を拡散しているプロフィールは、「アリス・ヴァイデルファン」や「AfDジョン」と呼ばれている。コメ ント欄では、多くのユーザーが同党への支持を表明している。しかし、動画に映っているのはAfDのためのデモではなく、2024年1月に右翼過激主義に反対するデモを行う人々だ。東ドイツのスローガンは後から追加されたものだ。オリジナルの…
ドイツの連邦選挙を前に、フェイクニュースやAIが生成したプロパガンダがオンラインで急増している。
ドイツの連邦選挙が近づくにつれ、極右政党「ドイツのための選択肢（AfD）」のために何十万人もの人々が行進している様子を映したとされるTikTok動 画が話題になっている。
ドイツのメディアCorrectivは、動画が操作されていたことを明らかにした。これはEurorverifyの調査で確認されている。
AfD支持者のさまざまなアカウントによって投稿された動画は、群衆の映像と、極右政…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
