Description: TikTok videos purportedly depicted large crowds as chanting pro-AfD slogans by reportedly replacing the original audio with manipulated sound. The footage, originally from January 2024 anti-extremism protests, was repurposed in January 2025 to reportedly mislead viewers. Purported AI-generated or altered audio was added to create the illusion of far-right support. Fact-checkers confirmed the deception, and the accounts responsible later deleted the content, claiming no intent to spread misinformation.
Editor Notes: Please also refer to Incidents 909, 929, 1060, and 1061 for similar incidents. While this incident has not been explicitly attributed to Operation Overload (also known as Matryoshka or Storm-1679), its thematic content and manipulation tactics appear adjacent. No direct forensic or institutional linkage has been established as of this writing.
Entités
Voir toutes les entitésAlleged: Unknown voice cloning technology developer developed an AI system deployed by TikTok user Alice Weidel Fan , TikTok user AfD John et AfD supporters, which harmed Protesters against right-wing extremism in Germany , German election integrity et General public of Germany.
Systèmes d'IA présumés impliqués: Unknown voice cloning technology et TikTok
Statistiques d'incidents
ID
931
Nombre de rapports
2
Date de l'incident
2025-01-21
Editeurs
Daniel Atherton
Rapports d'incidents
Chronologie du rapport
Plusieurs vidéos TikTok certaines avec des millions de vues montrent de grandes manifestations au cours desquelles on peut entendre des slogans « Allemagne de l'Est, Allemagne de l'Est, Allemagne de l'Est ». Les profils qui les diffusent s'…
À l'approche des élections fédérales allemandes, les fausses nouvelles et la propagande générée par l'IA se multiplient en ligne.
À l'approche des élections fédérales allemandes, des vidéos TikTok montrant des centaines de milliers de perso…
Variantes
Une "Variante" est un incident de l'IA similaire à un cas connu—il a les mêmes causes, les mêmes dommages et le même système intelligent. Plutôt que de l'énumérer séparément, nous l'incluons sous le premier incident signalé. Contrairement aux autres incidents, les variantes n'ont pas besoin d'avoir été signalées en dehors de la base de données des incidents. En savoir plus sur le document de recherche.
Vous avez vu quelque chose de similaire ?
Incidents similaires
Selected by our editors
Did our AI mess up? Flag the unrelated incidents
Wikipedia Vandalism Prevention Bot Loop
· 6 rapports
Picture of Woman on Side of Bus Shamed for Jaywalking
· 24 rapports
Deepfake Obama Introduction of Deepfakes
· 29 rapports
Incidents similaires
Selected by our editors
Did our AI mess up? Flag the unrelated incidents
Wikipedia Vandalism Prevention Bot Loop
· 6 rapports
Picture of Woman on Side of Bus Shamed for Jaywalking
· 24 rapports
Deepfake Obama Introduction of Deepfakes
· 29 rapports