Description: TikTok videos falsely depicted large crowds as chanting pro-AfD slogans by replacing the original audio with manipulated sound. The footage, originally from January 2024 anti-extremism protests, was repurposed in January 2025 to mislead viewers. AI-generated or altered audio was added to create the illusion of far-right support. Fact-checkers confirmed the deception, and the accounts responsible later deleted the content, claiming no intent to spread misinformation.
Editor Notes: Please also refer to Incident 929: Sustained AI-Driven Russian Disinformation Campaigns Doppelgänger, Storm-1516, and Matryoshka Reportedly Disrupting German Federal Elections.
Entités
Voir toutes les entitésAlleged: Unknown voice cloning technology developer developed an AI system deployed by TikTok user Alice Weidel Fan , TikTok user AfD John et AfD supporters, which harmed Protesters against right-wing extremism in Germany , General public of Germany et German election integrity.
Systèmes d'IA présumés impliqués: Unknown voice cloning technology et TikTok
Statistiques d'incidents
ID
931
Nombre de rapports
2
Date de l'incident
2025-01-21
Editeurs
Daniel Atherton
Rapports d'incidents
Chronologie du rapport
correctiv.org · 2025
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Plusieurs vidéos TikTok certaines avec des millions de vues montrent de grandes manifestations au cours desquelles on peut entendre des slogans « Allemagne de l'Est, Allemagne de l'Est, Allemagne de l'Est ». Les profils qui les diffusent s'…
euronews.com · 2025
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
À l'approche des élections fédérales allemandes, les fausses nouvelles et la propagande générée par l'IA se multiplient en ligne.
À l'approche des élections fédérales allemandes, des vidéos TikTok montrant des centaines de milliers de perso…
Variantes
Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.
Incidents similaires
Selected by our editors
Did our AI mess up? Flag the unrelated incidents

Danger, danger! 10 alarming examples of AI gone wild
· 6 rapports

Chinese AI caught out by face in bus ad
· 24 rapports

Fake Obama created using AI tool to make phoney speeches
· 29 rapports
Incidents similaires
Selected by our editors
Did our AI mess up? Flag the unrelated incidents

Danger, danger! 10 alarming examples of AI gone wild
· 6 rapports

Chinese AI caught out by face in bus ad
· 24 rapports

Fake Obama created using AI tool to make phoney speeches
· 29 rapports