Description: TikTok videos falsely depicted large crowds as chanting pro-AfD slogans by replacing the original audio with manipulated sound. The footage, originally from January 2024 anti-extremism protests, was repurposed in January 2025 to mislead viewers. AI-generated or altered audio was added to create the illusion of far-right support. Fact-checkers confirmed the deception, and the accounts responsible later deleted the content, claiming no intent to spread misinformation.
Editor Notes: Please also refer to Incident 929: Sustained AI-Driven Russian Disinformation Campaigns Doppelgänger, Storm-1516, and Matryoshka Reportedly Disrupting German Federal Elections.
Entidades
Ver todas las entidadesAlleged: Unknown voice cloning technology developer developed an AI system deployed by TikTok user Alice Weidel Fan , TikTok user AfD John y AfD supporters, which harmed Protesters against right-wing extremism in Germany , General public of Germany y German election integrity.
Sistemas de IA presuntamente implicados: Unknown voice cloning technology y TikTok
Estadísticas de incidentes
ID
931
Cantidad de informes
2
Fecha del Incidente
2025-01-21
Editores
Daniel Atherton
Informes del Incidente
Cronología de Informes
correctiv.org · 2025
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Varios vídeos de TikTok algunos con millones de visitas muestran grandes manifestaciones en las que se pueden escuchar cánticos de "Alemania del Este, del Este, del Este". Los perfiles que los difunden se llaman "Alice Weidel Fan" o "AfD Jo…
euronews.com · 2025
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
En vísperas de las elecciones federales alemanas, las noticias falsas y la propaganda generada por inteligencia artificial se multiplican en Internet.
A medida que se acercan las elecciones federales alemanas, se han vuelto virales unos víd…
Variantes
Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.
Incidentes Similares
Selected by our editors
Did our AI mess up? Flag the unrelated incidents

Danger, danger! 10 alarming examples of AI gone wild
· 6 informes

Chinese AI caught out by face in bus ad
· 24 informes

Fake Obama created using AI tool to make phoney speeches
· 29 informes
Incidentes Similares
Selected by our editors
Did our AI mess up? Flag the unrelated incidents

Danger, danger! 10 alarming examples of AI gone wild
· 6 informes

Chinese AI caught out by face in bus ad
· 24 informes

Fake Obama created using AI tool to make phoney speeches
· 29 informes