Incidente 931: Vídeos de TikTok manipulados tergiversan protestas contra AfD como manifestaciones de extrema derecha
Descripción: Los videos de TikTok supuestamente mostraban a grandes multitudes coreando consignas a favor de AfD, reemplazando el audio original con sonido manipulado. Las imágenes, originalmente de las protestas contra el extremismo de enero de 2024, fueron reutilizadas en enero de 2025 para, supuestamente, engañar a los espectadores. Se añadió un supuesto audio generado o alterado por IA para crear la ilusión de apoyo a la extrema derecha. Los verificadores de datos confirmaron el engaño, y las cuentas responsables posteriormente eliminaron el contenido, alegando no tener intención de difundir información errónea.
Editor Notes: Please also refer to Incidents 909, 929, 1060, and 1061 for similar incidents. While this incident has not been explicitly attributed to Operation Overload (also known as Matryoshka or Storm-1679), its thematic content and manipulation tactics appear adjacent. No direct forensic or institutional linkage has been established as of this writing.
Entidades
Ver todas las entidadesAlleged: Unknown voice cloning technology developer developed an AI system deployed by TikTok user Alice Weidel Fan , TikTok user AfD John y AfD supporters, which harmed Protesters against right-wing extremism in Germany , German election integrity y General public of Germany.
Sistemas de IA presuntamente implicados: Unknown voice cloning technology y TikTok
Estadísticas de incidentes
ID
931
Cantidad de informes
2
Fecha del Incidente
2025-01-21
Editores
Daniel Atherton
Informes del Incidente
Cronología de Informes
Varios vídeos de TikTok algunos con millones de visitas muestran grandes manifestaciones en las que se pueden escuchar cánticos de "Alemania del Este, del Este, del Este". Los perfiles que los difunden se llaman "Alice Weidel Fan" o "AfD Jo…
En vísperas de las elecciones federales alemanas, las noticias falsas y la propaganda generada por inteligencia artificial se multiplican en Internet.
A medida que se acercan las elecciones federales alemanas, se han vuelto virales unos víd…
Variantes
Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.
¿Has visto algo similar?
Incidentes Similares
Selected by our editors
Did our AI mess up? Flag the unrelated incidents
Wikipedia Vandalism Prevention Bot Loop
· 6 informes
Picture of Woman on Side of Bus Shamed for Jaywalking
· 24 informes
Deepfake Obama Introduction of Deepfakes
· 29 informes
Incidentes Similares
Selected by our editors
Did our AI mess up? Flag the unrelated incidents
Wikipedia Vandalism Prevention Bot Loop
· 6 informes
Picture of Woman on Side of Bus Shamed for Jaywalking
· 24 informes
Deepfake Obama Introduction of Deepfakes
· 29 informes