Description: TikTok accidentally released an internal version of its AI digital avatar tool without safeguards, allowing users to generate videos where avatars could recite harmful content, including quotes from Hitler. The tool, meant for advertisers, was accessible to personal accounts and lacked the watermark indicating AI-generated content. TikTok has since removed the tool and acknowledged the problem.
Editor Notes: Timeline notes: TikTok released TikTok Symphony on June 17, 2024. On June 21, 2024, CNN reported the problems associated with it.
Entidades
Ver todas las entidadesPresunto: un sistema de IA desarrollado e implementado por TikTok, perjudicó a TikTok users y General public.
Estadísticas de incidentes
ID
790
Cantidad de informes
2
Fecha del Incidente
2024-06-21
Editores
Daniel Atherton
Informes del Incidente
Cronología de Informes
theverge.com · 2024
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
translated-es-TikTok mistakenly posted a link to an internal version of its new AI digital avatar tool without guardrails, letting users create videos that say just about anything. The hiccup was first spotted by CNN and allowed the outlet …
petapixel.com · 2024
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
translated-es-TikTok mistakenly released a version of its AI video generator that let avatars recite Adolf Hitler’s Mein Kampf and Osama bin Laden’s “Letter to America” on command.
Last week, TikTok announced its new tool “Symphony Digital …
Variantes
Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.