Description: TikTok accidentally released an internal version of its AI digital avatar tool without safeguards, allowing users to generate videos where avatars could recite harmful content, including quotes from Hitler. The tool, meant for advertisers, was accessible to personal accounts and lacked the watermark indicating AI-generated content. TikTok has since removed the tool and acknowledged the problem.
Editor Notes: Timeline notes: TikTok released TikTok Symphony on June 17, 2024. On June 21, 2024, CNN reported the problems associated with it.
Entités
Voir toutes les entitésPrésumé : Un système d'IA développé et mis en œuvre par TikTok, endommagé TikTok users and General public.
Statistiques d'incidents
ID
790
Nombre de rapports
2
Date de l'incident
2024-06-21
Editeurs
Daniel Atherton
Rapports d'incidents
Chronologie du rapport
theverge.com · 2024
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
translated-fr-TikTok mistakenly posted a link to an internal version of its new AI digital avatar tool without guardrails, letting users create videos that say just about anything. The hiccup was first spotted by CNN and allowed the outlet …
petapixel.com · 2024
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
translated-fr-TikTok mistakenly released a version of its AI video generator that let avatars recite Adolf Hitler’s Mein Kampf and Osama bin Laden’s “Letter to America” on command.
Last week, TikTok announced its new tool “Symphony Digital …
Variantes
Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.