Incident 809: TikTok héberge des discours d'Hitler en anglais générés par l'IA avec des millions de vues
Description: Les discours d'Adolf Hitler en anglais, générés par l'IA, prolifèrent sur TikTok. Ils cumuleraient des millions de vues malgré le non-respect des règles de la plateforme en matière de discours haineux. Ces clips seraient souvent associés à des traductions trompeuses et à des mèmes glorifiant Hitler et déformant les faits historiques. Si certains contenus ont été supprimés, de nombreux comptes continueraient de publier des vidéos similaires.
Editor Notes: Reconstructing the timeline of events: On April 7, 2024, Media Matters identified at least one AI-generated English-language speech being attributed to Hitler circulating on TikTok. By early September 2024, the number of videos featuring these speeches began to proliferate, with many gaining significant traction, receiving hundreds of thousands to millions of views. On September 1, 2024, one particularly prominent video featuring an AI-generated Hitler speech garnered over a million views before it was removed. On September 17, 2024, Media Matters published a report documenting the widespread presence of these AI-generated Hitler speeches on the platform. The following day, September 18, 2024, TikTok removed at least one account posting this content, although similar videos are reportedly continuing to circulate.
Note on "NazTok": See editor's note for Incident 810 for an explanation for "NazTok" deployer tag. Incident 809 is a subset of Incident 810.
Entités
Voir toutes les entitésAlleged: Unknown deepfake technology developers developed an AI system deployed by Unknown deepfake creators, which harmed TikTok users.
Statistiques d'incidents
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
1.2. Exposure to toxic content
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Discrimination and Toxicity
Entity
Which, if any, entity is presented as the main cause of the risk
AI
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Unintentional
Rapports d'incidents
Chronologie du rapport
Mise à jour (18/09/24) : Après la publication de ce rapport, TikTok a supprimé au moins un compte que nous avons identifié comme publiant des discours d’Hitler en anglais apparemment générés par l’IA. Malgré cette suppression, le contenu de…
Variantes
Une "Variante" est un incident de l'IA similaire à un cas connu—il a les mêmes causes, les mêmes dommages et le même système intelligent. Plutôt que de l'énumérer séparément, nous l'incluons sous le premier incident signalé. Contrairement aux autres incidents, les variantes n'ont pas besoin d'avoir été signalées en dehors de la base de données des incidents. En savoir plus sur le document de recherche.
Vous avez vu quelque chose de similaire ?
