Incidente 737: La cuenta deepfake de Amandine Le Pen engaña a miles de personas en TikTok
Descripción: Una cuenta de TikTok, "Amandine Le Pen", creada con tecnología deepfake de IA, se hizo pasar por una sobrina ficticia de Marine Le Pen, acumulando más de 30.000 seguidores. La cuenta difundía mensajes a favor de Marine Le Pen y solicitaba donaciones, engañando a los usuarios y explotando su influencia política. Las inconsistencias visuales revelaron el deepfake, lo que generó preocupación por el uso indebido de la IA para la manipulación política, el robo de identidad y la violación de derechos personales, especialmente con la proliferación de cuentas similares, como "Lena Maréchal Lepen".
Entidades
Ver todas las entidadesAlleged: Unknown deepfake creators developed an AI system deployed by Unknown TikTok user, which harmed Le Pen family y French general public.
Estadísticas de incidentes
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
4.1. Disinformation, surveillance, and influence at scale
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Malicious Actors & Misuse
Entity
Which, if any, entity is presented as the main cause of the risk
Human
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Intentional
Informes del Incidente
Cronología de Informes
Deepfakes of young women allegedly members of the Le Pen family promoting French far-right parties went viral online, escalating the debate around the effectiveness of content moderation ahead of the EU elections in June.
Amid the latest op…
Avec ses plus de 30'000 abonnés, Amandine Le Pen (le compte a été modifié puis banni après la publication de cet article, ndlr) a construit une solide communauté sur TikTok. Elle se présente comme une "fière Française" qui adore "sa tata", …
Variantes
Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.
¿Has visto algo similar?
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents