Incidente 986: Estafadores manipulan el discurso de 2023 del ministro de Singapur, Lee Hsien Loong, para difundir fraudes de inversión deepfake.
Descripción: Un nuevo video deepfake mostró falsamente al primer ministro Lee Hsien Loong promocionando un producto de inversión con rentabilidad garantizada. Los estafadores sincronizaron el audio falso con imágenes reales de su discurso del Día Nacional de 2023, simulando que él había hecho la promoción. Lee calificó esto de "extremadamente preocupante" y advirtió que las estafas deepfake se están volviendo más sofisticadas. Instó al público a denunciar estas estafas a través del bot ScamShield del gobierno.
Editor Notes: Two significant AI incidents involving Lee Hsien Loong occurred several months apart from each other. This incident pertains to the June 2024 one. The other one, Incident 985, pertains to a December 2023 incident while he was Prime Minister. See also Incident 988 for information pertaining to disinformation-related deepfakes of Lee that emerged in late June 2024.
Entidades
Ver todas las entidadesAlleged: Unknown deepfake technology developers y Unknown voice cloning technology developers developed an AI system deployed by Scammers impersonating Lee Hsien Loong y Unknown scammers, which harmed Lee Hsien Loong y General public of Singapore.
Sistemas de IA presuntamente implicados: Unknown voice cloning technology y Unknown deepfake apps
Estadísticas de incidentes
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
4.3. Fraud, scams, and targeted manipulation
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Malicious Actors & Misuse
Entity
Which, if any, entity is presented as the main cause of the risk
AI
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Intentional
Informes del Incidente
Cronología de Informes
Loading...
SINGAPUR - Los singapurenses deben mantenerse alerta para protegerse a sí mismos y a quienes los rodean de las estafas deepfake, declaró el ministro principal Lee Hsien Loong, quien nuevamente aparece promocionando productos de inversión en…
Variantes
Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.
¿Has visto algo similar?
