Incidente 790: Una herramienta de avatar de IA sin restricciones, lanzada accidentalmente por TikTok, permite recitar citas de Hitler y otros discursos dañinos.
Descripción: TikTok lanzó accidentalmente una versión interna de su herramienta de avatares digitales con IA sin medidas de seguridad, lo que permitía a los usuarios generar vídeos donde los avatares podían recitar contenido dañino, incluyendo citas de Hitler. La herramienta, diseñada para anunciantes, era accesible para cuentas personales y carecía de la marca de agua que indicaba que el contenido era generado por IA. TikTok la ha eliminado y ha reconocido el problema.
Editor Notes: Timeline notes: TikTok released TikTok Symphony on June 17, 2024. On June 21, 2024, CNN reported the problems associated with it.
Entidades
Ver todas las entidadesPresunto: un sistema de IA desarrollado e implementado por TikTok, perjudicó a TikTok users y General public.
Estadísticas de incidentes
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
1.2. Exposure to toxic content
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Discrimination and Toxicity
Entity
Which, if any, entity is presented as the main cause of the risk
Human
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Unintentional
Informes del Incidente
Cronología de Informes
/cdn.vox-cdn.com/uploads/chorus_asset/file/23951402/STK051_VRG_Illo_N_Barclay_11_tiktok.jpg)
/cdn.vox-cdn.com/uploads/chorus_asset/file/23951402/STK051_VRG_Illo_N_Barclay_11_tiktok.jpg)
TikTok publicó por error un enlace a una versión interna de su nueva herramienta de avatar digital con inteligencia artificial sin restricciones, lo que permite a los usuarios crear videos que dicen prácticamente cualquier cosa. El problema…
TikTok lanzó por error una versión de su generador de videos con inteligencia artificial que permitía a los avatares recitar Mein Kampf de Adolf Hitler y la “Carta a América” de Osama bin Laden cuando se les ordenaba.
La semana pasada, TikT…
Variantes
Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.
¿Has visto algo similar?