Incidente 1221: La presunta operación PRISONBREAK, habilitada por IA, en X supuestamente sincroniza el deepfake de la huelga en la prisión de Evin con los ataques en curso en Teherán.
Descripción: Investigadores de Citizen Lab y Clemson documentaron "PRISONBREAK", una red coordinada de más de 50 cuentas X falsas que dirigían una supuesta operación de influencia basada en inteligencia artificial. Según informes, la red se sincronizó con las huelgas del 23 de junio en la prisión de Evin, publicando un video del "ataque" generado por inteligencia artificial durante los eventos e instando a los iraníes a liberar a los reclusos, junto con otros medios sintéticos e imitaciones de medios. Evaluaron, con un nivel de confianza medio, la probable participación del gobierno israelí o de un contratista.
Editor Notes: Reconstructing the reported timeline of events: (1) 2023: >50 inauthentic X accounts created; mostly dormant. (2) January 2025: network becomes active; coordinated posting via X Web, synthetic media, and amplification tactics. (3) Jun 13, 2025: with hostilities beginning, network reportedly circulates unrest/panic content. (4) 06/23/2025, incident date: during the reportedly ongoing Evin Prison strikes (11:17–12:18 IRST), an account purportedly posts an AI-generated "strike" video (~12:05 IRST) and the network allegedly urges a prison break; we anchor the incident here as the earliest reported real-time use of AI-generated content intended to influence events. (5) After 06/24/2025: campaign continues (water/energy crisis posts; August AI deepfake song); researchers notify X (09/30/2025); report published (10/02/2025). See the full report at: https://citizenlab.ca/2025/10/ai-enabled-io-aimed-at-overthrowing-iranian-regime/.
Entidades
Ver todas las entidadesAlleged: Unknown generative AI developers y Unknown deepfake technology developers developed an AI system deployed by Unidentified Israeli government entity , Unidentified Israeli government contractor under close supervision y PRISONBREAK network operators, which harmed Journalism , Iranian diaspora , General public of Iran , Epistemic integrity , Civil society of Iran y National security and intelligence stakeholders.
Sistemas de IA presuntamente implicados: Unknown generative AI systems , Unknown deepfake technology y Social media
Estadísticas de incidentes
ID
1221
Cantidad de informes
1
Fecha del Incidente
2025-06-23
Editores
Daniel Atherton
Applied Taxonomies
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
4.1. Disinformation, surveillance, and influence at scale
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Malicious Actors & Misuse
Entity
Which, if any, entity is presented as the main cause of the risk
Human
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Intentional
Informes del Incidente
Cronología de Informes
Loading...
Nota del editor de AIID: Este informe está considerablemente abreviado. Consulte la fuente original para ver los hallazgos completos.
Hallazgos clave
- Una red coordinada de más de 50 perfiles X falsos está llevando a cabo una operación de i…
Variantes
Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.
¿Has visto algo similar?
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents