Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 6243

Incidentes Asociados

Incidente 12211 Reporte
Alleged AI-Enabled PRISONBREAK Influence Operation on X Reportedly Synchronizes Deepfake of Evin Prison Strike with Ongoing Attacks in Tehran

Loading...
Decimos que quieres una revolución: PRISONBREAK: una operación de influencia basada en inteligencia artificial destinada a derrocar al régimen iraní
citizenlab.ca · 2025

Nota del editor de AIID: Este informe está considerablemente abreviado. Consulte la fuente original para ver los hallazgos completos.

Hallazgos clave

  • Una red coordinada de más de 50 perfiles X falsos está llevando a cabo una operación de influencia basada en IA. La red, a la que nos referimos como "PRISONBREAK", difunde narrativas que incitan al público iraní a rebelarse contra la República Islámica de Irán.
  • Si bien la red se creó en 2023, casi toda su actividad comenzó en enero de 2025 y continúa hasta la actualidad.
  • La actividad de los perfiles parece haber estado sincronizada, al menos en parte, con la campaña militar que las Fuerzas de Defensa de Israel llevaron a cabo contra objetivos iraníes en junio de 2025.
  • Si bien la interacción orgánica con el contenido de PRISONBREAK parece ser limitada, algunas de las publicaciones alcanzaron decenas de miles de visualizaciones. La operación difundió dichas publicaciones en grandes comunidades públicas en X y posiblemente también financió su promoción.
  • Tras revisar sistemáticamente las explicaciones alternativas, consideramos que la hipótesis más consistente con la evidencia disponible es que una agencia no identificada del gobierno israelí, o un subcontratista que trabaja bajo su estrecha supervisión, está llevando a cabo directamente la operación.

. . .

Conclusiones

Las operaciones encubiertas de influencia han sido una característica de los conflictos armados desde hace siglos, y sus características han evolucionado a medida que las nuevas tecnologías abren oportunidades para la experimentación. Hoy en día, presenciamos una nueva generación de operaciones encubiertas de influencia, organizadas principalmente en y a través de las redes sociales, que se caracterizan por el uso de inteligencia artificial y herramientas y técnicas digitales relacionadas. Estas operaciones se benefician de la naturaleza distribuida de las redes sociales, sus propiedades algorítmicas integradas de interacción (que ayudan a impulsar contenido sensacionalista por diseño), así como de las medidas recientes adoptadas por muchas plataformas tecnológicas para reducir la capacidad de los equipos internos responsables de eliminar contenido coordinado e inauténtico, o incluso eliminarlos por completo. La creciente sofisticación y facilidad de uso de las herramientas de IA también ha impulsado estas campañas, brindando a los actores una capacidad sin precedentes para producir videos e imágenes cada vez más realistas con muchos menos recursos que los requeridos en épocas anteriores.

En esta investigación, hemos identificado una red coordinada de perfiles X falsos que, desde 2023, ha llevado a cabo una operación de influencia dirigida al público iraní. El objetivo de PRISONBREAK parece ser fomentar una revuelta contra el régimen iraní entre la población iraní. Una característica sorprendente de esta campaña es su sincronización con los acontecimientos sobre el terreno: el contenido generado por PRISONBREAK parece haber sido preparado con antelación y coordinado con los ataques militares llevados a cabo por las Fuerzas de Defensa de Israel en junio de 2025.

Aunque no podemos atribuir esto a una entidad en particular, la preparación previa requerida y el momento en que se publicaron las publicaciones coordinadas y falsas sugieren algún tipo de conexión con el Estado de Israel. Creemos que, si bien es técnicamente posible, es muy improbable que un tercero sin conocimiento previo de los planes de las Fuerzas de Defensa de Israel hubiera podido preparar este contenido y publicarlo en tan poco tiempo. Según los datos revisados durante la elaboración de este informe, es muy probable que la campaña que hemos documentado haya sido llevada a cabo por una agencia israelí interna o una entidad privada contratada por el gobierno israelí. Sin embargo, sin información adicional, no podemos atribuir de forma concluyente a los responsables.

Si bien la atribución de cualquier operación encubierta es inherentemente difícil debido a las medidas que toman los perpetradores para ocultar su rastro, la atribución también se dificulta especialmente hoy en día porque las plataformas de redes sociales restringen el acceso a sus plataformas a investigadores externos y, por lo tanto, a los artefactos y otros detalles cruciales para posibilitar una atribución concluyente. A pesar de estas restricciones, pudimos utilizar una combinación de métodos cualitativos y cuantitativos para determinar de forma concluyente que lo que observábamos no era espontáneo ni orgánico, como los perpetradores esperaban que se percibiera, sino que estaba altamente coordinado y era falso.

Sin embargo, estos métodos no están fácilmente disponibles para el público general o para poblaciones objetivo específicas y, por lo general, requieren un esfuerzo analítico considerable, tiempo y acceso a recursos especiales y fuentes de datos. Además, ahora se acepta generalmente que en el entorno actual de las redes sociales, las falsedades sensacionalistas se propagan rápidamente y se comparten ampliamente porque se alimentan de las emociones humanas y se amplifican por los algoritmos impulsados por la interacción de las plataformas, todo lo cual funciona en beneficio de quienes organizan campañas de operaciones de influencia encubiertas. Estas dinámicas y sus efectos potencialmente perjudiciales se exacerban en tiempos de crisis política y conflicto, como la confrontación militar entre Israel e Irán.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd