Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 4855

Incidentes Asociados

Incidente 96827 Reportes
'Pravda' Network, Successor to 'Portal Kombat,' Allegedly Seeding AI Models with Kremlin Disinformation

Loading...
NUEVO INFORME: La propaganda rusa podría estar inundando los modelos de IA
americansunlight.org · 2025

Haga clic aquí para leer el informe.

Haga clic aquí para leer el comunicado de prensa.

Haga clic aquí para acceder a la base de datos.

Puede resultar tentador considerar las campañas de influencia rusa en Estados Unidos y otros países democráticos como una mera ocurrencia de último momento, dado el caos y la incertidumbre que está generando la segunda presidencia de Donald Trump. Pero su reelección –y la creciente influencia de los partidos de extrema derecha afines a Rusia en todo el mundo– sólo hace que estas campañas sean más relevantes. La administración Trump está deshaciendo activamente las protecciones contra los tratos cleptocráticos extranjeros y la desinformación en los Estados Unidos, mientras que Estados Unidos liderado por Trump aparentemente está poniéndose del lado de la Rusia autoritaria contra estados democráticos como Ucrania. Estas acciones están esencialmente poniendo un cartel de venta en el espacio informativo estadounidense y asestando un golpe devastador a la resiliencia democrática e informativa en todo el mundo.

El caos de la segunda administración Trump también sirve como una distracción que permite que las campañas de influencia rusas sigan creciendo sin control. El último informe del American Sunlight Project explora la nueva expansión de la llamada "red Pravda", una colección de páginas web y cuentas de redes sociales que agregan propaganda pro-Rusia en todo el mundo. Esta expansión apunta explícitamente a los Estados Unidos, entre docenas de otros nuevos objetivos que incluyen países de África, Asia, Europa y América del Norte. La red también está apuntando recientemente a jefes de estado prominentes, organizaciones internacionales y lenguas comúnmente habladas.

Más preocupante que la expansión geográfica de la red son sus crecientes capacidades y cómo otras operaciones de información podrían copiar el modelo de la red Pravda en el futuro. La red en sí es un sistema altamente centralizado de agregación, traducción y compartición de propaganda en gran parte automatizada en la enorme huella de la red. ASP estima que la red está produciendo al menos 3 millones de artículos de propaganda pro-Rusia por año, una cifra que no incluye la actividad de la red en X (Twitter), Telegram, Bluesky y VK. Dado el crecimiento que ha tenido esta red en el pasado, es probable que esta tasa aumente.

Una red tan grande plantea varios riesgos. Es más probable que tanto el público en general como los líderes destacados vean el contenido de la red (que está repleto de desinformación dañina y antidemocrática) dada su omnipresencia. Esto significa que es más probable que el público crea y comparta este contenido, y es más probable que el contenido sea blanqueado, consciente o inconscientemente, por fuentes más legítimas para llegar a un público aún mayor. Por ejemplo, ya se han citado artículos de la cadena Pravda en Wikipedia (https://www.sgdsn.gouv.fr/files/files/20240212_NP_SGDSN_VIGINUM_PORTAL-KOMBAT-NETWORK_ENG_VF.pdf), y la reciente acusación de Trump de que Ucrania era de algún modo responsable de la guerra muestra claramente que las figuras influyentes de la política estadounidense están dispuestas a repetir la desinformación rusa (https://www.thebulwark.com/p/whether-fool-or-tool-trump-spreading-russian-putin-disinformation).

La cadena Pravda también parece estar preparada para inundar de contenido pro-Kremlin a modelos de gran formato. Investigaciones anteriores muestran que los diez principales chatbots de IA pueden reproducir desinformación rusa en respuesta a ciertas indicaciones, lo que sugiere que sus datos de entrenamiento contenían desinformación rusa para empezar. La red Pravda está produciendo contenido rápidamente sin una intención clara de generar lectores humanos reales en sus sitios web mal diseñados, lo que significa que puede estar apuntando a colocar su contenido en datos de entrenamiento LLM. Sin salvaguardas más sólidas en los conjuntos de datos de entrenamiento y LLM por igual, el riesgo de que el contenido de la red sea finalmente copiado por chatbots de IA y otros LLM es muy grande, independientemente de la intención de la red.

Por lo tanto, entramos en un nuevo capítulo de las operaciones de información rusas. Las democracias no solo tienen que lidiar con un gobierno estadounidense caótico en el contexto de una desinformación rusa cada vez mayor; Los avances tecnológicos, como la inteligencia artificial, también prometen potenciar las campañas de influencia extranjera de maneras imprevistas. Los principales actores del gobierno, la sociedad civil y el sector privado deben actuar para garantizar la transparencia y la supervisión de los modelos de entrenamiento de la inteligencia artificial y evitar los efectos más nocivos de esta nueva era de operaciones de información, y el público debe comprender que la Internet por la que navega se vuelve cada vez más engañosa.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd