Incidentes Asociados
Una red de desinformación rusa está manipulando activamente chatbots de IA para difundir noticias falsas y propaganda en línea, según un nuevo informe de NewsGuard. La investigación muestra que las narrativas a favor del Kremlin están distorsionando el trabajo de la inteligencia artificial, lo que afecta a millones de usuarios en todo el mundo, informa Axios [https://www.axios.com/2025/03/06/exclusive-russian-disinfo-floods-ai-chatbots-study-finds).
El informe identifica a Pravda, una red de desinformación con sede en Moscú, como la principal fuerza detrás de esta campaña. Su objetivo no es persuadir directamente a las personas, sino influir en las respuestas de los chatbots de IA inundando los motores de búsqueda y los rastreadores web con una gran cantidad de contenido de desinformación.
Según NewsGuard:
- En 2023, la red rusa Pravda publicó más de 3,6 millones de artículos que se incorporaron a los populares chatbots de IA de empresas como Microsoft, Google, OpenAI, xAI, Meta, Anthropic, Mistral, Perplexity y You.com;
- La red ha difundido al menos 207 falsificaciones comprobadas, la mayoría de las cuales están relacionadas con Ucrania;
- Un tercio de las respuestas de los principales chatbots reprodujeron argumentos publicados originalmente por la red Pravda, lo que confirma la vulnerabilidad de los modelos de IA a la manipulación.
Al dominar las consultas de búsqueda, la campaña pro-Kremlin distorsiona los conjuntos de datos de entrenamiento que utilizan grandes modelos de lenguaje (LLM), lo que influye en la forma en que la IA resume las noticias y responde a las consultas de los usuarios.
La red se lanzó en abril de 2022, tras la invasión a gran escala de Ucrania por parte de Rusia. Desde entonces, se ha expandido a 49 países y opera en docenas de idiomas. Según NewsGuard:
- Se han identificado 150 sitios web como parte de la red, de los cuales 40 tienen nombres de dominio asociados a regiones de Ucrania;
- Algunos sitios se centran en temas específicos en lugar de en la desinformación regional;
- Pravda no crea su propio contenido, sino que agrega materiales de los medios estatales rusos y de blogueros pro-Kremlin, lo que amplifica su influencia.
El informe confirma las preocupaciones sobre el papel de la IA en la difusión de la desinformación. Con el aumento del contenido generado por IA, los atacantes pueden estar "entrenando" intencionalmente a los modelos para inundar Internet con propaganda.
NewsGuard también cita un discurso de enero de 2023 de John Mark Dugan, un estadounidense que desertó a Moscú y se convirtió en propagandista pro-Kremlin. En una conferencia de funcionarios del gobierno ruso, declaró abiertamente: "Si impulsamos las narrativas rusas desde una perspectiva rusa, podemos cambiar realmente la IA del mundo".
El estudio se publica en medio de informes sobre un retroceso en los esfuerzos de Estados Unidos para contrarrestar los ciberataques rusos. Los expertos advierten que la desinformación y los errores involuntarios de la IA podrían tener graves consecuencias, especialmente ahora que los chatbots se convierten en la principal fuente de información para millones de personas.
A medida que los sistemas de IA se utilizan cada vez más para dar forma a la opinión pública, la estrategia de la cadena Pravda podría tener implicaciones a largo plazo para la seguridad de la información global, influyendo en los procesos políticos, la opinión pública y las relaciones internacionales.