Incidentes Asociados
Una red rusa de desinformación llamada Pravda (“Verdad”) ha influido en la producción de los chatbots de IA más importantes al publicar numerosos artículos que se han colado en los datos de entrenamiento de los bots, según revela un nuevo informe del grupo de análisis NewsGuard. Según los investigadores, esto no fue solo un efecto secundario de la inundación de la web por parte de Moscú con narrativas falsas, sino que era el objetivo principal de la iniciativa. Así es como funcionó el plan.
Una red rusa de desinformación en línea “bien financiada” llamada Pravda publicó 3,6 millones de artículos el año pasado, muchos de los cuales fueron procesados por chatbots populares como ChatGPT-4o de OpenAI, Claude (Anthropic), Meta AI, Gemini (Google) y Copilot (Microsoft), según un nuevo informe del grupo de vigilancia NewsGuard. Según se informa, estos chatbots reprodujeron narrativas difundidas por Pravda en el 33 por ciento de sus respuestas.
Los hallazgos de los investigadores coinciden con un informe de febrero de la organización sin fines de lucro estadounidense American Sunlight Project (ASP), que descubrió que manipular las tecnologías de IA, en lugar de llegar a los usuarios humanos, era probablemente el objetivo principal de la red rusa. Este método de influir en los grandes modelos lingüísticos (LLM) se ha denominado "acicalamiento de LLM".
Según NewsGuard, Pravda "está siguiendo una estrategia ambiciosa al infiltrarse deliberadamente en los datos recuperados de los chatbots de inteligencia artificial, publicando afirmaciones falsas y propaganda con el fin de afectar las respuestas de los modelos de IA sobre temas de las noticias en lugar de dirigirse a los lectores humanos".
La amarga verdad es que los acontecimientos en Rusia también afectan a tu vida. Ayude a Meduza a seguir llevando noticias de Rusia a lectores de todo el mundo mediante la creación de una donación mensual.
Pravda no produce contenido original, pero amplifica material de fuentes pro-Kremlin, incluidos los medios estatales rusos, a través de una red de varios sitios web. El estudio de NewsGuard identificó 150 sitios en esta red, alrededor de 40 de los cuales publican contenido dirigido a Ucrania, 70 se centran en Europa y 30 se dirigen a audiencias en África, la región del Pacífico, Oriente Medio, América del Norte, el Cáucaso y Asia. El resto se divide por tema.
Los sitios de la red Pravda publican contenido en una variedad de idiomas. Muchos de sus nombres de dominio incluyen nombres de ciudades y regiones de Ucrania, como News-Kiev.ru, Kherson-News.ru y Donetsk-News.ru.
Durante los tres años que lleva la invasión rusa, Pravda ha difundido al menos 207 narrativas de desinformación, incluidas afirmaciones sobre “biolaboratorios secretos estadounidenses en Ucrania” y acusaciones de “mal uso por parte de Zelenski de la ayuda militar estadounidense”, según NewsGuard.
Los expertos de la ASP han advertido sobre los graves riesgos a largo plazo asociados con los intentos de manipular la inteligencia artificial. Cuanto más narrativas falsas circulen en los medios en línea, mayor será la probabilidad de que los modelos lingüísticos comiencen a tratarlas como creíbles y las incorporen a sus respuestas.
Axios señaló que el estudio de NewsGuard llega justo cuando Washington supuestamente detuvo las actividades del Comando Cibernético de Estados Unidos contra Rusia.