Problema 4854

Según un nuevo informe de NewsGuard, compartido primero con Axios, la campaña rusa de desinformación que inundó la web con afirmaciones falsas y propaganda sigue afectando el rendimiento de los principales chatbots de inteligencia artificial.

Por qué es importante: el estudio, que amplía los hallazgos iniciales del año pasado, llega en medio de informes de que Estados Unidos está haciendo una pausa en algunos de sus esfuerzos para contrarrestar las actividades cibernéticas rusas.

Impulsando las noticias: NewsGuard dice que una red de desinformación con base en Moscú llamada "Pravda" (la palabra rusa para verdad) está difundiendo falsedades en la web.

• En lugar de influir directamente en las personas, su objetivo es influir en los resultados de los chatbots de IA.
• El año pasado se publicaron más de 3,6 millones de artículos que llegaron a los principales chatbots occidentales, según el American Sunlight Project.
• "Al inundar los resultados de búsqueda y los rastreadores web con falsedades a favor del Kremlin, la red está distorsionando la forma en que los grandes modelos de lenguaje procesan y presentan las noticias y la información", dijo NewsGuard en su informe.
• Newsguard dijo que estudió 10 chatbots importantes, incluidos los de Microsoft, Google, OpenAI, You.com, xAI, Anthropic, Meta, Mistral y Perplexity, y descubrió que un tercio de las veces reciclaban argumentos hechos por la red Pravda.

Ampliar: NewsGuard dice que la red Pravda ha difundido al menos 207 afirmaciones demostrablemente falsas, incluidas muchas relacionadas con Ucrania.

• La red Pravda se lanzó en abril de 2022, tras la invasión a gran escala de Ucrania por parte de Rusia, y desde entonces ha crecido hasta cubrir 49 países y docenas de idiomas, dijo NewsGuard.

• De los 150 sitios de la red, alrededor de 40 son sitios en idioma ruso que utilizan nombres de dominio que hacen referencia a varias regiones de Ucrania.

• Un pequeño número se centra más en temas que en regiones, dijo.

• Pravda no está produciendo contenido original por sí misma, dice NewsGuard, sino que está agregando contenido de otros, incluidos los medios estatales rusos y los influencers pro-Kremlin.

El panorama general: tanto las falsedades deliberadas (desinformación) como la desinformación involuntaria han sido señaladas como riesgos significativos --- y urgentes --- de la IA generativa.

• Los hallazgos de NewsGuard se basan en un informe de febrero del American Sunlight Project que advertía de que la red parecía estar destinada a influir en los chatbots en lugar de persuadir a las personas.
• "Los riesgos a largo plazo (políticos, sociales y tecnológicos) asociados con la posible preparación de LLM dentro de esta red son altos", dijo el ASP en ese momento.

Entre líneas: NewsGuard dijo que la estrategia "fue presagiada en una charla que el fugitivo estadounidense convertido en propagandista con sede en Moscú, John Mark Dougan, dio en Moscú en enero pasado en una conferencia de funcionarios rusos".

• Dougan le dijo a la multitud: "Al impulsar estas narrativas rusas desde la perspectiva rusa, realmente podemos cambiar la IA a nivel mundial".