Problème 4854

Selon un nouveau rapport de NewsGuard, partagé en premier avec Axios, les efforts de désinformation russes qui ont inondé le Web de fausses déclarations et de propagande continuent d'avoir un impact sur les résultats des principaux chatbots IA.

Pourquoi c'est important : L'étude, qui s'appuie sur les premières conclusions de l'année dernière, intervient alors que des rapports indiquent que les États-Unis suspendent certains de leurs efforts pour contrer les cyberactivités russes.

Français:À la pointe de l'actualité : NewsGuard affirme qu'un réseau de désinformation basé à Moscou, appelé « Pravda » (le mot russe pour vérité), propage des faussetés sur le Web.

• Plutôt que d'influencer directement les gens, il vise à influencer les résultats des chatbots IA.
• Plus de 3,6 millions d'articles ont été publiés l'année dernière, se retrouvant dans les principaux chatbots occidentaux, selon l'American Sunlight Project.
• « En inondant les résultats de recherche et les robots d'indexation du Web de faussetés pro-Kremlin, le réseau déforme la manière dont les grands modèles linguistiques traitent et présentent les nouvelles et les informations », a déclaré NewsGuard dans son rapport.
• Newsguard a déclaré avoir étudié 10 chatbots majeurs --- dont ceux de Microsoft, Google, OpenAI, You.com, xAI, Anthropic, Meta, Mistral et Perplexity --- et avoir découvert qu'un tiers du temps, ils recyclaient les arguments avancés par le réseau Pravda.

Zoom avant : NewsGuard affirme que le réseau Pravda a diffusé au moins 207 fausses allégations, dont de nombreuses liées à l'Ukraine.

• Le réseau Pravda a été lancé en avril 2022, à la suite de l'invasion à grande échelle de l'Ukraine par la Russie, et s'est depuis développé pour couvrir 49 pays et des dizaines de langues, a déclaré NewsGuard.

• Sur les 150 sites du réseau, environ 40 sont des sites en langue russe utilisant des noms de domaine faisant référence à diverses régions d'Ukraine.

• Un petit nombre sont plus axés sur des thèmes que sur des régions, a-t-il déclaré.

• Pravda ne produit pas elle-même de contenu original, affirme NewsGuard, mais regroupe plutôt du contenu provenant d'autres sources, notamment des médias d'État russes et des influenceurs pro-Kremlin.

Le tableau général : les faussetés délibérées (désinformation) ainsi que la désinformation par inadvertance ont toutes deux été dénoncées comme des risques importants et urgents de l'IA générative (https://www.axios.com/2023/07/10/ai-misinformation-response-measures).

• Les conclusions de NewsGuard s'appuient sur un rapport de février de l'American Sunlight Project qui avertissait que le réseau semblait viser à influencer les chatbots plutôt qu'à persuader les individus.
• « Les risques à long terme – politiques, sociaux et technologiques – associés à un éventuel toilettage des LLM au sein de ce réseau sont élevés », a déclaré l'ASP à l'époque.

Entre les lignes : NewsGuard a déclaré que la stratégie « a été préfigurée dans un discours que John Mark Dougan, fugitif américain devenu propagandiste basé à Moscou, a donné à Moscou en janvier dernier lors d'une conférence de responsables russes ».

• Dougan a déclaré à la foule : « En promouvant ces récits russes du point de vue russe, nous pouvons réellement changer l'IA dans le monde entier. »