Incidents associés
Un réseau de désinformation russe appelé Pravda (« Vérité ») a influencé les résultats des principaux chatbots d’IA en publiant de nombreux articles qui se sont retrouvés dans les données d’entraînement des robots, révèle un nouveau rapport du groupe d’analyse NewsGuard. Selon les chercheurs, il ne s’agissait pas seulement d’un effet secondaire de l’inondation du Web par Moscou de faux récits – c’était l’objectif principal de l’initiative. Voici comment le système a fonctionné.
Un réseau de désinformation en ligne russe « bien financé » appelé Pravda a publié 3,6 millions d’articles l’année dernière, dont beaucoup ont été traités par des chatbots populaires tels que ChatGPT-4o d’OpenAI, Claude (Anthropic), Meta AI, Gemini (Google) et Copilot (Microsoft), selon un nouveau rapport du groupe de surveillance NewsGuard. Ces chatbots auraient reproduit les récits diffusés par Pravda dans 33 % de leurs réponses.
Les conclusions des chercheurs concordent avec un rapport de février https://static1.squarespace.com/static/6612cbdfd9a9ce56ef931004/t/67bf1de6429a912e3cbe8c83/1740578284208/PK+Report.pdf de l’organisation à but non lucratif américaine American Sunlight Project (ASP), qui a constaté que la manipulation des technologies d’IA, plutôt que d’atteindre les utilisateurs humains, était probablement l’objectif principal du réseau russe. Cette méthode d’influence sur les grands modèles linguistiques (LLM) a été qualifiée de « toilettage LLM ».
Selon NewsGuard, Pravda « poursuit une stratégie ambitieuse en infiltrant délibérément les données récupérées des chatbots d’intelligence artificielle, en publiant de fausses déclarations et de la propagande dans le but d’influencer les réponses des modèles d’IA sur les sujets d’actualité plutôt qu’en ciblant les lecteurs humains ».
La dure vérité est que les événements en Russie affectent également votre vie. Aidez Meduza à continuer de diffuser des informations de Russie aux lecteurs du monde entier en créant un don mensuel.
Pravda ne produit pas de contenu original mais amplifie le contenu provenant de sources pro-Kremlin, y compris les médias d'État russes, à travers un réseau de divers sites Web. L'étude de NewsGuard a identifié 150 sites dans ce réseau, dont environ 40 publient du contenu ciblant l'Ukraine, 70 se concentrent sur l'Europe et 30 ciblent des publics en Afrique, dans la région du Pacifique, au Moyen-Orient, en Amérique du Nord, dans le Caucase et en Asie. Les autres sont classés par thème.
Les sites du réseau Pravda publient du contenu dans plusieurs langues. Beaucoup de leurs noms de domaine incluent des noms de villes et de régions d'Ukraine, comme News-Kiev.ru, Kherson-News.ru et Donetsk-News.ru.
Au cours des trois années d’invasion russe, la Pravda a diffusé au moins 207 récits de désinformation, notamment des allégations sur des « laboratoires biologiques secrets américains en Ukraine » et des accusations de « détournement par Zelensky de l’aide militaire américaine », selon NewsGuard.
Les experts de l’ASP ont mis en garde contre les risques graves à long terme associés aux tentatives de manipulation de l’intelligence artificielle. Plus les faux récits circulent dans les médias en ligne, plus il est probable que les modèles linguistiques commencent à les considérer comme crédibles et à les intégrer dans leurs réponses.
Axios a noté que l’étude de NewsGuard intervient au moment même où Washington aurait interrompu les activités du Cyber Command américain contre la Russie.