Incidents associés
Alors que le Ghana se prépare à l'élection présidentielle du 7 décembre, des chercheurs ont découvert un réseau de 171 comptes de bots sur X qui utilisent ChatGPT pour écrire des messages favorables au parti politique au pouvoir, le New Patriotic Party (NPP).
Un profil de bot créé par l'IA fait la promotion du président du Ghana, Mahamudu Bawumia. X/@joyce_j5
Selon une nouvelle étude menée par NewsGuard, un site Web qui propose des outils pour évaluer l'exactitude et la fiabilité des médias, les comptes de robots ont uniformément fait la promotion du candidat du NPP Mahamudu Bawumia et de ses arguments de droite, en utilisant souvent les hashtags #Bawumia2024, #NPP et le slogan du NPP #ItIsPossible. Les comptes semblent être actifs depuis février.
« J'admire l'engagement du Dr Bawumia à transformer le Ghana », peut-on lire dans un article de robot rédigé par l'IA datant de septembre. « Son impact profond sur nos politiques nationales et nos progrès ne peut être surestimé. #Bawumia2024 #NPP. »
Les comptes --- qui semblent avoir des photos de profil générées par l'IA et portent des noms tels que « Glenn Washington », « Netflix Series&Movies » et « Patriot » --- dénigrent également John Mahama, le candidat à la présidence du parti rival de gauche, le National Democratic Congress. Ces publications utilisent souvent des hashtags tels que #mahamaisaliar et #DrunkmaniMahama, accusant Mahama d'être un ivrogne. (Mahama a nié cela.)
« L'objectif principal du réseau semble être d'amplifier les messages pro-NPP, de promouvoir l'administration Bawumia et de viser le National Democratic Congress de l'opposition », a déclaré McKenzie Sadeghi, rédacteur en chef de l'IA et de l'influence étrangère chez NewsGuard qui a contribué à la recherche, à Rest of World.
Dimitris Dimitriadis, directeur de la recherche et du développement de NewsGuard, a déclaré dans une interview avec Rest of World que les comptes de bots ont tendance à publier à des intervalles « réguliers » et « prévisibles », souvent dix fois ou plus par jour. Il a déclaré que les comptes – qui ont tendance à être actifs entre 8 heures et 18 heures au Ghana – reçoivent principalement des likes et des republications de la part d'autres membres du réseau de bots. Ces modèles réglementés de timing et de style ont alerté les chercheurs sur le fait que les comptes pourraient être faux.
L'équipe de recherche de NewsGuard a introduit les 171 publications des comptes dans un outil de Pangram Labs, qui évalue la probabilité que le texte soit généré par l'IA, a déclaré Dimitriadis. L'outil a conclu qu'il était « très probable » que tous les comptes publient du contenu généré par l'IA créé par ChatGPT.
Au cours des deux dernières années, NewsGuard a « suivi et repéré un certain nombre de cas de comportement manipulé sur X », a déclaré Dimitriadis.
La modération du contenu de X a considérablement diminué depuis 2022, lorsqu'Elon Musk a acquis la société, alors appelée Twitter. Musk a rapidement licencié la plupart des modérateurs de contenu du site Web et environ 80 % de ses ingénieurs de confiance et de sécurité, qui ont identifié et supprimé les campagnes d'influence étrangère. X a ensuite réduit la moitié de son unité d'intégrité électorale, quelques semaines seulement après que la PDG Linda Yaccarino ait promis de l'élargir. Un rapport de 2023 de l'unité européenne a affirmé que sous la direction d'Elon Musk, le volume de messages de désinformation et de mésinformation a explosé par rapport aux autres plateformes de médias sociaux.
Le manque de surveillance sur la plateforme a créé des ouvertures pour les réseaux d'influence politique. Avec des outils tels que ChatGPT, ces réseaux peuvent créer de nouveaux contenus de médias sociaux à grande échelle sans que rien ne les arrête. « L'IA semble être de plus en plus utilisée par des acteurs malveillants qui cherchent à influencer les élections ou les résultats démocratiques », a déclaré Dimitriadis à Rest of World.
Sadeghi a déclaré que NewsGuard a observé de nombreux changements sur X depuis que Musk a pris les rênes.
« Nous avons constaté que les utilisateurs vérifiés sur X compte étaient à l'origine de certaines des allégations fausses ou non fondées les plus virales », a déclaré Sadeghi. « Le chèque bleu permet à la désinformation d'apparaître plus haut et avec une plus grande visibilité sur la plateforme, ce qui s'est avéré être une aubaine pour les acteurs malveillants. »
Elle a ajouté qu'une récente enquête de NewsGuard a révélé qu'un quart des utilisateurs de X qui ont répondu pensaient que les utilisateurs avec des chèques bleus étaient plus fiables que ceux qui n'en avaient pas.
« Le chèque bleu permet à la désinformation d'apparaître plus haut et avec une plus grande visibilité sur la plateforme »
Cette année est un moment politique vulnérable au Ghana. Au Ghana, pas moins de huit personnes ont été tuées au cours du dernier cycle électoral en 2020, selon le Département d'État américain. Deux des meurtres ont été perpétrés par des civils, et deux autres par des officiers militaires et policiers de la force opérationnelle de sécurité électorale du pays.
NewsGuard a déclaré dans son rapport que le réseau de 171 comptes de bots « semble être le premier réseau secrètement partisan utilisant l'IA pour influencer les élections au Ghana ».
NewsGuard a partagé les résultats de ses recherches avec X et OpenAI, a déclaré Dimitriadis. Au moment de la rédaction de cet article, deux des 171 comptes ont été suspendus et deux ont été restreints. Aucune des deux entreprises n'a répondu aux demandes de commentaires du Reste du monde.
OpenAI a exprimé des inquiétudes concernant les personnes utilisant ChatGPT pour générer du contenu qui influence le discours politique. Selon un rapport d'OpenAI publié en octobre, les réseaux d'influence ont utilisé ChatGPT pour créer des messages politiques sur les réseaux sociaux et des billets de blog « aux États-Unis, au Rwanda et (dans une moindre mesure) en Inde et dans l'Union européenne ». L'entreprise a affirmé avoir « perturbé » les activités de plus de 20 de ces réseaux.
Le réseau du Ghana n'a rien introduit de nouveau dans le discours politique du pays, a déclaré Dimitriadis, puisque tous les hashtags et points de discussion dans les messages du réseau étaient déjà populaires. Il a ajouté qu'il est « intrinsèquement difficile » d'évaluer l'impact que ces comptes ont eu sur le discours politique du Ghana.
« L’un des objectifs du réseau était de diriger très clairement le trafic vers un ensemble spécifique de hashtags pro-NPP », a déclaré Dimitriadis. « Mais évidemment, en raison de la nature des hashtags et du fait qu’il y a des milliers de comptes chaque jour qui font la promotion de ces hashtags, je pense qu’il est très difficile de démêler cet impact. »