Incidents associés
(TNND) --- Les chatbots d'intelligence artificielle populaires sont inondés de propagande russe, et une grande partie de cette désinformation est répétée à des Américains sans méfiance qui cherchent des réponses auprès des systèmes d'IA, selon un nouveau rapport de NewsGuard.
NewsGuard, un organisme de surveillance de la désinformation en ligne, a audité 10 principaux outils d'IA générative d'OpenAI, X, Microsoft, Google, Meta et plus encore.
Les chatbots ont collectivement répété de faux récits de désinformation russe un tiers du temps, selon NewsGuard.
Les chatbots d'IA ont fourni des non-réponses environ 18 % du temps et ont démystifié les faux récits environ 48 % du temps.
Certains chatbots ont même directement cité des articles spécifiques provenant de propagandistes russes.
NewsGuard a déclaré que la désinformation est diffusée par un réseau basé à Moscou appelé « Pravda », qui a été lancé peu après l'invasion de l'Ukraine par la Russie.
Depuis lors, le réseau s'est étendu à 150 domaines dans différentes langues qui ont agrégé le contenu des médias d'État russes, des influenceurs pro-Kremlin et des responsables du gouvernement russe.
La Pravda publie 3,6 millions d'articles par an, selon l'American Sunlight Project. Ce groupe a publié un rapport le mois dernier avec des conclusions similaires sur le réseau de propagande russe.
L'American Sunlight Project a déclaré que le réseau russe « prépare » les chatbots IA à partager leurs récits.
« Parfois, nous appelons cela une infiltration de données ou un empoisonnement de données », a déclaré Daniel Schiff, scientifique en politique et codirecteur du laboratoire de gouvernance et d'IA responsable de l'université Purdue.
Daniel Schiff a déclaré que les agents russes tentent de blanchir de fausses informations et des récits pro-russes par le biais de chatbots largement non réglementés.
"Ce n'est pas terriblement surprenant, mais c'est très inquiétant", a-t-il déclaré.
Daniel Schiff a déclaré que le rapport de NewsGuard "devrait être un avertissement vraiment majeur pour nous".
Les systèmes d'IA sont faciles à tromper, de manière simple ou complexe, a déclaré M. Schiff.
Les chatbots récupèrent des informations partout sur Internet, y compris des sources non vérifiées.
« Les bonnes entreprises (d’IA) essaient au moins de se débarrasser des données mal vérifiées. Mais c’est très difficile à faire », a-t-il déclaré. « Elles n’y consacrent peut-être pas beaucoup d’énergie. Ainsi, en diffusant un tas de fausses informations et en les envoyant délibérément dans des canaux auxquels les modèles d’IA sont plus susceptibles d’accéder, elles peuvent absolument modifier la formation des modèles, les pondérations des modèles et, en fonction de leur objectif, les résultats des modèles pour dire des choses qui leur sont favorables. »
Schiff a déclaré qu’il n’y avait pas suffisamment de garde-fous en place, tels que des réglementations ou des mécanismes techniques bien contrôlés.
Et il a déclaré que les Américains peuvent parfois faire trop confiance aux réponses des chatbots d’IA.
« Les preuves sont mitigées quant à la confiance générale des Américains dans l’IA, mais je pense qu’il y a suffisamment de preuves d’une confiance excessive, et je le constate chez mes étudiants chaque semestre », a-t-il déclaré.
Les gens savent peut-être que les systèmes d’IA génératifs souffrent d’« hallucinations ».
Les gens savent peut-être qu’ils sont censés vérifier les réponses de l’IA auprès de sources connues et fiables.
Mais les chatbots IA peuvent sembler très convaincants.
Schiff a averti que l'IA n'a pas nécessairement raison, quelle que soit la qualité de ses réponses.
Les campagnes de désinformation peuvent prendre du temps à toucher les cœurs et les esprits, mais elles peuvent fonctionner, a déclaré Schiff.
« Choisissez donc n'importe quel problème politique intérieur, problème international, guerre, et vous pouvez influencer des segments de la population pour qu'ils croient des choses qui sont fausses, pour qu'ils croient des choses qu'ils ne croiraient pas s'ils prenaient le temps de réfléchir eux-mêmes aux problèmes », a-t-il déclaré.