Problème 4885

Les principaux chatbots IA régurgitent la désinformation russe, selon un rapport de NewsGuard partagé en premier avec Axios.

Pourquoi c'est important : les utilisateurs qui se tournent vers les chatbots pour obtenir des informations fiables et des réponses rapides à toutes leurs questions constatent que l'IA peut également présenter la désinformation, la satire et la fiction comme des faits.

Conduire l'actualité : Pour mener l'étude, NewsGuard a saisi des questions sur des récits connus pour avoir été créés par John Mark Dougan, un fugitif américain qui, selon le New York Times, crée et diffuse de la désinformation depuis Moscou.

• En saisissant 57 questions dans 10 chatbots de premier plan, NewsGuard a découvert qu'ils diffusaient des récits de désinformation russes dans 32 % des cas, citant souvent les faux sites d'actualités locales de Dougan comme source fiable.
• Les chatbots ont présenté comme des faits des informations fausses, provenant de ces sites, sur une prétendue écoute téléphonique découverte dans la résidence de Donald Trump à Mar-a-Lago et sur une fabrique de trolls ukrainienne inexistante interférant avec les élections américaines.
• NewsGuard a mené ses recherches sur ChatGPT-4 d'OpenAI, Smart Assistant de You.com, Grok, Inflection, Mistral, Copilot de Microsoft, Meta AI, Claude d'Anthropic, Gemini de Google et Perplexity.
• NewsGuard a envoyé des courriels à OpenAI, You.com, Grok, Inflection, Mistral, Copilot, Meta, Claude, Gemini et Perplexity pour obtenir des commentaires sur les conclusions, mais n'a pas reçu de réponses.

Ce qu'ils disent : « Ce qui est vraiment alarmant, c'est que les canulars et la propagande que ces chatbots répètent si fréquemment n'étaient pas obscurs, pas plus que la personne qui se cache derrière », a déclaré à Axios Steven Brill, co-PDG de NewsGuard.

• « Ce rapport démontre vraiment de manière concrète pourquoi le secteur doit accorder une attention particulière aux actualités et aux informations », a-t-il déclaré. Brill recommande que « pour l'instant, ne faites pas confiance aux réponses fournies par la plupart de ces chatbots sur des questions liées à l'actualité, en particulier sur des questions controversées ».

La vue d'ensemble : l'essor des chatbots alimentés par l'IA survient dans une année qui verra l'élection présidentielle américaine](https://www.axios.com/politics-policy/us-presidential-house-senate-elections), ainsi que plus d'un milliard de personnes dans le monde se rendre aux urnes.

• Ceux qui mènent des campagnes d'influence secrètes commencent également à utiliser des chatbots pour les aider dans leurs efforts, selon un récent rapport d'OpenAI.

• Le sénateur Mark Warner (Démocrate de Virginie) a déclaré à Axios la semaine dernière qu'il était préoccupé par l'augmentation des efforts de désinformation cette année, par rapport à 2020 et à d'autres cycles électoraux récents.

• "Il s'agit d'une menace réelle à un moment où, franchement, les Américains sont plus disposés que jamais à croire à des théories de conspiration folles", a déclaré Warner, qui préside la commission sénatoriale du renseignement.

• Alors qu'un certain nombre de grandes entreprises d'IA ont convenu lors de la Conférence de Munich sur la sécurité de cette année de prendre des mesures pour freiner la propagation des deepfakes et de la désinformation liée aux élections, Warner dit avoir été déçu par ce qui s'est passé depuis. "Où est le bœuf ? Je ne vois pas beaucoup d'activité", a-t-il déclaré.

État des lieux : NewsGuard se retrouve sous le feu des critiques du président du Comité de surveillance de la Chambre des représentants, James Comer (R-Ky.), qui a lancé une enquête sur l'organisation, citant une inquiétude concernant le « potentiel de NewsGuard à servir d'agent non transparent de campagnes de censure ».

• NewsGuard, pour sa part, rejette cette affirmation, affirmant que le comité se méprend sur son travail avec le ministère de la Défense, qui, selon lui, n'a rien à voir avec les notations des sources d'information, mais est plutôt « uniquement lié aux efforts de désinformation hostiles des opérations liées aux gouvernements russe, chinois et iranien ciblant les Américains et nos alliés ». - « Il est alarmant de voir des politiciens de Washington utiliser le pouvoir du gouvernement pour tenter d'intimider un organe de presse, en exigeant des copies des notes des journalistes et de tous les enregistrements de nos interactions avec nos sources », a déclaré NewsGuard dans un communiqué.
• « Nous prévoyons de remédier aux malentendus du comité tout en défendant vigoureusement nos droits garantis par le Premier Amendement en tant qu'organisation journalistique. »