Incidents associés
Le rapport controversé de la commission « Make America Healthy Again » de Robert F. Kennedy Jr. repose sur des sources douteuses. Des indices laissent penser à des manipulations de l'IA, et plus particulièrement à l'utilisation de ChatGPT, qui remettent en question la véracité du rapport de la Maison-Blanche, censé s'attaquer aux causes du déclin de l'espérance de vie aux États-Unis.
Une enquête menée par NOTUS (https://www.notus.org/health-science/make-america-healthy-again-report-citation-errors) a révélé des dizaines d'erreurs dans le rapport de la MAHA, notamment des liens rompus, des numéros de publication erronés et des auteurs manquants ou erronés. Certaines études ont été mal citées pour étayer les conclusions du rapport, voire, plus grave encore, n'existaient pas du tout. Selon NOTUS, au moins sept des sources citées étaient entièrement fictives.
Une autre enquête du Washington Post a révélé qu'au moins 37 des 522 citations apparaissaient plusieurs fois dans le rapport. Notamment, les URL de plusieurs références incluaient « oaicite », un marqueur qu'OpenAI applique aux réponses fournies par des modèles d'intelligence artificielle comme ChatGPT, ce qui suggère fortement qu'il a été utilisé pour l'élaboration du rapport.
Les outils d'IA générative ont tendance à générer des informations fausses ou incorrectes, appelées « hallucinations » (https://www.theverge.com/2024/5/23/24162896/google-ai-overview-hallucinations-glue-in-pizza). Cela expliquerait certainement les diverses erreurs présentes dans le rapport : les chatbots ont été jugés responsables de problèmes de citation similaires dans des documents juridiques soumis par des experts en IA et même dans les entreprises qui construisent les modèles. Néanmoins, RFK Jr. prône depuis longtemps la « révolution de l'IA » et a annoncé en mai, lors d'une réunion d'une commission de la Chambre des représentants, que « nous utilisons déjà ces nouvelles technologies pour gérer les données de santé de manière plus efficace et plus sécurisée ».
Lors d'un point de presse jeudi, Karoline Leavitt, attachée de presse, a répondu aux inquiétudes concernant l'exactitude des citations, tout en évitant toute mention d'outils d'IA. Elle a qualifié les erreurs de « problèmes de formatage » et a défendu le rapport sur la santé, affirmant qu'il « s'appuyait sur des données scientifiques solides, jamais reconnues par le gouvernement fédéral ».
Le Washington Post indique que le rapport MAHA a été mis à jour jeudi pour supprimer certains marqueurs oaicite et remplacer certaines sources inexistantes par des citations alternatives. Dans une déclaration transmise à la publication, Andrew Nixon, porte-parole du ministère de la Santé et des Services sociaux, a déclaré : « Des erreurs mineures de citation et de formatage ont été corrigées, mais le contenu du rapport MAHA reste inchangé : une évaluation historique et transformatrice du gouvernement fédéral pour comprendre l'épidémie de maladies chroniques qui touche les enfants de notre pays. »