Incidents associés
Un rapport sur les soins de santé commandé par le gouvernement canadien à Deloitte, dont le coût pour une province s'élève à près de 1,6 million de dollars, contient des erreurs potentiellement générées par l'intelligence artificielle. Il s'agit du deuxième pays cette année à dénoncer les lacunes de la firme de consultants en matière de vérification des faits.
Ces erreurs, mises au jour dans une enquête publiée samedi par The Independent, un média canadien progressiste couvrant Terre-Neuve-et-Labrador, la province la plus à l'est du pays, figurent dans un rapport de 526 pages diffusé par le gouvernement en mai.
Le rapport fournissait des conseils au ministère de la Santé et des Services communautaires du gouvernement libéral de l'époque sur des sujets tels que les soins virtuels, les mesures incitatives à la fidélisation et les répercussions de la pandémie de COVID-19 sur les travailleurs de la santé, alors que le secteur de la santé de la province était confronté à une pénurie de personnel infirmier et médical.
Le rapport de Deloitte contenait de fausses citations, extraites d'articles universitaires fictifs, utilisées pour étayer les conclusions des analyses de rentabilité, et citait de véritables chercheurs dans des articles auxquels ils n'avaient pas contribué, a révélé le journal The Independent. Il comprenait des articles fictifs coécrits par des chercheurs qui affirmaient n'avoir jamais collaboré.
« Deloitte Canada maintient fermement les recommandations formulées dans son rapport », a déclaré un porte-parole de Deloitte Canada à Fortune. « Nous révisons le rapport afin d'apporter quelques corrections à des citations, ce qui n'a aucune incidence sur ses conclusions. L'intelligence artificielle n'a pas été utilisée pour la rédaction du rapport ; elle a été employée de manière sélective pour appuyer un petit nombre de citations de recherche. »
Le long rapport citait également un article scientifique du Canadian Journal of Respiratory Therapy, introuvable dans sa base de données.
« Il semblerait que pour produire ce genre de résultats, on utilise massivement l'IA », a déclaré Gail Tomblin Murphy, professeure associée à l'École des sciences infirmières de l'Université Dalhousie en Nouvelle-Écosse, au Independent. Mme Tomblin Murphy a été citée par Deloitte dans un article scientifique qui « n'existe pas ». Elle a ajouté n'avoir collaboré qu'avec trois des six autres auteurs mentionnés dans cette fausse citation.
« Il y a assurément de nombreux problèmes avec cela. Nous devons veiller scrupuleusement à ce que les données probantes qui étayent les rapports soient les meilleures possibles, des données validées. Et qu'en fin de compte, ces rapports – non seulement parce qu'ils coûtent cher aux gouvernements et au public – soient exacts, fondés sur des données probantes et utiles pour faire avancer les choses. »
Lundi, le rapport était toujours disponible sur le site web du gouvernement canadien.
Le gouvernement canadien a dépensé un peu moins de 1,6 million de dollars pour ce rapport, en huit versements, selon une demande d'accès à l'information publiée dans un article de blogue mercredi dernier.
Tony Wakeham, chef du Parti progressiste-conservateur de la province et nouveau premier ministre de Terre-Neuve-et-Labrador, a prêté serment à la fin octobre. Le bureau du premier ministre et le ministère de la Santé et des Services communautaires de Terre-Neuve-et-Labrador n'ont pas immédiatement répondu à la demande de commentaires de Fortune concernant le rapport de mai et ne se sont pas exprimés publiquement sur le sujet.
Cette révélation fait suite à la nouvelle, le mois dernier, que Deloitte avait utilisé l'intelligence artificielle dans un rapport de 290 000 $ publié en juillet pour aider le gouvernement australien à lutter contre les abus en matière d'aide sociale. Un chercheur a cependant relevé des incohérences dans cette étude de 237 pages, qui contenait des références à des articles de recherche universitaires inexistants et une citation fabriquée de toutes pièces d'un jugement de la Cour fédérale.
Dans la version révisée de l'étude, discrètement mise en ligne sur le site web du gouvernement australien, le cabinet de conseil a admis avoir utilisé le système de traitement du langage par intelligence artificielle générative Azure OpenAI pour l'élaboration du rapport.
« Les mises à jour apportées n'ont aucune incidence sur le contenu, les conclusions et les recommandations du rapport », a écrit Deloitte dans une section de l'étude mise à jour (https://www.dewr.gov.au/assuring-integrity-targeted-compliance-framework/resources/targeted-compliance-framework-assurance-review-final-report).
Le cabinet membre de Deloitte en Australie a été tenu de rembourser partiellement le gouvernement pour ce rapport. Aucune information n'a encore été rendue publique concernant un éventuel remboursement pour le rapport canadien.