Incidents associés
Alors que l'administration Trump s'apprêtait à annuler des contrats du ministère des Anciens Combattants cette année, les responsables se sont tournés vers un ingénieur logiciel sans expérience dans le domaine de la santé ou du gouvernement pour les guider.
L'ingénieur, travaillant pour le ministère de l'Efficacité gouvernementale, a rapidement développé un outil d'intelligence artificielle permettant d'identifier les services des entreprises privées non essentiels. Il a qualifié ces contrats de « CONSOMMABLES ».
Le code, utilisant des modèles d'IA obsolètes et peu coûteux, produisait des résultats comportant des erreurs flagrantes. Par exemple, il hallucinait sur le montant des contrats, les interprétant fréquemment de manière erronée et en gonflant leur valeur. Il a conclu que plus d'un millier valaient chacun 34 millions de dollars, alors qu'en réalité certains ne valaient que 35 000 dollars.
L'outil d'IA DOGE a signalé plus de 2 000 contrats à « considérer comme à négliger ». On ignore combien ont été annulés ou sont sur le point de l'être ; les décisions de l'administration Trump concernant les contrats du ministère des Anciens Combattants sont en grande partie une boîte noire. Le VA fait appel à des sous-traitants pour de nombreuses raisons, notamment pour soutenir les hôpitaux, la recherche et d'autres services destinés à soigner les anciens combattants malades.
Les responsables du VA ont déclaré avoir annulé près de 600 contrats au total. Les démocrates du Congrès ont insisté auprès des dirigeants du VA pour obtenir des détails précis sur les contrats annulés, sans succès.
Nous avons identifié au moins deux douzaines de contrats sur la liste DOGE qui ont été annulés à ce jour. Parmi ces contrats annulés figurait un contrat portant sur la maintenance d'un dispositif de séquençage génétique utilisé pour développer de meilleurs traitements contre le cancer. Un autre concernait l'analyse d'échantillons sanguins dans le cadre d'un projet de recherche du VA. Un autre encore visait à fournir des outils supplémentaires pour mesurer et améliorer les soins prodigués par les infirmières.
ProPublica a obtenu le code et les contrats signalés auprès d'une source et les a partagés avec une demi-douzaine d'experts en IA et en approvisionnement. Tous ont déclaré que le scénario était erroné. Nombre d'entre eux ont critiqué le concept d'utilisation de l'IA pour orienter les coupes budgétaires du VA, l'un d'eux le qualifiant de « profondément problématique ».
Cary Coglianese, professeur de droit et de sciences politiques à l'Université de Pennsylvanie, qui étudie l'utilisation et la réglementation gouvernementales de l'intelligence artificielle, s'est dit préoccupé par l'utilisation de ces grands modèles de langage (MLM) à usage général. « Je ne pense pas que les LLM standard soient très fiables pour un projet aussi complexe et complexe », a-t-il déclaré.
Sahil Lavingia, le programmeur recruté par DOGE, alors dirigé par Elon Musk, a reconnu des failles dans le code.
« Je pense que des erreurs ont été commises », a déclaré Lavingia, qui a travaillé chez DOGE pendant près de deux mois. « Je suis sûr qu'il y a eu des erreurs. Il y en a toujours. Je ne recommanderais jamais à quelqu'un d'exécuter mon code et de faire ce qu'il dit. C'est comme dans l'épisode de « La Maison Blanche » où Steve Carell tombe dans le lac en voiture parce que Google Maps dit de se jeter dans le lac. Ne pas se jeter dans le lac. »
Bien que Lavingia ait déjà évoqué son expérience chez DOGE, c'est la première fois que son travail est examiné en détail et qu'il explique publiquement son processus, jusqu'à la moindre ligne de code.
Lavingia a près de 15 ans d'expérience en tant qu'ingénieur logiciel et entrepreneur, mais aucune formation formelle en IA. Il a brièvement travaillé chez Pinterest avant de créer Gumroad, une petite entreprise de e-commerce qui a failli faire faillite en 2015. « J'ai licencié 75 % de mon entreprise, y compris plusieurs de mes meilleurs amis. C'était vraiment pénible », a-t-il déclaré. Lavingia a maintenu l'entreprise à flot en « remplaçant chaque processus manuel par un processus automatisé », selon un article sur son blog personnel.
Lavingia n'a pas eu beaucoup de temps pour s'immerger dans la gestion des soins aux anciens combattants par le Département des Anciens Combattants entre son entrée en fonction le 17 mars et la conception de l'outil le lendemain. Pourtant, son expérience au sein de sa propre entreprise s'accordait avec l'orientation de l'administration Trump, qui a adopté l'utilisation de l'IA au sein du gouvernement pour rationaliser les opérations et réaliser des économies.
M. Lavingia a déclaré que le calendrier serré du décret présidentiel de février de Trump, qui accordait 30 jours aux agences pour examiner les contrats et les subventions, était trop court pour effectuer le travail manuellement. « Ce n'est pas possible – vous avez 90 000 contrats », a-t-il déclaré. « À moins d'écrire du code. Mais même dans ce cas, ce n'est pas vraiment possible. »
Confronté à des contraintes de temps, M. Lavingia a déclaré avoir terminé la première version de son outil de gestion des contrats dès son deuxième jour de travail, en utilisant l'IA pour l'aider à écrire le code. Il a confié à ProPublica avoir ensuite passé sa première semaine à télécharger les contrats du VA sur son ordinateur portable et à les analyser.
Dans une déclaration à ProPublica, le porte-parole du VA, Pete Kasperowicz, a salué le travail du DOGE en matière de vérification des contrats. « À notre connaissance, ce type d'examen n'a jamais été réalisé auparavant, mais nous sommes heureux de créer ce précédent de bon sens », a-t-il déclaré.
Le VA examine actuellement l'ensemble de ses 76 000 contrats afin de s'assurer que chacun d'entre eux bénéficie aux anciens combattants et représente une bonne utilisation de l'argent des contribuables, a-t-il précisé. Les décisions d'annulation ou de réduction de la taille des contrats sont prises après de multiples examens par les employés du VA, notamment les experts en passation de marchés de l'agence et les cadres supérieurs, a-t-il écrit.
Kasperowicz a déclaré que le VA n'annulerait pas les contrats de services aux anciens combattants ou que l'agence ne peut pas exécuter elle-même sans un plan d'urgence. Il a ajouté que les contrats « inutiles, redondants ou impliquant des services que le VA est en mesure d'exécuter lui-même » seront généralement résiliés.
Les responsables de Trump ont déclaré travailler à un « objectif » de suppressions d'emplois » d'environ 80 000 personnes sur les près de 500 000 employés du Département des anciens combattants. La plupart des employés travaillent dans l'un des 170 hôpitaux et près de 1 200 cliniques du Département.
Le Département des anciens combattants a déclaré qu'il éviterait de supprimer des contrats ayant un impact direct sur les soins, de crainte de porter préjudice aux anciens combattants. ProPublica a récemment rapporté que des coupes budgétaires relativement modestes au sein de l'agence compromettaient déjà les soins aux anciens combattants](https://www.propublica.org/article/trump-veterans-affairs-budget-staff-cuts-jeopardize-cancer-research).
Le ministère des Anciens Combattants n'a pas expliqué comment il envisageait simultanément d'internaliser les services, comme le suggérait le code de Lavingia, tout en réduisant les effectifs.
De nombreux membres du ministère des Anciens Combattants ont confié à ProPublica que le processus d'examen des contrats était si opaque qu'il était impossible de savoir qui prenait la décision finale de supprimer des contrats spécifiques. Une fois que le script « munching » avait sélectionné une liste de contrats, Lavingia a déclaré qu'il la transmettait à d'autres personnes qui décideraient lesquels annuler et lesquels conserver. Aucun contrat, a-t-il précisé, n'a été résilié « sans examen humain ».
« J'ai simplement remis la [liste des contrats] aux employés du ministère des Anciens Combattants », a-t-il expliqué. « J'ai essentiellement placé « munchable » en haut, puis les autres en bas. »
Des membres du personnel du ministère des Anciens Combattants ont déclaré à ProPublica que lorsque DOGE avait identifié des contrats à annuler en début d'année – avant l'arrivée de Lavingia – les employés disposaient parfois de peu de temps pour justifier le maintien du service. L'un d'eux se souvient n'avoir eu que quelques heures. Les membres du personnel ont demandé à rester anonymes, craignant de perdre leur emploi s'ils parlaient aux journalistes.
Selon un courriel interne antérieur à l'analyse de l'IA par Lavingia, les membres du personnel devaient répondre en 255 caractères maximum, soit un peu moins que la limite de 280 caractères imposée par la plateforme de médias sociaux X d'Elon Musk.
Une fois l'analyse des contrats de DOGE commencée, Lavingia a déclaré avoir été confronté à des limitations technologiques. Au moins une partie des erreurs générées par son code peut être attribuée à l'utilisation d'anciennes versions des modèles OpenAI disponibles auprès du VA, des modèles incapables de résoudre des tâches complexes, selon les experts consultés par ProPublica.
De plus, les instructions sous-jacentes de l'outil étaient profondément erronées. Des documents montrent que Lavingia a programmé le système d'IA pour qu'il formule des jugements complexes à partir des premières pages de chaque contrat, environ les 2 500 premiers mots, qui ne contiennent que des informations sommaires éparses.
« L'IA est absolument inadaptée à ce type de situation », a déclaré Waldo Jaquith, ancien membre du personnel nommé par Obama et responsable des contrats informatiques au Trésor. L'IA donne des réponses apparemment convaincantes, mais souvent erronées. Il faut des humains pour ce faire.
Les questions posées par Lavingia n'incluaient pas de contexte sur le fonctionnement du VA, ni sur les contrats essentiels ni sur ceux exigés par la loi fédérale. L'IA a donc déterminé qu'un élément essentiel du système de passation de marchés de l'agence était « manquant ».
Au cœur de la question posée par Lavingia se trouve la directive de réserver les contrats liés aux « soins directs aux patients ».
Une telle approche, selon les experts, ne tient pas compte du fait que le travail effectué par les médecins et les infirmières pour soigner les anciens combattants dans les hôpitaux n'est possible qu'avec un soutien important.
Le système de Lavingia utilisait également l'IA pour extraire des informations telles que le numéro de contrat et la « valeur totale du contrat ». Cela entraînait des erreurs évitables, l'IA renvoyant une valeur monétaire erronée lorsque plusieurs contrats étaient trouvés. Les experts ont indiqué que les informations correctes étaient facilement disponibles dans les bases de données publiques.
Lavingia a reconnu que des erreurs résultaient de cette approche, mais a précisé que celles-ci avaient été corrigées ultérieurement par le personnel du VA.
Fin mars, Lavingia a publié une version du script « munchable » sur son compte GitHub pour inviter d'autres personnes à l'utiliser et à l'améliorer, a-t-il déclaré à ProPublica. « Il aurait été formidable que l'ensemble du gouvernement fédéral utilise ce script et que chacun puisse voir que c'est ainsi que le VA envisage de réduire les contrats. »
Selon un article sur son blog, cela a été fait avec l'approbation d'Elon Musk avant son départ de DOGE. « Lorsqu'il a interrogé l'assemblée sur la manière d'améliorer la perception publique de DOGE, j'ai demandé si je pouvais rendre le code que j'écrivais en open source », a déclaré Lavingia. « Il a accepté, car cela correspondait à l'objectif de transparence maximale de DOGE. »
Cette ouverture a peut-être finalement conduit au licenciement de Lavingia. Lavingia a confirmé avoir été licencié du DOGE après avoir accordé une interview au magazine Fast Company concernant son travail au sein du ministère. Un porte-parole du VA a refusé de commenter le licenciement de Lavingia.
Les responsables du VA ont refusé de dire s'ils continueraient à utiliser l'outil « munchable ». Cependant, l'administration pourrait déployer l'IA pour aider l'agence à remplacer des employés. Des documents précédemment obtenus par ProPublica montrent que les responsables du DOGE ont proposé en mars de consolider le service des demandes de prestations en s'appuyant davantage sur l'IA.
Et les prestataires du gouvernement y prêtent attention. Après la publication de son code, Lavingia a déclaré avoir entendu des personnes cherchant à comprendre comment maintenir les flux financiers.
« J'ai reçu quelques messages directs de prestataires du VA qui avaient des questions en voyant ce code », a-t-il déclaré. Ils voulaient s'assurer que leurs contrats ne soient pas résiliés. Ou comprendre pourquoi.
« En fin de compte, ce sont les humains qui résilient les contrats, mais il est utile pour eux de voir comment DOGE, Trump ou les dirigeants des agences envisagent les contrats qu'ils vont résilier. La transparence est une bonne chose. »