Problème 5101

Ces derniers mois, le DOGE d'Elon Musk a tenté de vider la bureaucratie fédérale américaine. Après avoir licencié massivement et tenté de réduire les effectifs d'agences importantes, ce projet, soutenu par un milliardaire, tente de créer un nouveau modèle de gouvernance privilégiant l'automatisation. Vendredi, Wired a rapporté que, dans une tentative ratée de modernisation de l'agence, un nouveau bot de type ChatGPT a été intégré aux flux de travail de son personnel.

L'Agency Support Companion est censé « assister les employés dans leurs tâches quotidiennes et améliorer leur productivité », peut-on lire dans un courriel interne consulté par le magazine. Cependant, le chatbot ne semble pas très efficace. « Honnêtement, personne n'en a vraiment parlé », a déclaré à Wired une source travaillant au sein de l'agence.

Le lancement de l'application aurait été accompagné d'une vidéo de formation hilarante et horrible (visible ici) mettant en scène une femme à quatre doigts mal animée. La vidéo, censée expliquer aux employés comment utiliser l'application, omettait de leur communiquer une information cruciale : ils devaient s'abstenir de télécharger des informations personnelles sensibles dans le programme. Cet oubli a contraint l'agence à envoyer un courriel d'excuses aux employés, soulignant le manque de contexte : « Nous nous excusons pour cet oubli dans notre vidéo de formation », pouvait-on y lire.

« Je ne suis pas sûr que la plupart de mes collègues aient regardé la vidéo de formation », a déclaré la source de la SSA à Wired. « J'ai joué un peu avec le chatbot, et plusieurs des réponses que j'ai reçues étaient incroyablement vagues et/ou inexactes. » Ils ont ajouté : « On entendait mes collègues se moquer des graphismes. Personne de ma connaissance ne l'utilise. C'est tellement maladroit et mauvais. » Si le projet d'Elon Musk est d'automatiser la Sécurité sociale, de nombreux éléments (outre la nouvelle application, peu convaincante) suggèrent que c'est une mauvaise idée. En effet, une tentative similaire d'automatisation des services sociaux au Brésil montre pourquoi une dépendance excessive aux algorithmes pour gérer les programmes d'aide sociale peut entraîner des conséquences néfastes pour tous.

Reste du monde rapporte que la tentative du gouvernement brésilien de réduire la bureaucratie en remplaçant les fonctionnaires par des algorithmes n'a pas toujours donné les meilleurs résultats. Le Brésil dispose d'une application, Meu INSS, développée par l'entreprise publique Dataprev et conçue pour gérer les demandes de prestations de sécurité sociale. Lancée en 2018, cette application utilise la vision par ordinateur et le traitement du langage naturel pour analyser les documents soumis au gouvernement par les demandeurs. Malheureusement, l'application a tendance à rejeter des demandes légitimes sur la base d'erreurs mineures. Ces décisions automatisées peuvent déclencher de longues batailles juridiques qui peuvent prendre plusieurs mois à se résoudre.

Le média relate l'expérience de Josélia de Brito, une ancienne travailleuse de la canne à sucre de 55 ans, qui a déposé sa demande de retraite via l'application, mais a été prise pour un homme par le système automatisé et ses prestations ont été refusées. « J'ai tous les documents prouvant mon état de santé, tout est prouvé, et [les prestations] me sont toujours refusées. C'est une humiliation », a déclaré De Brito au média.

Les travailleurs agricoles ruraux du pays ont du mal à s'adapter à la numérisation croissante des services sociaux, note le média. « Ici, les gens ne peuvent même pas utiliser Gmail, Facebook ou Instagram », a déclaré Francisco Santana, président du Syndicat des travailleurs ruraux de Barra do Corda, à Reste du Monde. Les processus sont de plus en plus automatisés, et la société n'y était pas préparée, surtout en périphérie, pour les habitants des zones rurales.

Les difficultés rencontrées par d'autres pays en matière d'automatisation constituent un avertissement potentiel pour les États-Unis, dont les services sociaux sont actuellement « modernisés » par les sbires technocratiques déployés par l'administration Trump. Le DOGE de Musk a tenté de démanteler les agences de l'administration fédérale, y compris la SSA. Au lieu de mettre en place des effectifs complets, le DOGE a cherché à mettre en place une stratégie « IA-first » (privilégiant l'IA) qui réduirait de moitié les effectifs fédéraux et remplacerait les travailleurs humains par des logiciels. « Tout ce qui peut être automatisé le sera. Et les technocrates remplaceront les bureaucrates », a récemment déclaré au Washington Post une personne bien informée des activités de DOGE (https://www.washingtonpost.com/business/2025/02/08/doge-musk-goals/). Loin d'améliorer l'efficacité, les changements apportés par DOGE ont jusqu'à présent contribué à semer le dysfonctionnement et le chaos dans de nombreuses agences, dont la Sécurité sociale.

En effet, un incident récent à la SSA, au cours duquel des employés de DOGE auraient marqué « d'innombrables » bénéficiaires d'allocations familiales comme « morts » et supprimé leurs prestations, n'en est qu'un exemple. « [Les employés de DOGE] sont entrés dans le système et ont tué des gens », a déclaré au Daily Beast Rennie Glasgow, analyste technique des sinistres de longue date au sein de l'agence (https://www.thedailybeast.com/doges-social-security-cuts-create-chaotic-day-of-the-dead-living/). « Environ 4 millions de personnes ont été signalées comme mortes. Mais ils ne sont pas certains que ces personnes étaient censées l'être, alors ils nous envoient un courriel disant : "Si ces personnes se présentent au bureau avec leur pièce d'identité, vous pouvez les réintégrer" », a déclaré Glasgow au média.

« Nous devons suivre ce long processus pour les ressusciter, pour les rendre vivantes, ce qui peut prendre environ trois à quatre jours », a ajouté Glasgow.

DOGE a également récemment annoncé qu'il tenterait de réécrire l'intégralité de la base de code de la SSA en quelques mois. Français Des sources ont suggéré qu'à la vitesse vertigineuse à laquelle ils prévoient de travailler, DOGE devrait presque certainement s'appuyer sur l'IA pour y parvenir. Bien que l'écriture de code avec l'IA soit devenue une pratique plus courante, c'est aussi une pratique qui nécessite une supervision stricte en raison du degré d'erreurs commises par le logiciel. Étant donné le nombre d'erreurs commises par les agents humains de DOGE au cours de leur opération éclair contre le gouvernement, il est logique qu'une réécriture automatisée du code source de la SSA puisse être un désastre.

Bien sûr, certains spéculent que l'objectif est de commettre des erreurs. Ces critiques estiment que DOGE ne cherche pas du tout à « moderniser » ou à améliorer la SSA, mais plutôt à déstabiliser et à détruire l'agence afin de pouvoir la privatiser. Si tel est le cas, alors tout se déroule comme prévu.