Problème 5107

L’utilisation d’outils basés sur l’intelligence artificielle (IA) au Brésil est devenue de plus en plus courante dans plusieurs domaines, notamment le système de sécurité sociale. Meu INSS, une application créée par l'Institut National de la Sécurité Sociale (INSS), a été mise en œuvre en 2018 dans le but d'accélérer le processus d'octroi de prestations, telles que les prestations de retraite et de maladie, grâce à une analyse automatisée. Récemment, l’INSS a commencé à utiliser l’IA dans le processus.

Cependant, le système a causé des problèmes à de nombreux Brésiliens, en particulier aux travailleurs ruraux et à ceux qui sont peu familiarisés avec la technologie, comme le montre un rapport de Rest of World.

La publication nord-américaine à but non lucratif a raconté l'histoire de Josélia de Brito, une ancienne travailleuse rurale du nord-est du Brésil qui a vécu de première main les défis imposés par le système d'IA. Lors de sa demande de retraite via l'application, Josélia a vu sa demande automatiquement refusée en raison d'une erreur d'identification, étant enregistrée comme homme dans le système.

Ce type d’erreur est devenu courant pour les travailleurs ayant peu accès aux ressources technologiques, qui éprouvent des difficultés à corriger les incohérences, car le système n’offre pas d’alternatives de révision efficaces.

Mise en œuvre de l'IA dans Meu INSS

• Meu INSS a été développé dans le but de réduire la bureaucratie et d'accélérer l'octroi des prestations.
• Depuis son introduction, l'outil a permis de traiter un volume important de demandes, l'objectif du gouvernement étant que d'ici 2025, 55 % des demandes soient analysées de manière automatisée.
• Dans de nombreux cas, le système a pu accélérer le traitement des commandes simples.
• Cependant, cela a également conduit au rejet automatique des demandes comportant des erreurs ou des incohérences mineures, ce qui affecte particulièrement les personnes vivant dans des zones reculées du pays.
• L'introduction de l'IA dans le processus a été initialement considérée comme une innovation positive, avec la promesse de rendre le système plus agile.
• Cependant, comme le soulignent les experts, l’utilisation de la technologie sans analyse critique et sans formation adéquate des citoyens a conduit à une exclusion numérique.
• Josélia de Brito, par exemple, qui souffre de maladies chroniques et a besoin de prestations de sécurité sociale, a fait part de sa frustration de voir ses demandes rejetées à plusieurs reprises, alors qu'elle disposait de tous les documents nécessaires.
• Pour elle, le processus de demande de prestations est devenu humiliant et chaque erreur dans le système semblait entraîner un refus sans explication claire.

L'impact sur les travailleurs ruraux

La mise en œuvre de l’IA dans l’INSS s’est avérée particulièrement problématique pour les travailleurs ruraux, qui n’ont souvent pas accès à un Internet de qualité et sont confrontés à des difficultés en matière de culture numérique.

Les données indiquent que le taux d’analphabétisme dans les zones rurales du Brésil est trois fois plus élevé que dans les zones urbaines, ce qui augmente les difficultés auxquelles ces travailleurs sont confrontés lorsqu’ils interagissent avec les systèmes numériques. De plus, de nombreux cas complexes, tels que ceux impliquant des propriétés rurales difficiles à documenter, finissent par être rejetés par l’IA, qui ne peut pas traiter ces demandes avec précision.

Les experts affirment que, malgré les efforts visant à rationaliser le processus, l’automatisation n’est pas préparée à faire face aux particularités du travail rural. Edjane Rodrigues, secrétaire de la Confédération nationale des travailleurs agricoles, a souligné au Reste du monde que ces cas devraient être analysés par des êtres humains, car la législation sociale prévoit une série de nuances que l'IA ne peut pas interpréter correctement.

La technologie peut-elle être une solution ou un obstacle ?

Bien que le gouvernement brésilien ait investi des millions pour améliorer le système, dans le but de rendre les services plus efficaces, le recours croissant à l’intelligence artificielle a également suscité des inquiétudes. Début 2025, la société responsable de la création de l'application, Dataprev, a annoncé un investissement d'environ 10,5 millions de dollars pour améliorer les capacités d'analyse des données et de détection des fraudes de Meu INSS.

Malgré les critiques, Meu INSS continue d’être largement utilisé au Brésil, avec 84 millions d’accès mensuels. Toutefois, les experts avertissent qu’une dépendance accrue à la technologie pourrait entraîner une inefficacité et une exclusion pour les personnes les plus vulnérables, qui ne disposent pas des ressources ou des connaissances nécessaires pour naviguer dans les systèmes automatisés.

Dans un scénario où la numérisation des fonctions publiques est considérée comme une solution pour accroître l’efficacité, il devient nécessaire de trouver un équilibre entre l’automatisation et l’analyse humaine. Cela est particulièrement important dans les cas où le processus d’octroi des prestations comporte des éléments qui ne peuvent être réduits à de simples critères algorithmiques. Sans cet équilibre, l’innovation peut devenir un obstacle pour les citoyens qui ont le plus besoin d’aide.