Problème 5103

Lorsque Josélia de Brito, une ancienne ouvrière de la canne à sucre originaire d'une ville reculée du nord-est du Brésil, a déposé sa demande de retraite via l'application gouvernementale obligatoire, elle s'attendait à un traitement rapide. Or, sa demande a été immédiatement rejetée, le système l'identifiant comme un homme.

La situation était particulièrement frustrante pour Josélia de Brito, qui demandait des indemnités journalières de maladie depuis des années via Meu INSS, l'application d'intelligence artificielle de l'Institut national de sécurité sociale. Travaillant dans les champs depuis son adolescence, Josélia souffrait d'une hernie discale, d'une scoliose et de fibromyalgie, autant de maladies chroniques qui lui donnaient droit aux prestations sociales. Mais même des erreurs mineures dans ses demandes déposées via l'application avaient entraîné de nombreux rejets, avec peu de recours.

« J'ai tous les documents prouvant mon état de santé, tout est prouvé, et pourtant [l'allocation] me est refusée. C'est une humiliation », a déclaré de Brito, 55 ans, analphabète et obligée de demander à sa fille de déposer sa demande, à Reste du Monde. C'est très dur pour les travailleurs ruraux, en particulier, qui « ont travaillé si longtemps », a-t-elle ajouté.

L'INSS, l'institut brésilien de sécurité sociale, a intégré l'IA à son application en 2018 afin de simplifier les démarches administratives et d'accélérer le traitement des demandes. L'INSS, connu pour ses longues files d'attente, comptait alors environ 2 millions de demandes en attente, pour des dossiers aussi variés que des consultations médicales, des indemnités maladie, des pensions et des retraites. Si cet outil, basé sur l'IA, a depuis permis de traiter des milliers de demandes de base, il a également rejeté des demandes de centaines de personnes comme de Brito, vivant dans des zones reculées et peu familiarisées avec le numérique, pour des erreurs mineures.

Le gouvernement a raison de numériser ses systèmes pour gagner en efficacité, mais cela a un coût, a déclaré Edjane Rodrigues, secrétaire aux politiques sociales de la Confédération nationale des travailleurs de l'agriculture, à Reste du monde.

« Si le gouvernement adopte ce type de service pour accélérer le versement des prestations, c'est une bonne chose. Nous n'y sommes pas opposés », a-t-elle déclaré. Cependant, notamment pour les travailleurs agricoles, les demandes peuvent être complexes en raison de la nature de leur travail, a-t-elle précisé, faisant référence aux cas nécessitant des formalités administratives supplémentaires, comme lorsqu'une parcelle appartient à une seule personne mais est exploitée par plusieurs familles. « L'agriculture présente de nombreuses particularités, et les travailleurs ruraux sont particulièrement touchés » par l'application, selon Mme Rodrigues.

« Chaque décision automatisée repose sur des critères juridiques précis, garantissant le respect des normes fixées par la législation sur la sécurité sociale », a déclaré un porte-parole de l'INSS à *Reste du monde. *« L'automatisation ne fonctionne pas de manière arbitraire. Au contraire, elle suit des règles et des réglementations claires, reflétant les normes attendues appliquées dans l'analyse conventionnelle. »

Les gouvernements d'Amérique latine ont adopté l'IA pour améliorer leurs processus. L'année dernière, l'Argentine a commencé à utiliser ChatGPT pour rédiger des décisions de justice, une initiative qui, selon les autorités, a permis de réduire les frais juridiques et les délais de traitement. Le Costa Rica s'est associé à Microsoft pour lancer un outil d'IA visant à optimiser la collecte de données fiscales et à détecter les fraudes dans les reçus fiscaux numériques. Le Salvador a récemment créé un laboratoire d'IA pour développer des outils destinés aux services gouvernementaux.

Si certains de ces efforts ont donné des résultats prometteurs, les experts s'inquiètent du risque que des fonctionnaires peu expérimentés en technologie utilisent ces outils sans transparence ni solutions de contournement. Le Salvador, par exemple, est classé mal en matière de gouvernance et d'éthique, d'infrastructures et de capital humain dans l'indice de préparation des gouvernements à l'IA 2024 d'Oxford Insights. Ailleurs, des systèmes basés sur l'IA, des Pays-Bas à l'Inde ont été accusés de surveillance et de refus de prestations sociales. Au Brésil, l'IA est utilisée pour suivre l'absentéisme scolaire parmi les écoliers, fournir des services biométriques aux citoyens (https://agenciagov.ebc.com.br/noticias/202502/laboratorio-de-inovacao-da-enap-apresenta-casos-concretos-de-transformacoes-do-setor-publico-pela-ia) et alimenter un chatbot. qui explique fichiers gouvernementaux. L'application Meu INSS a été créée par Dataprev, une entreprise publique qui propose des solutions technologiques, notamment ses programmes sociaux. Il utilise la vision par ordinateur (un domaine de l'IA qui permet aux ordinateurs de comprendre les images) et le traitement du langage naturel pour analyser les données des documents téléchargés par les assurés. 

En janvier, Dataprev a annoncé qu'elle investirait environ 10,5 millions de dollars pour améliorer les capacités d'analyse des données et de détection des fraudes de l'application. Un mois plus tard, il a introduit une nouvelle fonctionnalité d'IA pour personnaliser davantage ses offres pour les utilisateurs. L’INSS vise à ce que 55 % de tous les dossiers qu’il reçoit via son application basée sur l’IA d’ici la fin 2025. Mais certains utilisateurs craignent qu’une plus grande dépendance à l’égard de cette technologie ne les condamne à un processus encore plus labyrinthique.

Les utilisateurs mécontents des décisions peuvent faire appel auprès d'un conseil interne de ressources juridiques --- qui doit également être fait via Meu INSS. Ils attendent, en moyenne, [278 jours](https://www.gov.br/previdencia/pt-br/acesso-a-informacao/participacao-social/conselhos-e-orgaos-colegiados/conselho-de-recursos-da- previdencia-social/noticias/crps-apresenta-avancos-na-analise-de-processos-durante-reuniao-do-conselho-nacional-de-previdencia-social) à obtenir une réponse, selon l'INSS.

Le système s'est amélioré : environ 34 300 demandes de prestations sociales ont été refusées aux travailleurs ruraux en janvier, contre environ 53 400 un an plus tôt. Cependant, il n'est toujours pas en mesure d'analyser les dossiers plus complexes des travailleurs agricoles et de ceux dont le travail implique des conditions plus dangereuses et des formalités administratives supplémentaires, a déclaré Rodrigues. De nombreuses requêtes déposées par des travailleurs ruraux sont rejetées ; ces dossiers devraient plutôt être examinés par un expert, a-t-elle ajouté.

« Un certain nombre d'entre eux ne sont pas enregistrés dans ces bases de données [gouvernementales], ou n'y disposent pas de suffisamment de données », a déclaré Jane Berwanger, directrice de l'Institut brésilien de droit de la sécurité sociale, une institution de défense des droits civiques, à Reste du monde. Si ces demandes ne sont pas examinées manuellement, elles « se transformeront en batailles juridiques simplement parce qu'elles n'ont pas été correctement ou suffisamment analysées ».

L'application permet aux utilisateurs de corriger des informations qui auraient pu être incorrectes dans leurs requêtes précédentes, a déclaré le porte-parole de l'INSS à Reste du monde. Certains assurés ont abusé du programme, déposant plusieurs demandes dans l'espoir d'obtenir des résultats différents, a déclaré le porte-parole.

Meu INSS, qui compte près de 84 millions visites chaque mois, a été saluée par l'Association internationale de la sécurité sociale comme une « succès dans la politique de transformation numérique » au Brésil. Mais l'application reste inaccessible à certains des travailleurs les plus vulnérables du pays et pourrait les laisser encore plus à la traîne, ont averti les analystes.

L'analphabétisme dans les zones rurales du Brésil était de près de 15 % en 2022, soit trois fois plus élevé que dans les zones urbaines. « Ici, les gens ne peuvent même pas utiliser Gmail, Facebook ou Instagram », a déclaré à Reste du Monde Francisco Santana, président du Syndicat des travailleurs ruraux de Barra do Corda, dans l'État du Maranhão. « Les processus sont de plus en plus automatisés, et la société n'y était pas préparée, surtout en périphérie, pour les habitants des zones rurales. »

Pour de Brito, le lancement de l'application a d'abord été un soulagement, car le bureau de l'INSS le plus proche était à quatre heures de bus. Mais même les rares fois où la plateforme a approuvé ses demandes d'indemnités maladie, qui s'élevaient à environ 260 dollars par mois, de Brito a dû attendre jusqu'à quatre mois pour que l'institut organise un examen médical afin de prouver son état. Les résultats des examens – programmés dans différentes villes, ce qui l'obligeait souvent à voyager toute la journée – étaient généralement retardés, ce qui la laissait encore plus longtemps dans l'attente de ses prestations, a-t-elle expliqué.

La demande de retraite rejetée qu'elle avait déposée en février a été approuvée en mars, mais uniquement grâce à un contact qu'elle avait à la Confédération nationale des travailleurs de l'agriculture, a-t-elle expliqué. Son dossier a été transmis directement aux directeurs de l'INSS, qui ont identifié et corrigé l'erreur dans l'application.

« Si je devais refaire une demande [de prestations], je ne le ferais pas via l'application, car elle est trop complexe et vraiment mauvaise », a déclaré de Brito. « Je n'aime pas trop ça. »