Incidentes Asociados
El uso de herramientas basadas en inteligencia artificial (IA) en Brasil se ha vuelto cada vez más común en diversas áreas, incluido el sistema de seguridad social. Meu INSS, una aplicación creada por el Instituto Nacional de la Seguridad Social (INSS), se implementó en 2018 con el objetivo de agilizar el proceso de concesión de prestaciones, como las de jubilación y enfermedad, a través de un análisis automatizado. Recientemente, INSS comenzó a utilizar IA en el proceso.
Sin embargo, el sistema ha causado problemas para muchos brasileños, especialmente los trabajadores rurales y aquellos con poca familiaridad con la tecnología, como lo muestra un informe de Rest of World.
La publicación norteamericana sin fines de lucro contó la historia de Josélia de Brito, una ex trabajadora rural del noreste de Brasil que experimentó de primera mano los desafíos que impone el sistema de IA. Al solicitar su jubilación a través de la app, Josélia tuvo su solicitud automáticamente negada debido a un error de identificación, al estar registrada como hombre en el sistema.
Este tipo de errores se ha vuelto común para trabajadores con poco acceso a recursos tecnológicos, quienes enfrentan dificultades para corregir inconsistencias, ya que el sistema no ofrece alternativas de revisión efectivas.
Implementación de IA en Meu INSS
- Mi INSS fue desarrollado con el objetivo de reducir la burocracia y agilizar la concesión de beneficios.
- Desde su implementación, la herramienta se ha utilizado para procesar un gran volumen de solicitudes, y el objetivo del gobierno es que para 2025, el 55% de las solicitudes sean analizadas de manera automatizada.
- En muchos casos, el sistema ha conseguido agilizar el procesamiento de pedidos sencillos.
- Sin embargo, esto también ha llevado al rechazo automático de solicitudes con errores menores o inconsistencias, lo que afecta particularmente a quienes viven en zonas remotas del país.
- La introducción de IA en el proceso fue vista inicialmente como una innovación positiva, con la promesa de hacer el sistema más ágil.
- Sin embargo, como señalan los expertos, el uso de la tecnología sin un análisis crítico y sin una formación adecuada de la ciudadanía ha resultado en exclusión digital.
- Josélia de Brito, por ejemplo, quien padece enfermedades crónicas y necesita prestaciones de seguridad social, denunció su frustración al ver sus solicitudes rechazadas reiteradamente, pese a tener toda la documentación necesaria.
- Para ella, el proceso de solicitar beneficios se volvió humillante y cada error en el sistema parecía resultar en una negación sin una explicación clara.
El impacto en los trabajadores rurales
La implementación de IA en Meu INSS ha demostrado ser especialmente problemática para los trabajadores rurales, quienes a menudo no tienen acceso a Internet de calidad y enfrentan dificultades de alfabetización digital.
Los datos indican que la tasa de analfabetismo en las zonas rurales de Brasil es tres veces mayor que en las zonas urbanas, lo que aumenta las dificultades que enfrentan estos trabajadores al interactuar con los sistemas digitales. Además, muchos casos complejos, como aquellos que involucran propiedades rurales que son difíciles de documentar, terminan siendo rechazados por la IA, que no puede procesar estas solicitudes con precisión.
Los expertos afirman que, a pesar de los esfuerzos por agilizar el proceso, la automatización no está preparada para afrontar las particularidades del trabajo rural. Edjane Rodrigues, secretaria de la Confederación Nacional de Trabajadores Agrícolas, destacó a Rest of World que estos casos deben ser analizados por seres humanos, ya que la legislación social prevé una serie de matices que la IA no puede interpretar correctamente.
¿Puede la tecnología ser una solución o un obstáculo?
Aunque el gobierno brasileño ha invertido millones para mejorar el sistema, con el objetivo de hacer los servicios más eficientes, la creciente dependencia de la inteligencia artificial también ha generado preocupaciones. A principios de 2025, la empresa responsable de la creación de la aplicación, Dataprev, anunció una inversión de aproximadamente 10,5 millones de dólares para mejorar las capacidades de análisis de datos y detección de fraudes de Meu INSS.
A pesar de las críticas, el Meu INSS sigue siendo ampliamente utilizado en Brasil, con 84 millones de accesos mensuales. Sin embargo, los expertos advierten que una mayor dependencia de la tecnología podría resultar en ineficiencia y exclusión para los más vulnerables, que carecen de los recursos o el conocimiento para navegar por los sistemas automatizados.
En un escenario donde la digitalización de las funciones públicas es vista como una solución para aumentar la eficiencia, surge la necesidad de un equilibrio entre la automatización y el análisis humano. Esto es especialmente importante en los casos en que el proceso de concesión de beneficios implica elementos que no pueden reducirse a simples criterios algorítmicos. Sin este equilibrio, la innovación puede convertirse en un obstáculo para los ciudadanos que más ayuda necesitan.