Incidentes Asociados
En los últimos meses, DOGE, de Elon Musk, ha intentado vaciar la burocracia federal estadounidense. Tras despedir a un gran número de empleados e intentar reducir el tamaño de importantes agencias, esta iniciativa, respaldada por multimillonarios, busca crear un nuevo modelo de gobernanza que priorice la automatización. El viernes, Wired informó que, en un intento fallido por modernizar la agencia, se integró un nuevo bot similar a ChatGPT en los flujos de trabajo del personal.
Se supone que el Compañero de Apoyo a la Agencia "ayuda a los empleados con las tareas diarias y mejora la productividad", según un correo electrónico interno al que tuvo acceso la revista. Sin embargo, el chatbot no parece funcionar muy bien. "Sinceramente, nadie ha hablado de ello en absoluto", declaró a Wired una fuente de la agencia.
Según informes, el lanzamiento de la aplicación estuvo acompañado de un video de capacitación hilarantemente terrible (visto aquí) que mostraba a una mujer de cuatro dedos con una animación deficiente. El video, que supuestamente explicaba al personal cómo usar la aplicación, omitió mencionar un dato crucial: que debían abstenerse de subir información personal confidencial al programa. Este descuido obligó a la agencia a enviar un correo electrónico de disculpas al personal que resaltaba la falta de contexto: "Nuestras disculpas por el descuido en nuestro video de capacitación", decía.
"No estoy seguro de que la mayoría de mis compañeros de trabajo hayan visto el video de capacitación", declaró la fuente de la SSA a Wired. "Jugué un poco con el chatbot y varias de las respuestas que recibí fueron increíblemente vagas o inexactas". Añadió: "Se podía oír a mis compañeros de trabajo burlándose de los gráficos. Nadie que yo conozca lo usa. Es muy torpe y malo".
Si el plan de Musk es automatizar la SSA, hay abundante evidencia (aparte de la terrible nueva aplicación) que sugiere que es una mala idea. De hecho, un intento similar de automatizar los servicios sociales en Brasil demuestra por qué la dependencia excesiva de algoritmos para operar los programas de asistencia social puede resultar en peores resultados para todos.
Rest of the World informa que un intento del gobierno brasileño por reducir la burocracia reemplazando a los funcionarios con algoritmos no siempre ha dado los mejores resultados. Brasil cuenta con una aplicación, Meu INSS, desarrollada por la empresa estatal Dataprev, diseñada para gestionar las solicitudes de seguridad social. La aplicación, lanzada en 2018, utiliza visión artificial y procesamiento del lenguaje natural para analizar los documentos que los solicitantes presentan al gobierno. Desafortunadamente, la aplicación suele rechazar solicitudes legítimas basándose en errores menores. Estas decisiones automatizadas pueden dar lugar a largas batallas legales que tardan meses en resolverse.
El medio documenta la experiencia de Josélia de Brito, una extrabajadora de caña de azúcar de 55 años, quien solicitó sus beneficios de jubilación a través de la aplicación, pero el sistema automatizado la confundió con un hombre y le denegaron los beneficios. "Tengo todos los documentos que prueban mi estado de salud, lo prueban todo, y aun así me niegan [el beneficio]. Es una humillación", declaró De Brito al medio.
Los trabajadores agrícolas rurales del país han tenido dificultades con la creciente digitalización de los servicios sociales, señala el medio. "Aquí la gente ni siquiera puede usar Gmail, Facebook ni Instagram", declaró Francisco Santana, presidente del Sindicato de Trabajadores Rurales de Barra do Corda, a Rest of World. "Los procesos se están automatizando cada vez más, y la sociedad no estaba preparada para ello, especialmente en zonas más alejadas, en las afueras, para quienes viven en zonas rurales". Los problemas de otros países con la automatización son una posible advertencia para Estados Unidos, cuyos servicios sociales están siendo "modernizados" por tecnócratas desplegados por la administración Trump. El DOGE de Musk ha intentado desmantelar agencias de la burocracia federal, incluyendo la SSA. En lugar de una plantilla completa, el DOGE ha buscado instaurar una estrategia que priorice la IA (https://www.techpolicy.press/doge-plan-to-push-ai-across-the-us-federal-government-is-wildly-dangerous/) que reduciría la fuerza laboral federal a la mitad y reemplazaría a los trabajadores humanos con software. "Todo lo que pueda ser automatizado por máquinas lo será. Y los tecnócratas reemplazarán a los burócratas", declaró recientemente al Washington Post una persona con conocimiento de las actividades del DOGE (https://www.washingtonpost.com/business/2025/02/08/doge-musk-goals/). Sin embargo, lejos de resultar en una mayor eficiencia, los cambios de DOGE hasta ahora han contribuido a generar disfunción y caos en muchas agencias, incluyendo el Seguro Social.
De hecho, un incidente reciente en la SSA, en el que empleados de DOGE supuestamente marcaron como "muertos" a "innumerables" beneficiarios de prestaciones en vida y les cortaron las prestaciones, es solo un ejemplo. "[El personal de DOGE] entró al sistema y mató a gente", declaró Rennie Glasgow, analista técnico de reclamaciones de la agencia desde hace mucho tiempo, a The Daily Beast (https://www.thedailybeast.com/doges-social-security-cuts-create-chaotic-day-of-the-dead-living/). "Marcaron como muertos a unos 4 millones de personas. Pero no están seguros de si debían estar marcadas como muertas, así que nos envían un correo electrónico diciendo: 'Si estas personas vienen a la oficina con su identificación, pueden restituirlas'", declaró Glasgow al medio.
"Tenemos que pasar por un largo proceso para resucitarlos, para que vuelvan a estar vivos, lo que puede tardar entre tres y cuatro días", añadió Glasgow.
DOGE también anunció recientemente que intentaría reescribir la totalidad del código base de la SSA en cuestión de meses. Fuentes sugieren que, al ritmo vertiginoso con el que planean trabajar, DOGE casi con toda seguridad tendrá que recurrir a la IA para lograrlo. Si bien escribir código con IA se ha vuelto una práctica cada vez más común, también requiere una supervisión rigurosa debido al grado de errores del software. Dados los numerosos errores cometidos por los operadores humanos de DOGE durante su ofensiva relámpago contra el gobierno, es lógico que una reescritura automatizada del código base de la SSA sea un desastre.
Claro que algunos especulan que el objetivo es cometer errores. Estos críticos creen que DOGE no pretende "modernizar" ni mejorar la SSA en absoluto, sino desestabilizarla y destruirla para privatizarla. Si es así, todo marcha según lo previsto.