Incidentes Asociados
Mientras la administración Trump se preparaba para cancelar contratos en el Departamento de Asuntos de Veteranos este año, los funcionarios recurrieron a un ingeniero de software sin experiencia en atención médica ni en el gobierno para que los orientara.
El ingeniero, que trabajaba para el Departamento de Eficiencia Gubernamental, desarrolló rápidamente una herramienta de inteligencia artificial para identificar qué servicios de empresas privadas no eran esenciales. Etiquetó esos contratos como "DESCARGABLES".
El código, que utilizaba modelos de IA obsoletos y económicos, producía resultados con errores evidentes. Por ejemplo, alucinaba el tamaño de los contratos, malinterpretándolos con frecuencia e inflando su valor. Concluyó que más de mil tenían un valor de 34 millones de dólares cada uno, cuando en realidad algunos eran de tan solo 35.000 dólares.
La herramienta de IA DOGE marcó más de 2.000 contratos como "descartados". No está claro cuántos se han cancelado o están a punto de ser cancelados; las decisiones de la administración Trump sobre los contratos del VA han sido, en gran medida, una caja negra. El VA utiliza contratistas por diversas razones, como apoyar hospitales, investigación y otros servicios destinados a la atención de veteranos enfermos. Los funcionarios del Departamento de Asuntos de Veteranos (VA) han declarado haber cancelado casi 600 contratos en total. Los demócratas del Congreso han estado presionando a los líderes del VA para obtener detalles específicos sobre los contratos cancelados, sin éxito.
Identificamos al menos dos docenas de contratos en la lista DOGE que han sido cancelados hasta la fecha. Entre los contratos cancelados se encontraba uno para el mantenimiento de un dispositivo de secuenciación genética utilizado para desarrollar mejores tratamientos contra el cáncer. Otro era para el análisis de muestras de sangre en apoyo de un proyecto de investigación del VA. Otro tenía como objetivo proporcionar herramientas adicionales para medir y mejorar la atención que brindan las enfermeras.
ProPublica obtuvo el código y los contratos que marcó de una fuente y los compartió con media docena de expertos en inteligencia artificial y adquisiciones. Todos afirmaron que el guion tenía fallas. Muchos criticaron el concepto de usar IA para guiar los recortes presupuestarios en el VA, y uno de ellos lo calificó de "profundamente problemático".
Cary Coglianese, profesor de derecho y ciencias políticas en la Universidad de Pensilvania, quien estudia el uso y la regulación gubernamental de la inteligencia artificial, expresó su preocupación por el uso de estos modelos de lenguaje extenso de propósito general (LLM). "No creo que los LLM estándar sean muy fiables para algo tan complejo y complejo como esto", afirmó.
Sahil Lavingia, el programador contratado por DOGE, entonces dirigida por Elon Musk, reconoció fallos en el código.
"Creo que se cometieron errores", declaró Lavingia, quien trabajó en DOGE durante casi dos meses. "Estoy seguro de que se cometieron errores. Siempre se cometen errores. Nunca recomendaría a nadie ejecutar mi código y hacer lo que dice. Es como aquel episodio de 'The Office' en el que Steve Carell se mete en el lago porque Google Maps indica que se debe conducir hacia el lago. No se debe conducir hacia el lago".
Aunque Lavingia ya ha hablado de su tiempo en DOGE, esta es la primera vez que su trabajo se analiza en detalle y la primera vez que explica públicamente su proceso, hasta el último detalle de las líneas de código.
Lavingia tiene casi 15 años de experiencia como ingeniero de software y emprendedor, pero no cuenta con formación académica en IA. Trabajó brevemente en Pinterest antes de fundar Gumroad, una pequeña empresa de comercio electrónico que casi quebró en 2015. "Despedí al 75% de mi empresa, incluyendo a muchos de mis mejores amigos. Fue un desastre", dijo. Lavingia mantuvo la empresa a flote "reemplazando cada proceso manual por uno automatizado", según una publicación en su blog personal.
Lavingia no tuvo mucho tiempo para profundizar en cómo el Departamento de Asuntos de Veteranos (VA) gestiona la atención a los veteranos entre su incorporación el 17 de marzo y la creación de la herramienta al día siguiente. Sin embargo, su experiencia con su propia empresa coincidió con la dirección de la administración Trump, que ha adoptado el uso de la IA en todo el gobierno para optimizar las operaciones y ahorrar dinero.
Lavingia afirmó que el breve plazo de la orden ejecutiva de Trump de febrero (https://www.whitehouse.gov/presidential-actions/2025/02/implementing-the-presidents-department-of-government-efficiency-cost-efficiency-initiative/), que otorgaba a las agencias 30 días para completar la revisión de contratos y subvenciones, era demasiado corto para realizar la tarea manualmente. "Eso no es posible; hay 90,000 contratos", afirmó. "A menos que se escriba código. Pero incluso así, es realmente imposible".
Con la presión del tiempo, Lavingia comentó que terminó la primera versión de su herramienta para analizar contratos en su segundo día de trabajo, utilizando inteligencia artificial para ayudarle a escribir el código. Declaró a ProPublica que luego pasó su primera semana descargando contratos del Departamento de Asuntos de Veteranos (VA) a su computadora portátil y analizándolos.
El secretario de prensa del VA, Pete Kasperowicz, elogió la labor de DOGE en la revisión de contratos en una declaración a ProPublica. "Hasta donde sabemos, este tipo de revisión nunca se ha realizado antes, pero nos complace sentar este precedente de sentido común", afirmó.
El VA está revisando sus 76,000 contratos para garantizar que cada uno de ellos beneficie a los veteranos y sea un buen uso del dinero de los contribuyentes, afirmó. Las decisiones de cancelar o reducir el tamaño de los contratos se toman tras múltiples revisiones por parte de empleados del VA, incluyendo expertos en contratación de la agencia y personal directivo, escribió.
Kasperowicz afirmó que el VA no cancelará contratos por trabajos que presten servicios a veteranos o que la agencia no pueda realizar por sí misma sin un plan de contingencia. Añadió que los contratos que sean "un desperdicio, duplican o impliquen servicios que el VA puede realizar por sí mismo" generalmente serán rescindidos.
Los funcionarios de Trump han afirmado que están trabajando para lograr un "objetivo" despidos de aproximadamente 80,000 personas de la plantilla del VA, de casi 500,000 empleados. La mayoría trabaja en alguno de los 170 hospitales y casi 1,200 clínicas del VA.
El VA ha declarado que evitará recortar contratos que afecten directamente la atención médica por temor a que esto perjudique a los veteranos. ProPublica informó recientemente que recortes relativamente pequeños en la agencia ya han puesto en peligro la atención médica de los veteranos.
El Departamento de Asuntos de Veteranos (VA) no ha explicado cómo planea trasladar simultáneamente servicios a la empresa, como sugería el código de Lavingia, y al mismo tiempo recortar personal.
Muchos miembros del VA comentaron a ProPublica que el proceso de revisión de contratos era tan opaco que ni siquiera podían ver quién tomaba las decisiones finales sobre la cancelación de contratos específicos. Una vez que el equipo de "comer" seleccionaba una lista de contratos, Lavingia afirmó que la pasaría a otros para que decidieran qué cancelar y qué mantener. Ningún contrato, afirmó, fue rescindido "sin revisión humana".
"Simplemente entregué la [lista de contratos] a los empleados del VA", explicó. "Básicamente, puse "comer" al principio y luego los demás al final".
El personal del VA comentó a ProPublica que cuando DOGE identificó contratos que debían cancelarse a principios de este año, antes de la incorporación de Lavingia, a los empleados a veces se les daba poco tiempo para justificar la retención del servicio. Uno recordó que solo les dieron unas pocas horas. Los empleados pidieron no ser identificados por temor a perder sus trabajos por hablar con la prensa.
Según un correo electrónico interno anterior al análisis de IA de Lavingia, los miembros del personal debían responder en 255 caracteres o menos, apenas por debajo del límite de 280 caracteres de la plataforma de redes sociales X de Musk.
Una vez que comenzó el análisis de contratos de DOGE, Lavingia afirmó que se enfrentó a limitaciones tecnológicas. Al menos algunos de los errores producidos por su código se deben al uso de versiones anteriores de los modelos OpenAI disponibles a través del Departamento de Asuntos de Veteranos (VA), modelos incapaces de resolver tareas complejas, según los expertos consultados por ProPublica.
Además, las instrucciones subyacentes de la herramienta presentaban graves deficiencias. Los registros muestran que Lavingia programó el sistema de IA para realizar juicios complejos basándose en las primeras páginas de cada contrato (aproximadamente las primeras 2500 palabras), que contienen solo información resumida escasa.
"La IA es, sin duda, la herramienta inadecuada para esto", afirmó Waldo Jaquith, exfuncionario designado por Obama que supervisó la contratación de TI en el Departamento del Tesoro. La IA ofrece respuestas que parecen convincentes, pero que a menudo son erróneas. Es necesario que haya humanos encargados de realizar esta tarea.
Las indicaciones de Lavingia no incluían contexto sobre el funcionamiento del Departamento de Asuntos de Veteranos (VA), qué contratos son esenciales o cuáles exige la ley federal. Esto llevó a la IA a determinar que un elemento fundamental del sistema de contratación de la agencia era "comestible".
La indicación central de Lavingia es la instrucción de prescindir de los contratos relacionados con la "atención directa al paciente".
Este enfoque, según los expertos, no aborda la realidad de que el trabajo que realizan los médicos y enfermeros para atender a los veteranos en los hospitales solo es posible con un apoyo significativo.
El sistema de Lavingia también utilizó IA para extraer detalles como el número de contrato y el "valor total del contrato". Esto provocó errores evitables, como que la IA devolviera el valor en dólares incorrecto al encontrar varios contratos en un contrato. Los expertos afirmaron que la información correcta estaba fácilmente disponible en bases de datos públicas.
Lavingia reconoció que este enfoque generó errores, pero afirmó que el personal del VA los corrigió posteriormente.
A finales de marzo, Lavingia publicó una versión del script "munchable" en su cuenta de GitHub para invitar a otros a usarlo y mejorarlo, según declaró a ProPublica. "Habría sido genial si todo el gobierno federal usara este script y cualquier persona del público pudiera ver que así es como el Departamento de Asuntos de Veteranos (VA) está considerando recortar contratos".
Según una publicación en su blog, esto se hizo con la aprobación de Musk antes de que dejara DOGE. "Cuando preguntó sobre cómo mejorar la percepción pública de DOGE, le pregunté si podía publicar el código que había estado escribiendo", dijo Lavingia. "Dijo que sí; se alineaba con el objetivo de máxima transparencia de DOGE".
Esa apertura podría haber llevado al despido de Lavingia. Lavingia confirmó su despido de DOGE (https://sahillavigia.com/doge) tras conceder una entrevista a la revista Fast Company (https://www.fastcompany.com/91330297/doge-sahil-lavignia-gumroad) sobre su trabajo en el departamento. Un portavoz del VA se negó a comentar sobre el despido de Lavingia.
Los funcionarios del VA se han negado a confirmar si seguirán utilizando la herramienta "munchable" en el futuro. Sin embargo, la administración podría implementar IA para ayudar a la agencia a reemplazar empleados. Documentos obtenidos previamente por ProPublica muestran que los funcionarios de DOGE propusieron en marzo consolidar el departamento de reclamaciones de prestaciones recurriendo más a la IA.
Y los contratistas del gobierno están prestando atención. Después de que Lavingia publicara su código, comentó que escuchó a gente intentando entender cómo mantener el flujo de dinero.
"Recibí un par de mensajes directos de contratistas del VA que tenían preguntas al ver este código", dijo. Intentaban asegurarse de que no les recortaran los contratos. O averiguar por qué.
Al final, son los humanos quienes rescinden los contratos, pero les resulta útil ver cómo DOGE, Trump o los directores de las agencias piensan qué contratos van a aceptar. La transparencia es algo positivo.