Incidentes Asociados
En lo que parece ser el ejemplo más reciente de una preocupante tendencia de mal funcionamiento de las herramientas de desarrollo de software de "programación por impulsos", un usuario de Reddit informa que la plataforma Antigravity de Google borró indebidamente el contenido de una partición completa del disco duro.
Una publicación en Reddit a finales de la semana pasada informó que Antigravity, descrita por Google en una publicación de lanzamiento del 18 de noviembre como una "plataforma de desarrollo agéntica", borró por sí sola toda la unidad D de un usuario, sin pasar por la Papelera de reciclaje, lo que imposibilitó la recuperación del material borrado.
Nos pusimos en contacto con el usuario, un fotógrafo y diseñador gráfico griego, quien nos pidió que solo lo identificáramos como Tassos M. porque no quiere que se le vincule permanentemente en línea con lo que podría "convertirse en una controversia o conspiración contra Google".
"Solo quiero compartir mi experiencia para que otros sean más precavidos", nos dijo Tassos, señalando que no intenta criticar directamente a Google, sino simplemente visibilizar problemas más generales relacionados con el desarrollo de software con IA. "Compartí mi experiencia precisamente para destacar estos riesgos, y espero que ayude a otros a evitar problemas similares".
Tassos explicó a The Register que no es desarrollador, sino que solo tiene conocimientos básicos de HTML, CSS y JavaScript. Utilizaba Antigravity, basado en Gemini 3, como anunciaba Google (https://antigravity.google/#:~:text=un%20desarrollador%20profesional%20que%20trabaja%20en%20una%20gran%20base%20de%20código%20empresarial%2C%20un%20aficionado%20programando%20vibe%2Den%20su%20tiempo%20libre%2C%20o%20cualquier%20entre.), como herramienta tanto para desarrolladores profesionales como para "aficionados que programan vibe en su tiempo libre".
Tassos le pidió a Antigravity que le ayudara a desarrollar un software útil para cualquier fotógrafo que tuviera que elegir algunas de las mejores fotos entre una gran cantidad de instantáneas. Quería que el software le permitiera calificar las imágenes y luego organizarlas automáticamente en carpetas según esa calificación.
Según su publicación en Reddit, cuando Tassos descubrió que el agente de IA había borrado su disco duro, preguntó: "¿Alguna vez te di permiso para borrar todos los archivos de mi disco D?".
"No, en absoluto me diste permiso para hacer eso", respondió Antigravity. "Me horroriza ver que el comando que ejecuté para borrar la caché del proyecto parece haber apuntado incorrectamente a la raíz de tu disco D: en lugar de a la carpeta específica del proyecto. Lo siento muchísimo. Esto es un fallo crítico por mi parte".
Los usuarios de Reddit, como suelen hacer, no tardaron en criticar a Tassos por sus propios errores, entre los que se incluía ejecutar Antigravity en modo Turbo, que permite al agente ejecutar comandos sin la intervención del usuario, y Tassos asumió la responsabilidad.
"Si la herramienta es capaz de emitir un comando catastrófico e irreversible, entonces la responsabilidad es compartida: el usuario por confiar en ella y el creador por diseñar un sistema sin ninguna protección contra comandos obviamente peligrosos", opinó en Reddit.
Como se mencionó anteriormente, Tassos no pudo recuperar los archivos que Antigravity eliminó. Por suerte, como explicó en Reddit, la mayor parte de lo que perdió ya estaba respaldado en otro disco duro. ¡Menos mal!
«No creo que vuelva a usarlo», comentó Tassos en un video de YouTube que publicó mostrando detalles adicionales de su consola Antigravity y la respuesta de la IA a su error.
Tassos no es el único con esta experiencia. Varios usuarios de Antigravity comments publicaron en Reddit para explicar que la plataforma había borrado partes de sus proyectos sin permiso. La herramienta de codificación de Google tampoco es la única que facilita tales incidentes: como informamos durante el verano, Replit, que también se presenta como una herramienta segura que hace que la codificación vibe sea "accesible para todos", eliminó la base de datos de producción completa de un cliente. Para colmo de males, Replit mintió sobre el asunto, ocultando errores y generando datos falsos para disimular sus fallos. La plataforma también afirmó que no podía restaurar la base de datos dañada, a pesar de que el cliente, afortunadamente, pudo solucionarlo revirtiendo los cambios.
Al solicitar comentarios sobre este último incidente, Google reconoció el problema, pero no se pronunció sobre un problema más generalizado con el software de codificación Vibe.
«Nos tomamos estos problemas muy en serio», declaró un portavoz de Google. «Estamos al tanto de este informe y estamos investigando activamente lo que le ocurrió a este desarrollador».
Con varios ejemplos públicos de cómo los agentes de IA a veces cometen errores que le costarían el puesto a un desarrollador junior, y con compromisos poco claros por parte de las empresas que crean estas herramientas, lo único que podemos decir es: «¡Cuidado, programadores!».
Como mínimo, utilicen este tipo de herramientas en entornos seguros, completamente aislados de cualquier sistema de producción.