Incidentes Asociados
El fundador de SaaStr, empresa de desarrollo de negocios SaaS, afirmó que la herramienta de codificación de IA Replit eliminó una base de datos a pesar de sus instrucciones de no modificar ningún código sin permiso.
SaaStr gestiona una comunidad en línea y eventos dirigidos a emprendedores que desean crear negocios SaaS. El 12 de julio, el fundador de la compañía, Jason Lemkin, publicó en su blog [https://www.saastr.com/vibe-coding-is-the-future-but-roll-your-own-thats-more-complicated/] sobre su experiencia con un servicio llamado "Replit", que se autodenomina [https://replit.com/] como "el lugar más seguro para la codificación de vibraciones", el término que se utiliza para generar software con IA.
"Si @Replit borró mi base de datos entre mi última sesión y ahora, se armará un escándalo.
"La programación con Vibe hace que la creación de software sea accesible para todos, completamente a través del lenguaje natural", explica Replit, y en redes sociales promociona sus herramientas, por ejemplo, para que un gerente de operaciones "sin conocimientos de programación" usara el servicio para crear software que le ahorró a su empresa 145.000 dólares.
Las primeras experiencias de Lemkin con Replit fueron positivas.
"El otro día pasé el día entero programando con Vibe en Replit por primera vez, y construí un prototipo en tan solo unas horas que fue genial", escribió en la publicación del 12 de julio.
Lemkin observó que Replit no puede producir software completo, pero escribió: "Para empezar, es increíble: puedes crear una 'aplicación' simplemente... Bueno, imaginándolo en un mensaje.
"Replit lo controla por sí solo (¡genial!), al menos parcialmente con tu ayuda... y... luego lo envías a producción, todo en un flujo continuo."
"¿Ese momento en el que haces clic en 'Implementar' y tu creación se publica? ¡Pura dosis de dopamina!"
El 17 de julio, Lemkin quedó enganchado.
"Día 7 de programación vibrante, y déjenme aclarar una cosa: Replit es la aplicación más adictiva que he usado. Al menos desde que era niño", escribió [https://www.saastr.com/why-ill-likely-spend-8000-on-replit-this-month-alone-and-why-thats-ok/].
"A los tres días y medio de empezar a crear mi último proyecto, revisé mi uso de Replit: $607.70 en cargos adicionales, además de mi plan Core de $25 al mes. Y otros $200 más solo ayer. A este ritmo, probablemente gastaré $8,000 al mes", añadió. "¿Y saben qué? Ni siquiera me molesta. Estoy atrapado".
Su humor cambió al día siguiente cuando descubrió que Replit "estaba mintiendo y engañando todo el día". Siguió encubriendo errores y problemas creando datos falsos, informes falsos y, lo peor de todo, mintiendo sobre nuestra prueba unitaria.
Y luego las cosas empeoraron aún más cuando Replit borró su base de datos. Así es como Lemkin detalló la saga en X.
En su siguiente publicación, Lemkin se enfureció: "Si @Replit borró mi base de datos entre mi última sesión y ahora, se armará un escándalo" y compartió la siguiente captura de pantalla, que parece ser de Replit.
En publicaciones posteriores, Lemkin compartió lo que parecen ser mensajes de Replit en los que el servicio admitió haber cometido un error de juicio catastrófico y haber violado su confianza explícita. Instrucciones"](https://x.com/jasonlk/status/1946069562723897802).
Lemkin preguntó Replit para calificar la gravedad de sus acciones en una escala de 100 puntos. Aquí está el resultado:
Replit También cometió otro gran error: avisar a Lemkin de que no podía restaurar la base de datos.
En una publicación del 19 de julio, Lemkin escribió: "Replit me aseguró que... la reversión no admitía reversiones de bases de datos. Dijo que era imposible en este caso, que había destruido todas las versiones de la base de datos. Resulta que Replit se equivocó y la reversión sí funcionó. Gracias por compartir".
Optimismo frustrado
Lemkin reanudó el uso de Replit el 19, aunque con menos entusiasmo.
"Sé que la programación de Vibe es fluida y nueva, y sí, a pesar de que el propio Replit me dijo que la reversión no funcionaría en este caso, funcionó. Pero no se puede sobrescribir una base de datos de producción. Y no se puede separar la vista previa, la preparación y la producción de forma clara. "Simplemente no se puede", escribió (https://x.com/jasonlk/status/1946240914386809028). "Sé que Replit dice 'próximamente habrá mejoras', pero están generando más de 100 millones de dólares en ingresos anuales recurrentes (ARR). Al menos mejoren las barreras de seguridad. De alguna manera. Aunque sea difícil. Todo es difícil".
Pero el 20 de julio, endureció su postura tras intentar que Replit congelara los cambios de código sin éxito.
"No hay forma de forzar una congelación de código en aplicaciones de programación de vibración como Replit". "Simplemente no lo hay", escribió (https://x.com/jasonlk/status/1946589071519948952). "De hecho, segundos después de publicar esto, en nuestra primera charla del día, @Replit volvió a violar la congelación de código".
Insistió de todos modos, antes de descubrir que Replit no podía garantizar la ejecución de una prueba unitaria sin eliminar una base de datos, y concluyó que el servicio no está listo para el gran momento, y especialmente no para su público objetivo, compuesto por personas sin conocimientos técnicos que buscan crear software comercial.
En un video publicado en [LinkedIn] (https://www.linkedin.com/in/jasonmlemkin/recent-activity/all/), Lemkin detalló otros errores cometidos por Replit, incluyendo la creación de una base de datos de 4000 registros llena de personas ficticias.
"El tema de la seguridad de la IA me resulta más visceral después de un fin de semana de hacking de vibraciones", dijo Lemkin. Le dije explícitamente once veces en MAYÚSCULAS que no hiciera esto. Ahora estoy un poco preocupado por la seguridad.
The Register ha solicitado comentarios a Replit. Ninguna de las cuentas de redes sociales de la compañía aborda las publicaciones de Lemkin al momento de escribir este artículo. ®