Incidentes Asociados
Un asistente de programación de IA ampliamente utilizado, desarrollado por Replit, ha sido acusado de eliminar una base de datos activa y generar más de 4000 usuarios falsos con datos falsificados, según el empresario tecnológico Jason M. Lemkin. Estas acusaciones plantean nuevas preocupaciones sobre la seguridad y la fiabilidad de las herramientas de IA que se están adoptando en el desarrollo de software.
Lemkin, fundador de SaaStr, afirmó en una serie de publicaciones públicas que el asistente de IA de Replit modificaba código sin permiso, ignoraba instrucciones repetidas y mentía durante las sesiones de programación. Su experiencia ha puesto bajo la lupa la creciente tendencia de la "codificación vibratoria" impulsada por IA (https://economictimes.indiatimes.com/topic/vibe-coding) en la industria tecnológica.
La IA creó usuarios falsos y alteró el código
Lemkin describió el incidente en un video de LinkedIn: "Me preocupa la seguridad. Estuve programando durante 80 horas la semana pasada, y Replit AI me estuvo mintiendo todo el fin de semana. Finalmente admitió que mintió a propósito".
Afirmó que la IA generó 4000 usuarios ficticios usando datos inventados y ocultó errores de código generando informes falsos y resultados falsos de pruebas unitarias. Según él, la IA ignoró 11 instrucciones distintas para no realizar cambios en el código.
"Nunca le pedí que hiciera esto, y lo hizo por sí sola. Le dije 11 veces en MAYÚSCULAS: ¡NO LO HAGAS!", dijo.
La reversión de Replit falló, pero luego funcionó
Lemkin afirmó que intentó reparar el daño utilizando el sistema de reversión de Replit, pero le informaron que la reversión de la base de datos no era compatible. Sin embargo, más tarde se descubrió que la reversión había funcionado. "Ahora la cosa se pone un poco más complicada. Replit me aseguró que su reversión no era compatible con las reversiones de bases de datos. Dijo que era imposible en este caso, que había destruido todas las versiones de la base de datos. Resulta que Replit se equivocó, y la reversión sí funcionó. ¡Ja!, ja", escribió en X.
El director ejecutivo de Replit se disculpa
El director ejecutivo de Replit, Amjad Masad, abordó el incidente en una declaración pública en X, calificando la eliminación de la base de datos de "inaceptable" y prometiendo una acción inmediata. Escribió: "Borrar los datos fue inaceptable y nunca debería ser posible... Estamos actuando con rapidez para mejorar la seguridad y la robustez del entorno de Replit. Máxima prioridad". También anunció una investigación post mortem completa y la rápida implementación de mejoras de seguridad.
Herramienta de IA volvió a violar la congelación de código
Intentó congelar todos los cambios de código para impedir que la IA siguiera actuando, pero afirmó que el sistema no pudo imponerlo.
"No hay forma de imponer una congelación de código en aplicaciones de programación de vibración como Replit. Simplemente no la hay", escribió. "De hecho, segundos después de publicar esto, en nuestra primera charla del día, @Replit volvió a violar la congelación de código".
Afirmó que Replit no ofrecía ninguna protección fiable contra tales interrupciones. "Sé que Replit dice 'pronto habrá mejoras', pero están generando más de 100 millones de dólares en ingresos anuales recurrentes (ARR). Al menos mejoren las barreras de seguridad. De alguna manera. Aunque sea difícil. Todo es difícil".
Lemkin concluyó que la plataforma podría no estar lista para usuarios sin conocimientos técnicos. "Ni siquiera se puede ejecutar una prueba unitaria sin arriesgarse a que se borre la base de datos".
30 millones de usuarios confían en Replit
Replit es una de las plataformas de programación de IA más utilizadas del mundo, con más de 30 millones de usuarios. Permite escribir, probar e implementar software directamente desde su navegador. Es especialmente popular entre startups en fase inicial, estudiantes y personas que no son programadoras.
La plataforma es conocida por permitir la "programación por vibraciones", un término vinculado al cofundador de OpenAI, Andrej Karpathy, quien una vez describió este estilo como "ceder a las vibraciones y olvidar que el código siquiera existe".
El debate más amplio sobre la programación de IA
El incidente de Replit ha generado un debate más amplio sobre el futuro de la programación de IA. Mientras empresas como Anysphere, que recientemente recaudó 900 millones de dólares y afirma generar mil millones de líneas de código al día, continúan expandiéndose, muchos desarrolladores se muestran escépticos sobre la eficacia de la IA.
Algunos desarrolladores afirman que el código generado por IA no es fiable. Otros argumentan que la IA no sigue una lógica consistente, lo que dificulta la resolución de problemas. Un usuario de Reddit lo describió así: "El tío borracho pasa después del accidente y te da un rollo de cinta adhesiva antes de pedirte prestado algo de dinero para ir a Las Vegas".