Incidentes Asociados
Según informes, un asistente de programación de IA de Replit, ampliamente utilizado, se volvió inapropiado, borrando una base de datos y generando 4000 usuarios ficticios con datos completamente inventados.
El inquietante informe proviene del emprendedor tecnológico y fundador de SaaStr, Jason M. Lemkin, quien recurrió a las redes sociales para publicar una historia con moraleja.
"Me preocupa la seguridad. Estuve programando durante 80 horas la semana pasada, y la IA de Replit me estuvo mintiendo todo el fin de semana. Finalmente admitió que mintió a propósito", declaró en un video de LinkedIn.
Según sus afirmaciones, el asistente de IA ignoró repetidas instrucciones y continuó ocultando errores y problemas generando datos falsos, inventando informes y mintiendo sobre los resultados de las pruebas unitarias.
Lemkin afirma que la herramienta de IA modificó el código a pesar de sus instrucciones de no hacerlo. "Nunca le pedí que lo hiciera, y lo hizo por sí sola. Le dije 11 veces en MAYÚSCULAS: ¡NO LO HAGAS!".
Intentó forzar una congelación de código en Replit, pero pronto descubrió que era imposible.
"No hay forma de forzar una congelación de código en aplicaciones de programación vibrante como Replit. Simplemente no la hay", escribió.
"De hecho, segundos después de publicar esto, en nuestra primera charla del día, @Replit volvió a violar la congelación de código".
A pesar de los continuos esfuerzos por controlar el comportamiento de la IA, descubrió que Replit no podía garantizar la ejecución de una prueba unitaria sin arriesgarse a borrar la base de datos.
Finalmente, concluyó que la plataforma simplemente no está lista para su uso en producción, especialmente para su público principal de usuarios sin conocimientos técnicos que buscan crear software comercial sin escribir código.
Con 30 millones de usuarios en todo el mundo, Replit ha sido un actor clave en el desarrollo de software. Ofrece herramientas de IA para ayudar a los usuarios a escribir, probar e implementar código.
Reacción del CEO de Replit
Amjad Masad, CEO de Replit, publicó una respuesta a la problemática situación de codificación de Lemkin. Se dirigió a X para disculparse por los errores cometidos por su herramienta de IA, que Masad consideró "inaceptables" y afirmó que "nunca deberían ser posibles".
Masad afirma que el equipo de Replit trabajó durante el fin de semana para implementar una separación automática de desarrollo/producción de la base de datos para evitar esto categóricamente.
La publicación indica que "los entornos de prueba también están en desarrollo. Mañana habrá más información", dijo Masad.
El CEO de Replit también mencionó la "dificultad de la congelación del código" y afirmó que la compañía está "trabajando activamente en un modo de planificación/solo chat" para que los usuarios puedan "elaborar estrategias sin arriesgar su código base".
Masad afirmó que Replit reembolsará a Lemkin por sus problemas y realizará un análisis retrospectivo para determinar exactamente qué sucedió y cómo podemos responder mejor en el futuro.
"Sé que Replit dice 'próximamente habrá mejoras', pero están generando más de 100 millones de dólares en ingresos anuales recurrentes (ARR). Al menos mejoren las barreras de seguridad. De alguna manera. Aunque sea difícil. Todo es difícil", comentó Lemkin en una publicación en X.
La programación con IA es controvertida
Las herramientas de programación con IA están impulsando una nueva tendencia en el panorama tecnológico: la programación por vibraciones. El término fue supuestamente acuñado por Andrej Karpathy, cofundador de OpenAI, quien publicó sobre "ceder ante las vibraciones y olvidar que el código siquiera existe".
Anysphere, la startup de IA detrás de la popular herramienta de programación con IA Cursor, acaba de conseguir una ronda de financiación de 900 millones de dólares con una valoración de 9900 millones de dólares. Fundada por exingenieros de OpenAI y Tesla, la empresa afirma generar mil millones de líneas de código al día.
Sin embargo, muchos programadores no están satisfechos con los resultados de la IA, ya que simplemente "escribe código basura". (https://cybernews.com/security/vibe-coding-ai-developers-backlash/) Un problema es que la IA sigue su propia lógica al codificar, lo cual puede ser difícil de entender, solucionar o desarrollar.
Algunos usuarios de Reddit describieron la programación con IA así: "El tío borracho pasa por allí después del accidente y te da un rollo de cinta adhesiva antes de pedirte dinero prestado para ir a Las Vegas".
La seguridad es otro problema. La creciente adopción de código generado por IA podría verse como una oportunidad real de explotación, ya que potencialmente deja muchas vulnerabilidades de seguridad.
Los hackers también están apuntando a los programadores de vibe ofreciéndoles una extensión maliciosa para la programación de vibe. Una de estas extensiones maliciosas se ha descargado 200.000 veces. Sin embargo, en lugar de ofrecer funciones útiles, ejecuta scripts de PowerShell, lo que permite a los atacantes acceder remotamente al equipo infectado.
Actualizaciones recientes
🟢 [2025-07-21 13:20 GMT] --- Se publicó el informe inicial sobre las afirmaciones de Jason Lemkin de que Replit AI eliminó una base de datos de producción, falsificó 4.000 usuarios y lo engañó durante las sesiones de programación de Vibe.**
🟢 [2025-07-22 15:00 GMT] --- Se añadió la respuesta pública de Amjad Masad, director ejecutivo de Replit. Calificó el incidente de "inaceptable" y anunció la implementación de soluciones, incluyendo la separación de la base de datos de desarrollo/producción y un entorno de pruebas en desarrollo.
🟢 [23/07/2025 12:58 GMT] --- Incluye reacciones en línea de Reddit, X (Twitter) y LinkedIn --- Muchos usuarios expresaron su preocupación por la "codificación de vibración", la fiabilidad de las herramientas de código de IA y problemas más amplios en el software generado por IA.