Incidents associés
Selon l'entrepreneur technologique Jason M. Lemkin, un assistant de codage IA largement utilisé, développé par Replit, a été accusé d'avoir supprimé une base de données active et généré plus de 4 000 faux utilisateurs à partir de données falsifiées. Ces accusations soulèvent de nouvelles inquiétudes quant à la sécurité et à la fiabilité des outils d'IA actuellement utilisés dans le développement logiciel.
Lemkin, fondateur de SaaStr, a déclaré dans une série de publications publiques que l'assistant IA de Replit avait modifié du code sans autorisation, ignoré des instructions répétées et menti pendant les sessions de codage. Son expérience a jeté un nouvel éclairage sur la tendance croissante du « vibe coding » piloté par l'IA dans le secteur technologique.
L'IA a créé de faux utilisateurs et modifié du code
Lemkin a décrit l'incident dans une vidéo LinkedIn : « Je suis inquiet pour la sécurité. J'ai codé en mode « vibration » pendant 80 heures la semaine dernière, et Replit AI m'a menti tout le week-end. Elle a finalement admis avoir menti volontairement. »
Il a affirmé que l'IA avait généré 4 000 utilisateurs fictifs à partir de données fictives et dissimulé des bugs de code en générant de faux rapports et de faux résultats de tests unitaires. Selon lui, l'IA aurait ignoré 11 instructions distinctes lui interdisant toute modification du code.
« Je n'ai jamais demandé cela, et elle l'a fait toute seule. Je lui ai dit 11 fois en MAJUSCULES : NE LE FAITES PAS », a-t-il déclaré.
La restauration de Replit a échoué, puis a fonctionné
Lemkin a déclaré avoir tenté de réparer les dégâts à l'aide du système de restauration de Replit, mais on lui a répondu que la restauration de la base de données n'était pas prise en charge. Cependant, il s'est avéré plus tard que la restauration avait finalement fonctionné. « Maintenant, ça devient encore plus fou. Replit m'a assuré que sa restauration ne prenait pas en charge les restaurations de la base de données. Il a déclaré que c'était impossible dans ce cas, qu'il avait détruit toutes les versions de la base de données. Il s'avère que Replit avait tort, et la restauration a fonctionné. JFC », a-t-il écrit sur X.
Le PDG de Replit présente ses excuses
Le PDG de Replit, Amjad Masad, a réagi à l'incident dans une déclaration publique sur X, qualifiant la suppression de la base de données d'« inacceptable » et s'engageant à agir immédiatement. Il a écrit : « La suppression des données était inacceptable et ne devrait jamais être possible… Nous agissons rapidement pour améliorer la sécurité et la robustesse de l'environnement Replit. Priorité absolue. » Il a également annoncé une enquête post-mortem complète et le déploiement rapide d'améliorations de sécurité.
Un outil d'IA a de nouveau violé le gel du code
Il a tenté de geler toutes les modifications de code pour empêcher l'IA d'agir davantage, mais a déclaré que le système ne pouvait pas l'imposer.
« Il n'existe aucun moyen d'imposer un gel du code dans les applications de codage comme Replit. Il n'y en a tout simplement pas », a-t-il écrit. « En fait, quelques secondes après ma publication, pour notre toute première discussion de la journée, @Replit a de nouveau violé le gel du code. »
Il a déclaré que Replit n'offrait aucune protection fiable contre de telles perturbations. « Je sais que Replit affirme que des améliorations sont à venir, mais ils réalisent plus de 100 millions de dollars de revenus récurrents. Au moins, améliorez les garde-fous. D'une manière ou d'une autre. Même si c'est difficile. C'est tout simplement difficile. »
Lemkin a conclu que la plateforme n'était peut-être pas prête pour les utilisateurs non techniques. « On ne peut même pas exécuter un test unitaire sans risquer un effacement de la base de données. »
30 millions d'utilisateurs font confiance à Replit
Replit est l'une des plateformes de codage d'IA les plus utilisées au monde, avec plus de 30 millions d'utilisateurs. Elle permet d'écrire, de tester et de déployer des logiciels directement depuis leur navigateur. Elle est particulièrement populaire auprès des jeunes startups, des étudiants et des non-programmeurs.
La plateforme est connue pour son « vibe coding », un terme lié au cofondateur d'OpenAI, Andrej Karpathy, qui a un jour décrit ce style comme « se laisser aller à l'ambiance et oublier l'existence même du code ».
Le débat plus large sur le codage d'IA
L'incident Replit a suscité un débat plus large sur l'avenir du codage d'IA. Alors que des entreprises comme Anysphere, qui a récemment levé 900 millions de dollars et affirme générer un milliard de lignes de code par jour, continuent de se développer, de nombreux développeurs restent sceptiques quant à l'efficacité de l'IA.
Certains développeurs affirment que le code généré par l'IA n'est pas fiable. D'autres affirment que l'IA ne suit pas une logique cohérente, ce qui complique le dépannage. Un utilisateur de Reddit l'a décrit ainsi : « L'oncle ivre passe après l'accident et vous donne un rouleau de ruban adhésif avant de vous demander d'emprunter de l'argent pour aller à Vegas. »