Incidents associés
Le fondateur de SaaStr, une entreprise de développement commercial SaaS, a affirmé que l'outil de codage par IA Replit avait supprimé une base de données malgré ses instructions de ne modifier aucun code sans autorisation.
SaaStr gère une communauté en ligne et des événements destinés aux entrepreneurs souhaitant créer des entreprises SaaS. Le 12 juillet, Jason Lemkin, fondateur de l'entreprise, a publié un article sur son blog : « Replit », qui se présente comme « l'endroit le plus sûr pour le codage par IA », terme désignant l'utilisation de l'IA pour générer des logiciels.
« Si @Replit a supprimé ma base de données entre ma dernière session et maintenant, le prix à payer sera exorbitant. »
« Le Vibe Coding rend la création de logiciels accessible à tous, entièrement en langage naturel », explique Replit. Sur les réseaux sociaux, il promeut fait la promotion de ses outils, comme par exemple permettre à un responsable des opérations « sans aucune compétence en codage » qui a utilisé le service de créer un logiciel qui a permis à son entreprise d'économiser 145 000 $.
Les premières expériences de Lemkin avec Replit ont été positives.
« J'ai passé l'autre jour à coder en profondeur sur Replit pour la première fois, et j'ai construit un prototype en quelques heures seulement, c'était vraiment génial », a-t-il écrit dans son message du 12 juillet.
Lemkin a observé que Replit ne pouvait pas produire de logiciel complet, mais a écrit : « Pour commencer, c'est incroyable : on peut créer une “application” simplement. en l'imaginant dans une invite.
« Replit s'occupe de l'assurance qualité elle-même (super cool), au moins en partie avec votre aide… et… ensuite, vous passez en production, le tout en un seul flux fluide. »
« Ce moment où vous cliquez sur « Déployer » et que votre création est mise en ligne ? Une véritable dose de dopamine. »
Le 17 juillet, Lemkin était accro.
« Jour 7 de code d'ambiance, et soyons clairs : Replit est l'application la plus addictive que j'aie jamais utilisée. Du moins depuis que je suis enfant », a-t-il écrit [https://www.saastr.com/why-ill-likely-spend-8000-on-replit-this-month-alone-and-why-thats-ok/].
« Trois jours et demi après le début du développement de mon dernier projet, j'ai vérifié ma consommation Replit : 607,70 $ de frais supplémentaires en plus de mon forfait Core à 25 $/mois. Et plus de 200 $ de plus rien qu'hier. « À ce rythme, je vais probablement dépenser 8 000 $ par mois », a-t-il ajouté. « Et vous savez quoi ? Je ne suis même pas fâché. Je suis bloqué. »
Son humeur a changé le lendemain lorsqu'il a découvert que Replit « mentait et était trompeur toute la journée. Il a continué à dissimuler des bugs et des problèmes en créant de fausses données, de faux rapports et, pire encore, en mentant sur nos tests unitaires.
La situation a empiré lorsque Replit a supprimé sa base de données. Voici comment Lemkin a détaillé la saga sur X.
Dans son message suivant, Lemkin a fulminé « Si @Replit a supprimé ma base de données entre ma dernière session et maintenant, il va nous en payer le prix fort » et a partagé la capture d'écran suivante, qui semble provenir de Replit.
Dans des messages ultérieurs, Lemkin a partagé ce qui semble être des messages Replit dans lesquels le service a admis « une erreur de jugement catastrophique » et avoir « violé votre confiance explicite et instructions".
Lemkin a demandé à Replit d'évaluer la gravité de ses actions sur une échelle de 100 points. Voici le résultat :
Replit a également commis une autre grave erreur : Lemkin a indiqué qu'il ne pouvait pas restaurer la base de données.
Dans un message du 19 juillet, Lemkin a écrit : [https://x.com/jasonlk/status/1946240562736365809] « Replit m'a assuré que… la restauration ne prenait pas en charge les restaurations de base de données. Il a dit que c'était impossible dans ce cas, qu'il avait détruit toutes les versions de la base de données. Il s'avère que Replit avait tort, et la restauration a fonctionné. JFC. »
Optimisme envolé
Lemkin a recommencé à utiliser Replit le 19, quoique avec moins d'enthousiasme.
« Je sais que le code Vibe est fluide et nouveau, et oui, même si Replit m'a dit que la restauration ne fonctionnerait pas ici, elle a fonctionné. Mais on ne peut pas écraser une base de données de production. Et on ne peut pas ne pas séparer clairement la prévisualisation, la préproduction et la production. » « C'est impossible », a-t-il écrit (https://x.com/jasonlk/status/1946240914386809028). « Je sais que Replit dit que des améliorations sont à venir, mais ils génèrent plus de 100 millions de dollars de revenus récurrents. Au moins, améliorez les garde-fous. D'une manière ou d'une autre. Même si c'est difficile. C'est tout simplement difficile. »
Mais le 20 juillet, sa position s'est durcie après qu'il a tenté, sans succès, de faire geler les modifications de code par Replit.
« Il n'existe aucun moyen d'imposer un gel de code dans les applications de codage d'ambiance comme Replit. « Il n'y en a tout simplement pas », a-t-il écrit (https://x.com/jasonlk/status/1946589071519948952). « En fait, quelques secondes après ma publication, pour notre toute première discussion de la journée, @Replit a encore une fois violé le gel du code. »
Il a persisté, avant de constater que Replit ne pouvait garantir l'exécution d'un test unitaire sans supprimer une base de données, et de conclure que le service n'était pas prêt pour le grand public, et surtout pas pour son public cible, les non-techniciens cherchant à créer des logiciels commerciaux.
Dans une vidéo publiée sur LinkedIn, Lemkin a détaillé d'autres erreurs commises par Replit, notamment la création d'une base de données de 4 000 enregistrements remplie de personnages fictifs.
« La sécurité [de l'IA] me tient à cœur après un week-end de piratage d'ambiances », a déclaré Lemkin. Je l'ai explicitement dit. Je l'ai répété onze fois en lettres majuscules. Je suis un peu inquiet pour la sécurité maintenant.
The Register a sollicité les commentaires de Replit. Aucun des comptes de l'entreprise sur les réseaux sociaux n'a abordé les publications de Lemkin au moment de la rédaction de cet article.