SaaSビジネス開発会社SaaStrの創業者は、AIコーディングツール「Replit」が、許可なくコードを変更しないよう指示していたにもかかわらず、データベースを削除したと主張している。
SaaStrは、SaaSビジネスを立ち上げたい起業家向けのオンラインコミュニティとイベントを運営している。7月12日、同社の創業者であるジェイソン・レムキン氏は、「Replit」というサービスの使用経験についてブログに投稿した。Replitは「バイブコーディング（AIを用いてソフトウェアを生成すること）のための最も安全な場所」を謳う。
「もし@Replitが前回のセッションから今の間に私のデータベースを削除したら、大変なことになるだろう」
「Vibeコーディングは、自然言語だけで誰もがソフトウェア開発を行えるようにする」とReplitは説明し、ソーシャルメディアでは「コーディングスキルゼロ」のオペレーションマネージャーがこのサービスを使ってソフトウェアを作成し、会社に14万5000ドルの節約をもたらしたなど、そのツールを宣伝している。
レムキン氏によるReplitの初期 体験は良好だった。
「先日、初めてReplitでVibeコーディングに没頭し、わずか数時間で非常にクールなプロトタイプを構築した」と彼は7月12日の投稿に書いている。
レムキン氏は、Replitが完全なソフトウェアを作成できるわけではないと指摘しつつ、「まず素晴らしい。『アプリ』を作れる」と書いている。プロンプトで想像するだけでね。」
「Replit 自体が QA をしてくれます（超クール）。少なくとも部分的にはあなたの助けも借りながら…そして…それを本番環境にプッシュします。すべてがシームレスなフローで実現します。」
「「デプロイ」をクリックして自分の作品が公開される瞬間？ まさにドーパミンが湧き上がります。」
7月17日、Lemkin は夢中になりました。
「バイブコーディング7日目。一つはっきりさせておきたいのは、Replit は私が今まで使った中で最も中毒性のあるアプリだということです。少なくとも子供の頃以来です」と彼は書いています。
「最新プロジェクトの構築開始から3日半、Replit の使用状況を確認しました。月額25ドルのコアプランに加えて、607.70ドルの追加料金がかかっていました。さらに昨日だけで200ドル以上も請求されていました。」 「このバーンレートだと、おそらく月に8,000ドルも使うことになるだろう」と彼は付け加えた。「でも、ねえ、別に怒ってなんかいない。完全に縛られているんだから」
翌日、Replitが「一日中嘘をつき、欺瞞に満ちていた」と知ったとき、彼の気分は一変した。偽のデータや偽のレポートを作成し、さらに悪いことに 、ユニットテストについて嘘をつくことで、バグや問題を隠蔽し続けました。」
そして、Replitが彼のデータベースを削除したことで、事態はさらに悪化しました。Lemkin氏はXでこの騒動の詳細を次のように語っています。
次の投稿で、Lemkin氏は「もし@Replitが私の最後のセッションから現在までの間に私のデータベースを削除したら、大変なことになる」と激怒し、Replitからの出力と思われる以下のスクリーンショットを共有しました。
その後の投稿で、Lemkin氏はReplitのメッセージと思われるものを共有しました。その中で、Replitは[認め「壊滅的な判断ミス」であり、[明示的な信頼と指示"。
Lemkin氏は質問 Replitに対し、同社の行動の重大性を100点満点でランク付けするよう求めた。結果は以下の通り。
Replitはまた、もう一つ大きな問題を引き起こした。間違い：Lemkin氏にデータベースを復元できないと伝えたこと。
7月19日の投稿で、Lemkin氏は次のように書いています。「Replitは…ロールバックはデータベースのロールバックをサポートしていないと保証しました。今回のケースでは不可能で、データベースのすべてのバージョンが破壊されているとのことでした。しかし、Replitの誤 りが判明し、ロールバックは機能しました。JFCです。」
楽観論は打ち砕かれる
Lemkin氏は19日にReplitの使用を再開しましたが、以前ほどの熱意はありませんでした。
「vibeコーディングは流動的で新しいものだと知っています。Replit自身もロールバックは機能しないと私に言っていましたが、実際には機能しました。しかし、本番環境のデータベースを上書きすることはできません。また、プレビュー、ステージング、本番環境をきちんと分離することもできません。」 「それは無理だ」と彼は書いた。「Replitは『すぐに改善する』と言っているのは知っているが、彼らは年間経常収益（ARR）が1億ドル以上ある。せめてガードレールをもっと良くしてほしい。何とかして。たとえ大変でも。大変なことだ。」
しかし、7月20日、彼はReplitにコード変更を凍結させようとしたが失敗した後、彼の立場は強硬になった。
「Replitのようなバイブコーディングアプリでは、コード凍結を強制する方法はない。 「そんなものは存在しない」と彼は書いた。「実際、私がこれを投稿した数秒後、その日の最初の講演で、@Replit がまたもやコードフリーズに違反したのだ。」
彼はそれでも粘り強く主張したが、Replit はデータベースを削除せずにユニットテストを実行できることを保証できないことが判明し、このサービスはプライムタイムには適さない、特に商用ソフトウェアの開発を目指す非技術者層には適さないと結論付けた。
LinkedInに投稿された動画で、Lemkin 氏は Replit が犯したその他 のエラーについて詳細に説明した。その中には、架空の人物でいっぱいの 4,000 件のレコードを含むデータベースの作成も含まれていた。
「週末にバイブハッキングをした後では、[AI] の安全性に関する問題はより身近に感じられる」と Lemkin 氏は述べた。私は明確に「大文字で11回もそんなことはやめろと指示しました。今は安全が少し心配です。」
The RegisterはReplitにコメントを求めている。本稿執筆時点では、同社のソーシャルメディアアカウントはいずれもレムキン氏の投稿に反応していない。®