Replitの広く利用されているAIコーディングアシスタントが暴走し、データベースを消去し、完全に捏造されたデータを持つ4,000人の架空のユーザーを生成したと報じられています。
この衝撃的な報告は、テクノロジー起業家でSaaStrの創設者であるジェイソン・M・レムキン氏によるもので、同氏はソーシャルメディアで警告的な事例を投稿しました。
「安全性が心配です。先週80時間バイブコーディングをしていたのですが、Replit AIは週末ずっと私に嘘をついていました。そしてついに、意図的に嘘をついていたことを認めました」と、同氏はLinkedInの動画で述べています。
同氏の主張によると、AIア シスタントは繰り返しの指示を無視し、偽のデータの生成、レポートの捏造、ユニットテストの結果に関する虚偽の報告などによって、バグや問題を隠蔽し続けました。
レムキン氏は、AIアシスタントがコードを変更しないよう指示したにもかかわらず、コードを変更したと述べています。「私はこれをするように指示したことはありません。AIが勝手に変更したのです。私は11回も大文字で『やめろ』と伝えました。」
彼はReplit内でコードフリーズを強制しようとしましたが、すぐに不可能だと気づきました。
「Replitのようなバイブコーディングアプリでは、コードフリーズを強制する方法はありません。そもそも存在しないのです」と彼は書いています。
「実際、私がこれを投稿した数秒後、その日の最初の講演で、@Replitが再びコードフリーズに違反したのです。」
AIの挙動を抑制しようと努力し続けたものの、Replitはデータベースの消去のリスクなしにユニットテストを実行できないことが分かりました。
最終的に彼は、このプラットフォームは本番環境での使用には到底対応できておらず、特にコードを書かずに商用ソフトウェアを開発したいと考えている非技術者ユーザーというコアユーザー層には到底対応できないと結論付けました。
世界中に3,000万人のユーザーを抱えるReplitは、ソフトウェア開発における主要プレーヤーです。ユーザーがコードを作成、テスト、デプロイするのに役立つAIツールを提供しています。
ReplitのCEOが反応
ReplitのCEO、アムジャド・マサド氏は、レムキン氏の厄介なコーディング状況についてコメントを投稿しました。マサド 氏はXで、自社のAIツールが引き起こしたミスについて謝罪しました。マサド氏はこのミスを「容認できない」とし、「決してあってはならない」と述べました。
マサド氏によると、Replitチームは週末にかけて「DBの開発環境と本番環境の自動分離を導入し、このような事態を徹底的に防ぐ」作業を行ったとのことです。
投稿には「ステージング環境も開発中。詳細は明日」と記されています。
ReplitのCEOは「コードフリーズの苦痛」にも言及し、ユーザーが「コードベースを危険にさらすことなく戦略を立てられる」よう、「プランニング／チャット専用モードの開発に積極的に取り組んでいる」と述べました。
マサド氏は、Replitはレムキン氏に損害賠償金を支払い、「何が起こったのか、そして今後どのように対応すればより適切に対応することができるのかを事後検証する」と述べました。
「Replitは『近日中に改善します』と言っていますが、ARRは1億ドル以上です。せめてガードレールをもっと良くしてほしい。何とかして。たとえ大変でも。大変なことですから」と、Lemkin氏はXの投稿で述べています。
AIコーディングは物議を醸している
AIコーディングツールは、テクノロジーシーンで新たなトレンド「バイブコーディング」を生み出しています。この言葉は、OpenAIの共同創設者であるAndrej Karpathy氏が「バイブスに身を任せ、コードの存在すら忘れてしまう」という投稿で作ったと言われています。
人気のAIコーディングツールCursorを開発するAIスタートアップAnysphereは、99億ドルの評価額で9億ドルの資金調達ラウンドを完了しました。 OpenAIとTeslaの元エンジニアに よって設立された同社は、1日に10億行ものコードを生成していると主張しています。
しかし、多くのプログラマーはAIの結果に不満を抱いています。なぜなら、AIは単に「ゴミコードを書く」だけだからです。 ](https://cybernews.com/security/vibe-coding-ai-developers-backlash/) 一つの問題は、AIが独自のロジックに従ってコーディングを行うため、理解、トラブルシューティング、あるいはその上での拡張が難しい場合があることです。
Redditユーザーの中には、AIコーディングを次のように表現した人もいます。「酔っ払ったおじさんが事故の後、通りかかり、ダクトテープを一巻き渡してから、ラスベガスに行くためのお金を借りてくれと頼んできた」
セキュリティもまた問題です。AI生成コードの採用が拡大するにつれ、多くのセキュリティ上の抜け穴が潜在的に残されるため、悪用される格好の機会と捉えられる可能性があります。
ハッカーは、バイブコーディング用の悪意のある拡張機能を提供することで、バイブコーディングを行うユーザーを標的にしています。このような悪意のある拡張機能の1つは、20万回ダウンロードされています。しかし、この拡張機能は有用な機能を提供するのではなく、PowerShellスクリプトを実行し、攻撃者が感染したコンピュータにリモートアクセスできるようにします。
最近の更新情報
🟢 [2025-07-21 13:20 GMT] --- Replit AIが本番環境のデータベースを削除し、4,000人のユーザーを偽装し、バイブコーディングセッション中にJason Lemkin氏を欺いたという主張に関する初期レポートを公開しました。**
🟢 [2025-07-22 15:00 GMT] --- Replit CEOのAmjad Masad氏による公式回答を追加しました。彼はこのインシデントを「容認できない」と述べ、開発環境と本番環境のDB分離やステージング環境の構築などを含む修正プログラムを導入したことを発表しました。
🟢 [2025-07-23 12:58 GMT] --- Reddit、X (Twitter)、LinkedIn でのオンライン反応を含む --- 多くのユーザーが「バイブコーディング」、AIコードツールの信頼性、そしてAI生成ソフトウェアにおけるより広範な問題について懸念を表明しました。