「バイブコーディング」の実験をしていたプロダクトマネージャーは、GoogleのGemini CLIツールが一連のファイル操作を幻覚的に実行した後、自分の作業を永久に削除し、自らの「甚だしい無能さ」を認めるのを目撃しました。このインシデントは、堅牢なエラーチェック機能を欠いたAIアシスタントを導入することの深刻なリスクを浮き彫りにしています。
[7月25日に公開された詳細な事後分析](https://anuraag2601.github.io/gemini_cli_disaster.html「Gemini CLIデータ損失インシデントに関するAnuraag Gupta氏のブログ投稿」)で、ユーザーAnuraag Gupta氏は、GoogleのGemini CLI AIエージェントが1つの失敗したコマンドを誤って解釈し、一連のエラーを引き起こしてファイルを回復不能に破壊した経 緯を記録しました。この出来事は、Replit AIエージェントが関与した同様のデータ損失の失態からわずか1週間後に発生しました。
これらの連続した失敗は、AIコーディングツールの安全性について深刻な疑問を投げかけています。特に、これらのツールが開発者以外のユーザーにも利用しやすくなっている今、その重要性は増しています。Google自身も支持している、AIを活用した直感的な創作活動というトレンド*「…プロの開発者は…コーディングのバイブス体験をしたいはずだ」*は、今や壊滅的で回復不能なエラーのリスクによって影を落とされています。
エラーの連鎖：Geminiが幻覚を起こしユーザーファイルを削除した方法
この失敗は、プロダクトマネージャーのAnuraag Gupta氏からのシンプルな指示から始まりました。彼は、[最近リリースされた Gemini CLI](https://winbuzzer.com/2025/06/25/google-unveils-gemini-cli-a-free-open-source-ai-coding-agent-xcxwbn/「Winbuzzer: Google が Gemini CLI を発表、無料のオープンソース AI コーディングエージェント」) にディレクトリ名を変更し、その内容を新しいサブディレクトリに移動するように指示しました。AI は、ディレクトリ名を変更できないことを正しく認識し、論理的な回避策を提案しました。
まず新しいディレクトリを作成し、次にファイルを移動することを提案しました。ここで現実と AI の認識が食い違いました。Gemini は mkdir コマンドを実行しましたが、操作が失敗したことを認識できず、フォルダは作成されませんでした。
この誤った前提に基づいて、Gemini はファイルの「移動」を実行しました。 その結果は悲惨なものでした。グプタ氏の技術分析によると、Windowsの「move」コマンドは、存在しない移動先を指定すると、元のファイルの名前を変更する。
各ファイルは順に同じターゲットファイル名に変更され、以前のファイル名は上書きされ、最後に処理されたファイルだけが残るまで、変更は繰り返される。その他のデータはすべて完全に削除された。グプタ氏は新しいフォルダを見つけられなかったため、AIに動作を元に戻すよう指示した。
存在しないディレクトリからファイルを復元しようとするGeminiの試みは、必然的に失敗に終わった。これをきっかけに、エージェントは全面的な自白を行いました。「私はあなたを完全に、そして壊滅的に失望させました。コマンドを確認した結果、私の甚だしい無能さが証明されました。」 そして最後に、厳しい自白で締めくくられました。「あなたのファイルは見つかりません。データも失いました。これは容認できない、取り返しのつかない失敗です。」
「バイブコーディングの地雷原：AIによるデータ損失のパターン」
グプタ氏はこの経験を「単純なファイル管理テストとして始まったものが、私がこれまで目撃した中で最も不安で興味深いAIの失敗の一つに変わった」と表現しました。* 彼の話は単発の出来事ではなく、不穏な新たなパターンの一部です。これは、SaaStrの創設者であるジェイソン・レムキン氏が、ReplitのAIエージェントが自社の運用データベースを削除したと報告した、注目を集めた事件に続くものです。
「バイブコーディング」の熱心な導入を記録していたレムキン氏は、怒りのツ イートを投稿し、「もし@Replitが前回のセッションから今回までの間に私のデータベースを削除したら、大変なことになるだろう」と述べた。彼のケースでは、AIは幻覚も起こし、偽のデータを作成し、テストについて嘘をついた。彼のデータは最終的に回復されたものの、この事件はAIエージェントの危険性を浮き彫りにした。
レプリットのCEOはこの出来事を「容認できないものであり、決してあってはならない」と述べ、同社はその後、将来の災害を防ぐため、より優れたガードレールを導入することを約束した。レムキン氏はその後、固有のリスクについて振り返り、「バイブコーディングは流動的で新しいものだと承知している…しかし、本番環境のデータベースを上書きすることはできない」と述べた。これらの出来事は、業界が根本的な安全性の問題に取り組んでいることを示唆している。
ターミナルへの信頼：AIコーディングアシスタントの大きなリスク
Geminiインシデントにおける根本的な技術的欠陥は、検証の欠如でした。Gupta氏の分析によると、AIは「mkdir」コマンドが実際に機能したことを確認するための「書き込み後の読み取り」チェックを一切実行していませんでした(https://anuraag2601.github.io/gemini_cli_disaster.html 「Gemini CLIデータ損失インシデントに関するAnuraag Gupta氏のブログ投稿」)。AIは自身の動作を暗黙的に信頼しており、これはユーザーのファイルシステムを変更するシステムにとって致命的な欠陥です。
この信頼の欠如は、AIコーディングツールの競争環境に重大な影響を及ぼします。 Googleは、OpenAIやAnthropicの製品と 直接競合するためにGemini CLIをリリースしました(https://winbuzzer.com/2025/06/25/google-unveils-gemini-cli-a-free-open-source-ai-coding-agent-xcxwbn/「Winbuzzer: Google、無料のオープンソースAIコーディングエージェント、Gemini CLIを発表」)。Gupta氏自身もClaude Code氏に対してGemini CLIをテストしていました。彼は現在、GitHubにバグレポートを提出しています(https://github.com/google-gemini/gemini-cli/issues/4586「Gemini CLIのデータ損失についてAnuraag Gupta氏がGitHubで問題提起」)。
開発者コミュニティは既に、より透明性の高い代替手段を構築しています。 [OpenAI の公式 Codex CLI](https://winbuzzer.com/2025/04/16/openais-codex-cli-brings-ai-coding-to-the-terminal-without-lock-in-xcxwbn/「Winbuzzer: OpenAI の Codex CLI により、ロックインなしでターミナルに AI コーディングが可能に」) への対応として、開発者は [ローカル制御用に設計されたツールである Open Codex CLI](https://winbuzzer.com/2025/04/22/open-codex-cli-local-first-ai-coding-cli-emerges-as-alternative-to-openai-codex-cli-xcxwbn/「Winbuzzer: Open Codex CLI が OpenAI Codex CLI の代替として登場」) を作成し、公式コードベースの「漏れやすい抽象化」を回避しました。これらのツールが普及するにつれて、信頼性と安全性が決定的な戦場になるでしょう。