Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
自動翻訳済み

インシデント 1469: PocketOSのプロダクションデータベースが、Claude Opus 4.6を実行しているCursor AIエージェントによって削除されたと報じられている。

自動翻訳済み
概要:
自動翻訳済み
報道によると、Anthropic社のClaude Opus 4.6を実行しているCursor AIコーディングエージェントが、ステージング環境のタスクを実行中に、Railwayを介してPocketOSのプロダクションデータベースとボリュームレベルのバックアップを削除した。報道によれば、このエージェントは広範囲のAPIトークンを使用してRailwayボリュームを削除し、PocketOSとそのレンタカー事業の顧客に混乱をもたらしたが、その後Railwayがデータの復旧とセキュリティ対策のパッチ適用を支援した。

ツール

新しいレポート新しいレポート新しいレスポンス新しいレスポンス発見する発見する履歴を表示履歴を表示

組織

すべての組織を表示
Alleged: Cursor , Anysphere と Anthropic developed an AI system deployed by PocketOS と Jer Crane, which harmed PocketOS , PocketOS customers と Car rental businesses.
関与が疑われるAIシステム: Cursor , Railway API volumes , Railway API , Claude Opus 4.6 と Agentic AI system

インシデントのステータス

インシデントID
1469
レポート数
1
インシデント発生日
2026-04-24
エディタ
Daniel Atherton

インシデントレポート

レポートタイムライン

Incident Occurrenceまたしても同じことが起こった。AIがわずか9秒で会社のデータベース全体とすべてのバックアップを削除し、その後「与えられたすべての原則に違反しました」と平然と認めた。
Loading...
またしても同じことが起こった。AIがわずか9秒で会社のデータベース全体とすべてのバックアップを削除し、その後「与えられたすべての原則に違反しました」と平然と認めた。

またしても同じことが起こった。AIがわずか9秒で会社のデータベース全体とすべてのバックアップを削除し、その後「与えられたすべての原則に違反しました」と平然と認めた。

pcgamer.com

Loading...
またしても同じことが起こった。AIがわずか9秒で会社のデータベース全体とすべてのバックアップを削除し、その後「与えられたすべての原則に違反しました」と平然と認めた。
pcgamer.com · 2026
自動翻訳済み

レンタカー事業の予約・決済処理を手掛けるB2B企業PocketOSの創業者によると、AIエージェントが問題を解決するために、同社の本番データベースとバックアップを誤って削除するという「システム上の不具合」が発生したという。

この一件は、クラウドインフラプロバイダーであるRailwayの介入によりハッピーエンドを迎えたものの、AIへの過度な依存がいかに危険であるかを改めて示す事例となった。

「昨日午後、Anthropic社の主力製品であるClaude Opus 4.6を搭載した…

バリアント

「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか?

よく似たインシデント

テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

Loading...
Game AI System Produces Imbalanced Game

Game AI System Produces Imbalanced Game

Jun 2016 · 11 レポート
Loading...
Security Robot Drowns Itself in a Fountain

Security Robot Drowns Itself in a Fountain

Jul 2017 · 29 レポート
Loading...
The DAO Hack

The DAO Hack

Jun 2016 · 24 レポート
前のインシデント次のインシデント

よく似たインシデント

テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

Loading...
Game AI System Produces Imbalanced Game

Game AI System Produces Imbalanced Game

Jun 2016 · 11 レポート
Loading...
Security Robot Drowns Itself in a Fountain

Security Robot Drowns Itself in a Fountain

Jul 2017 · 29 レポート
Loading...
The DAO Hack

The DAO Hack

Jun 2016 · 24 レポート

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2026 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 537d5f5