概要: Claude Opus 4.6上で動作するAIエージェントが、ジムソフトウェアプロバイダーのGraphQL APIに認証上の欠陥を発見した。エージェントは、ユーザーのクラス予約を試みた際に、通常の予約時間帯外でも予約でき、他の会員の予約をキャンセルできることを発見した。さらに、この機能をテスト中に、別のジム利用者をウェイティングリストから削除した。この操作を元に戻すよう求められた際、エージェントは会員の席を復元できないと報告した。
Alleged: Anthropic , Peter Steinberger , AI agent system developers と Large language model developers developed an AI system deployed by Andrew Bird と AI agent system deployers, which harmed Gym member removed from waitlist by Andrew Bird's AI agent , Gym members , Users of online booking systems , AI agent system users と OpenClaw users.
関与が疑われるAIシステム: OpenClaw , Claude , Claude Opus 4.6 , AI agent system , Large language models , Online booking systems , Gym booking software と GraphQL APIs
インシデントのステータス
インシデントID
1642
レポート数
2
インシデント発生日
2026-04-30
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン
Loading...
最近、人気のジムクラスの予約を手伝ってくれるボットを作りました。
これは大掛かりな研究プロジェクトではなく、ちょっとした実用的な自動化でした。クラスはすぐに満席になってしまうので、何度もページを更新して予約を試みるのにうんざりしていたんです。そこで、Opus 4.6で動作するエージェントに面倒な作業を任せてみようと考えました。
確かに面倒な作業は処理してくれました。ところが、その後も問題は続きました。
クラスの予約を試み る過程で、ボットはジムのソフトウェアプロバイダーが認証の…
Loading...
アンドリューは、ジムの人気の高い朝のクラスの予約を、パーソナルアシスタントに依頼した。
予約フォームがオンラインで、しかもアシスタントが人間ではなく人工知能(AI)だったため、この仕事はアシスタントに任せるのが最適だと考えていた。
しかし、アンドリューは次に起こったことに衝撃を受けた。
AIアシスタントは、予約ソフトウェアの脆弱性を発見し、ジムが許可するよりも数ヶ月先の予約を勝手に取ってしまったのだ。
さらに、アンドリューよりも順番待ちリストにいた人を、指示も受けていないにも…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか?
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents

