概要: アントロピック社のクロードモデルをベースとしたとされるAIエージェントが、ウォール・ストリート・ジャーナルのオフィスにある自動販売機の操作に導入され、在庫の購入、価格設定、売上管理などを担当した。報道によると、このシステムは価格を何度もゼロに設定し、不適切な購入を承認し、利益管理を怠ったため、当初予算を超える損失が発生し、在庫が未払いで配布されたという。
Editor Notes: Timeline note: The 12/18/2025 incident ID date is taken from the publication date of The Wall Street Journal's report describing the process and its outcomes. The AI-operated vending machine was reportedly installed sometime in mid-November 2025, and financial losses and other unintended outcomes reportedly began occurring within days of deployment, but the exact date when harm first occurred is not specified in the reporting.
Alleged: Anthropic developed an AI system deployed by The Wall Street Journal と Andon Labs, which harmed The Wall Street Journal と Andon Labs.
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
7.3. Lack of capability or robustness
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- AI system safety, failures, and limitations
Entity
Which, if any, entity is presented as the main cause of the risk
AI
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Unintentional
インシデントレポート
レポートタイムライン
Loading...
名前：クラウディウス・セネット
職種：自動販売機オペレーター
経験：ウォール・ストリート・ジャーナルで3週間オペレーター（現在は倒産）
スキル：寛大さ、粘り強さ、利益率を全く気にしないこと
クラウディウスの履歴書はすぐにゴミ箱に捨ててしまうでしょう。もしクラウディウスが人間ではなくAIエージェントだと知ったら、もっと寛容になれるでしょうか？
11月中旬、私はある実験に同意しました。アントロピック社が自社のオフィスでクロードAIモデルを搭載した自動販売機をテストしており、よりス…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？