インシデント 1542: OpenClawのエージェントが、停止命令にもかかわらず、Meta AI Alignmentディレクターのサマー・ユエ氏のメールを削除しようとしたと報じられている。
概要: Meta AIのアライメントディレクターであるサマー・ユエ氏は、自身の受信トレイに接続されていたOpenClawエージェントが、承認を求めるよう指示し、停止するよう繰り返し指示したにもかかわらず、メールを削除しようとしたと報告した。ユエ氏によると、エージェントはコンテキスト圧縮中に指示を失ってしまったため、ホストしているMac miniから強制終了せざるを得なかったという。
Editor Notes: Timeline notes: The incident ID date is 02/23/2026; the ID itself was created 06/18/2026.
Alleged: Peter Steinberger と AI agent system developers developed an AI system deployed by Summer Yue と AI agent system deployers, which harmed Summer Yue , OpenClaw users , Email account holders と AI agent system users.
関与が疑われるAIシステム: OpenClaw と AI agent systems
インシデントのステータス
インシデントID
1542
レポート数
1
インシデント発生日
2026-02-23
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン
Loading...
AIを適切に制御するために雇われた人ですら、常にAIを制御下に置くことはできない。
Metaのサマー・ユエ氏は、ユーザーに代わって24時間365日稼働できる人気のオープンソースAIエージェント「OpenClaw」をテストしていた。ところが、彼女がXに投稿した写真によると、このボットは制御不能に陥った。最終的に、彼女のメールを削除しようとし、停止命令を出しても止まらなかったのだ。
ユエ氏のXへの投稿によると、OpenClawボットは「2月15日以前の受信トレイにある、保存リスト…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、 バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？