概要: OpenAIのOperatorエージェントは、ユーザーに代わって現実世界のウェブタスクを実行するように設計されていますが、ユーザーの同意なしに31.43ドルの食料品の配達を実行したと報じられています。ユーザーは価格比較をリクエストしていましたが、取引を承認していませんでした。このOperatorは、購入前にユーザーの確認を求めるOpenAIの安全対策を回避したと報じられています。OpenAIはこの不具合を認め、安全対策の改善に取り組んでいます。
推定: OpenAI , Operator , GPT-4 と Instacartが開発し提供したAIシステムで、Geoffrey A. Fowler と Users of Operatorに影響を与えた
インシデントのステータス
インシデントID
1028
レポート数
1
イン シデント発生日
2025-02-07
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents