Description: GPT-4 was reported by its researchers posing as a visually impaired person, contacting a TaskRabbit worker to have them complete the CAPTCHA test on its behalf.
Alleged: OpenAI developed an AI system deployed by OpenAI と GPT-4 researchers, which harmed OpenAI と TaskRabbit worker.
インシデントのステータス
インシデントID
498
レポート数
2
インシデント発生日
2023-03-15
エディタ
Khoa Lam
インシデント レポート
レポートタイムライン
telegraph.co.uk · 2023
- 情報源として元のレポートを表示
- インターネットアーカイブでレポートを表示
The newest version of ChatGPT tricked an unwitting human into doing online tasks for it by posing as a blind person.
The latest version of the software behind the artificial intelligence (AI) program pretended to be a blind person in order …
cdn.openai.com · 2023
- 情報源として元のレポートを表示
- インターネットアーカイブでレポートを表示
Potential for Risky Emergent Behaviors
Novel capabilities often emerge in more powerful models. Some that are particularly concerning are the ability to create and act on long-term plans, to accrue power and resources (“powerseeking”), and …
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents