概要: カリフォルニア州サンノゼで、19歳のサム・ネルソンさんが薬物の過剰摂取で死亡したと報じられました。彼の母親はSFGATEに対し、後にChatGPTのログを調べたところ、薬物使用と投与量の指導を求めるリクエストが約18ヶ月間にわたって繰り返し行われていたこと、そして法学修士課程(LLM)が当初は拒否されていたものの、その後、詳細な指示を出すことがあったと主張したと述べました。SFGATEは、毒物検査報告書でアルコール、ザナックス、クラトムの致死的な組み合わせが判明したと報じました。OpenAIは哀悼の意を表し、安全対策を強化していると述べました。
Editor Notes: The reported incident occurred on 05/31/2025, although interactions had purportedly been ongoing for approximately 18 months previously. SFGATE reported the incident on 01/05/2026 and the incident ID was created on 02/14/2026.
推定: OpenAI と ChatGPTが開発し提供したAIシステムで、Sam Nelson , Family of Sam Nelson , ChatGPT users と OpenAI usersに影響を与えた
関与が疑われるAIシステム: ChatGPT
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
1.2. Exposure to toxic content
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Discrimination and Toxicity
Entity
Which, if any, entity is presented as the main cause of the risk
AI
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Unintentional
インシデントレポート
レポートタイムライン
Loading...
Loading...

カリフォルニア州の10代の若者が、数ヶ月にわたりChatGPTに薬物使用に関する指導を求めていたものの、過剰摂取で死亡したと、悲嘆に暮れる母親が証言した。
サム・ネルソンさんは当時18歳で大学進学準備中だった。AIチャットボットに、強いハイを得るためにクラトムを何グラム必要か尋ねたと、母親のレイラ・ターナー=スコットさんはSFGateに語った。クラトムは、アメリカ中のタバコ店やガソリンスタンドで一般的に販売されている、規制されていない植物由来の鎮痛剤だ。
会話ログによると、2…
Loading...

カリフォルニア州の10代の少年が、ChatGPTで薬物使用に関するアドバイスを受けるため、数ヶ月にわたりチャットボットを利用していたと、彼の母親が語った。
18歳のサム・ネルソンさんは大学進学準備をしていた際、AIチャットボットに、強いハイを得るためには、全国のタバコ店やガソリンスタンドでよく売られている植物由来の鎮痛剤、クラトムを何グラム必要かと尋ねたと、彼の母親であるレイラ・ターナー=スコットさんがSFGateに語ったと、ニューヨーク・ポスト紙が報じた。
チャットボットは…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか?
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents


