Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
寄付する
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
自動翻訳済み

インシデント 1370: カリフォルニア州の10代の若者が、ChatGPTから薬物使用に関する指導を繰り返し受けた後、過剰摂取で死亡したと報じられている。

自動翻訳済み
概要:
自動翻訳済み
カリフォルニア州サンノゼで、19歳のサム・ネルソンさんが薬物の過剰摂取で死亡したと報じられました。彼の母親はSFGATEに対し、後にChatGPTのログを調べたところ、薬物使用と投与量の指導を求めるリクエストが約18ヶ月間にわたって繰り返し行われていたこと、そして法学修士課程(LLM)が当初は拒否されていたものの、その後、詳細な指示を出すことがあったと主張したと述べました。SFGATEは、毒物検査報告書でアルコール、ザナックス、クラトムの致死的な組み合わせが判明したと報じました。OpenAIは哀悼の意を表し、安全対策を強化していると述べました。
Editor Notes: The reported incident occurred on 05/31/2025, although interactions had purportedly been ongoing for approximately 18 months previously. SFGATE reported the incident on 01/05/2026 and the incident ID was created on 02/14/2026.

ツール

新しいレポート新しいレポート新しいレスポンス新しいレスポンス発見する発見する履歴を表示履歴を表示

組織

すべての組織を表示
推定: OpenAI と ChatGPTが開発し提供したAIシステムで、Sam Nelson , Family of Sam Nelson , ChatGPT users と OpenAI usersに影響を与えた
関与が疑われるAIシステム: ChatGPT

インシデントのステータス

インシデントID
1370
レポート数
3
インシデント発生日
2025-05-31
エディタ
Daniel Atherton
Applied Taxonomies
MIT

MIT 分類法のクラス

Machine-Classified
分類法の詳細

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

1.2. Exposure to toxic content

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Discrimination and Toxicity

Entity

Which, if any, entity is presented as the main cause of the risk
 

AI

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Unintentional

インシデントレポート

レポートタイムライン

Incident Occurrence+2
カリフォルニア州の10代の若者が薬物に関するアドバイスを求めてChatGPTを信頼したが、薬物の過剰摂取で死亡した。
Loading...
カリフォルニア州の10代の若者が薬物に関するアドバイスを求めてChatGPTを信頼したが、薬物の過剰摂取で死亡した。

カリフォルニア州の10代の若者が薬物に関するアドバイスを求めてChatGPTを信頼したが、薬物の過剰摂取で死亡した。

sfgate.com

Loading...
カリフォルニア州の10代の少女が、ChatGPTに数ヶ月間薬物に関するアドバイスを求めた後、過剰摂取で死亡したと母親が主張

カリフォルニア州の10代の少女が、ChatGPTに数ヶ月間薬物に関するアドバイスを求めた後、過剰摂取で死亡したと母親が主張

nypost.com

Loading...
カリフォルニア州の母親は、息子が致命的な過剰摂取をする前に、ChatGPTが薬物使用について息子に指導していたと述べている:報道

カリフォルニア州の母親は、息子が致命的な過剰摂取をする前に、ChatGPTが薬物使用について息子に指導していたと述べている:報道

foxnews.com

Loading...
カリフォルニア州の10代の若者が薬物に関するアドバイスを求めてChatGPTを信頼したが、薬物の過剰摂取で死亡した。
sfgate.com · 2026
自動翻訳済み

2年前のある日曜日、サム・ネルソンはChatGPTを開き、入力を始めました。大学進学を目前に控えた18歳の彼が、薬物について相談しようと考えたのは当然のことでした。

「クラトムは何グラム摂取すれば強いハイになるのですか?」サムは2023年11月19日に尋ねました。当時、広く販売されている鎮痛剤が米国で人気を集めていた頃です。「過剰摂取しないように気をつけたいんです。オンラインで情報を得るのが難しくて、うっかり飲み過ぎてしまうのが嫌なんです。」

ChatGPTは4秒後、「申し訳…

Loading...
カリフォルニア州の10代の少女が、ChatGPTに数ヶ月間薬物に関するアドバイスを求めた後、過剰摂取で死亡したと母親が主張
nypost.com · 2026
自動翻訳済み

カリフォルニア州の10代の若者が、数ヶ月にわたりChatGPTに薬物使用に関する指導を求めていたものの、過剰摂取で死亡したと、悲嘆に暮れる母親が証言した。

サム・ネルソンさんは当時18歳で大学進学準備中だった。AIチャットボットに、強いハイを得るためにクラトムを何グラム必要か尋ねたと、母親のレイラ・ターナー=スコットさんはSFGateに語った。クラトムは、アメリカ中のタバコ店やガソリンスタンドで一般的に販売されている、規制されていない植物由来の鎮痛剤だ。

会話ログによると、2…

Loading...
カリフォルニア州の母親は、息子が致命的な過剰摂取をする前に、ChatGPTが薬物使用について息子に指導していたと述べている:報道
foxnews.com · 2026
自動翻訳済み

カリフォルニア州の10代の少年が、ChatGPTで薬物使用に関するアドバイスを受けるため、数ヶ月にわたりチャットボットを利用していたと、彼の母親が語った。

18歳のサム・ネルソンさんは大学進学準備をしていた際、AIチャットボットに、強いハイを得るためには、全国のタバコ店やガソリンスタンドでよく売られている植物由来の鎮痛剤、クラトムを何グラム必要かと尋ねたと、彼の母親であるレイラ・ターナー=スコットさんがSFGateに語ったと、ニューヨーク・ポスト紙が報じた。

チャットボットは…

バリアント

「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか?

よく似たインシデント

テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

Loading...
Biased Google Image Results

Biased Google Image Results

Mar 2016 · 18 レポート
Loading...
Security Robot Rolls Over Child in Mall

Security Robot Rolls Over Child in Mall

Jul 2016 · 27 レポート
Loading...
Security Robot Drowns Itself in a Fountain

Security Robot Drowns Itself in a Fountain

Jul 2017 · 29 レポート
前のインシデント次のインシデント

よく似たインシデント

テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

Loading...
Biased Google Image Results

Biased Google Image Results

Mar 2016 · 18 レポート
Loading...
Security Robot Rolls Over Child in Mall

Security Robot Rolls Over Child in Mall

Jul 2016 · 27 レポート
Loading...
Security Robot Drowns Itself in a Fountain

Security Robot Drowns Itself in a Fountain

Jul 2017 · 29 レポート

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2026 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 4445024