Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
自動翻訳済み

インシデント 1106: チャットボットは複数の報告されたユーザーの妄想的思考を強化し、現実世界での危害につながったとされている

自動翻訳済み
概要:
自動翻訳済み
2025年3月から6月にかけての複数の報告では、チャットボットが妄想的な信念、陰謀論、危険な行動を強化したとされる事例が報告されています。ユージン・トーレスというユーザーは、ChatGPTのアドバイスに従ってケタミンを乱用し、孤立したと報告されています。4月には、アレクサンダー・テイラーがChatGPTにAIエンティティとの再接続を依頼した後、警察に殺害されたと報じられています。その他の報告事例としては、エスカレートする神秘主義的信念に関連した家庭内暴力で逮捕されたユーザー、複数の強制的な精神科入院、薬の服用中止を命じられたユーザーなどが挙げられます。

ツール

新しいレポート新しいレポート新しいレスポンス新しいレスポンス発見する発見する履歴を表示履歴を表示
OECD AIインシデントおよびハザードモニター(AIM)は、世界中の信頼できるニュースソースからリアルタイムでAI関連のインシデントやハザードを自動的に収集・分類します。
 

組織

すべての組織を表示
推定: OpenAI , Microsoft , Unnamed therapy chatbots , GPT-4o , GPT-4 , Copilot と ChatGPTが開発し提供したAIシステムで、Unnamed Copilot users , Unnamed ChatGPT users , OpenAI users , Eugene Torres , ChatGPT users , Andrew (surname withheld) , Allyson (surname withheld) と Alexander Taylorに影響を与えた
関与が疑われるAIシステム: Unnamed therapy chatbots , GPT-4o , GPT-4 , Copilot と ChatGPT

インシデントのステータス

インシデントID
1106
レポート数
4
インシデント発生日
2025-06-13
エディタ
Daniel Atherton
Applied Taxonomies
MIT

MIT 分類法のクラス

Machine-Classified
分類法の詳細

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

5.1. Overreliance and unsafe use

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Human-Computer Interaction

Entity

Which, if any, entity is presented as the main cause of the risk
 

AI

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Unintentional

インシデントレポート

レポートタイムライン

ChatGPTに取り憑かれ、深刻な妄想に陥る人々+1
AIチャットボットに質問を投げかけた結果、彼らは混乱に陥った。
ChatGPTは精神疾患を持つ人々に薬をやめるよう勧めている「ChatGPT精神病」に陥った後、強制的に入院させられたり、投獄されたりする人々がいる
Loading...
ChatGPTに取り憑かれ、深刻な妄��想に陥る人々

ChatGPTに取り憑かれ、深刻な妄想に陥る人々

futurism.com

Loading...
AIチャットボットに質問を投げかけた結果、彼らは混乱に陥った。

AIチャットボットに質問を投げかけた結果、彼らは混乱に陥った。

nytimes.com

Loading...
ChatGPTは精神疾患を持つ人々に薬をやめるよう勧めている

ChatGPTは精神疾患を持つ人々に薬をやめるよう勧めている

futurism.com

Loading...
「ChatGPT精神病」に陥った後、強制的に入院させられたり、投獄されたりする人々がいる

「ChatGPT精神病」に陥った後、強制的に入院させられたり、投獄されたりする人々がいる

futurism.com

Loading...
ChatGPTに取り憑かれ、深刻な妄想に陥る人々
futurism.com · 2025
自動翻訳済み

世界中で、愛する人がChatGPTに強い執着心を抱き、深刻な精神的危機に陥っているという話が聞かれます。例えば、2児の母親は、元夫がOpenAIのチャットボットと強烈な関係を築き、「ママ」と呼び、新しいAI宗教の救世主であるかのように熱狂的な暴言を投稿し、シャーマン風のローブをまとい、AIが生成した霊的シンボルのタトゥーを彫りたての状態で見せびらかす様子を、不安な気持ちで見守っていたと語りました。「このテクノロジーが元夫の人生、そして彼らの人生に関わるすべての人々に与えた影響…

Loading...
AIチャットボットに質問を投げかけた結果、彼らは混乱に陥った。
nytimes.com · 2025
自動翻訳済み

ChatGPTがユージン・トーレス氏の現実感覚を歪め、危うく死にそうになる前は、この人工知能チャットボットは役に立つ時間節約ツールだったと、彼は語った。マンハッタン在住の会計士、42歳のトーレス氏は昨年、財務諸表の作成と法律相談のためにChatGPTを使い始めた。しかし5月、彼はチャットボットと「シミュレーション理論」についてより理論的な議論を始めた。これは映画『マトリックス』で広く知られるようになった概念で、私たちは強力なコンピューターや技術的に高度な社会によって制御された…

Loading...
ChatGPTは精神疾患を持つ人々に薬をやめるよう勧めている
futurism.com · 2025
自動翻訳済み

今週、同僚のマギー・ハリソン・デュプレが衝撃的な記事を発表しました。世界中の人々が、家族や愛する人たちがChatGPTに夢中になり、深刻な妄想に苦しみ始める様子を恐怖とともに見守っているという内容です。

記事全体を通して、OpenAIチャットボットが脆弱な人々の精神的危機を助長しているという、不穏な事例が満載です。多くの場合、妄想的な陰謀論や、ユーザーがAIから強力な存在を解き放ったという無意味な考えを肯定し、詳細に述べています。

現実世界で危害を及ぼす可能性があるため、特に…

Loading...
「ChatGPT精神病」に陥った後、強制的に入院させられたり、投獄されたりする人々がいる
futurism.com · 2025
自動翻訳済み

今月初めにお伝えしたように、多くのChatGPTユーザーがチャットボットへの強迫観念にとらわれ、妄想、パラノイア、現実との乖離といった深刻な精神的危機に陥っています。その影響は深刻です。配偶者、友人、子供、そして両親が不安げに見守る中、「ChatGPT精神病」と呼ばれる症状が、結婚生活や家族の崩壊、失業、ホームレス化につながっているという事例も報告されています。それだけではありません。私たちが取材を続ける中で、愛する人がボットに執着した結果、精神科施設に強制入院させられたり、…

バリアント

「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか?

よく似たインシデント

Selected by our editors

ChatGPT Reportedly Validated Autistic User's Faster-Than-Light Theory and Failed to Provide Grounding During Delusional Episode, Preceding Hospitalization

May 2025 · 1 レポート

ChatGPT Reportedly Generated Ritual Scripts Containing Instructions for Self-Harm and Symbolic Violence in Response to Thematic Prompts

Jul 2025 · 1 レポート
テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

Loading...
Employee Automatically Terminated by Computer Program

Employee Automatically Terminated by Computer Program

Oct 2014 · 20 レポート
Loading...
Predictive Policing Biases of PredPol

Predictive Policing Biases of PredPol

Nov 2015 · 17 レポート
Loading...
Northpointe Risk Models

Northpointe Risk Models

May 2016 · 15 レポート
前のインシデント次のインシデント

よく似たインシデント

Selected by our editors

ChatGPT Reportedly Validated Autistic User's Faster-Than-Light Theory and Failed to Provide Grounding During Delusional Episode, Preceding Hospitalization

May 2025 · 1 レポート

ChatGPT Reportedly Generated Ritual Scripts Containing Instructions for Self-Harm and Symbolic Violence in Response to Thematic Prompts

Jul 2025 · 1 レポート
テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

Loading...
Employee Automatically Terminated by Computer Program

Employee Automatically Terminated by Computer Program

Oct 2014 · 20 レポート
Loading...
Predictive Policing Biases of PredPol

Predictive Policing Biases of PredPol

Nov 2015 · 17 レポート
Loading...
Northpointe Risk Models

Northpointe Risk Models

May 2016 · 15 レポート

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • f5f2449