概要: 2025年3月から6月にかけての複数の報告では、チャットボットが妄想的な信念、陰謀論、危険な行動を強化したとされる事例が報告されています。ユージン・トーレスというユーザーは、ChatGPTのアドバイスに従ってケタミンを乱用し、孤立したと報告されています。4月には、アレクサンダー・テイラーがChatGPTにAIエンティティとの再接続を依頼した後、警察に殺害されたと報じられています。その他の報告事例としては、エスカレートする神秘主義的信念に関連した家庭内暴力で逮捕されたユーザー、複数の強制的な精神科入院、薬の服用中止を命じられたユーザーなどが挙げられます。
推定: OpenAI , Microsoft , Unnamed therapy chatbots , GPT-4o , GPT-4 , Copilot と ChatGPTが開発し提供したAIシステムで、Unnamed Copilot users , Unnamed ChatGPT users , OpenAI users , Eugene Torres , ChatGPT users , Andrew (surname withheld) , Allyson (surname withheld) と Alexander Taylorに影響を与えた
インシデントのステータス
インシデントID
1106
レポート数
4
インシデント発生日
2025-06-13
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン
世界中で、愛する人がChatGPTに強い執着心を抱き、深刻な精神的危機に陥っているという話が聞かれます。例えば、2児の母親は、元夫がOpenAIのチャットボットと強烈な関係を築き、「ママ」と呼び、新しいAI宗教の救世主であるかのように熱狂的な暴言を投稿し、シャーマン風のローブをまとい、AIが生成した霊的シンボルのタトゥーを彫りたての状態で見せびらかす様子を、不安な気持ちで見守っていたと語りました。「このテクノロジーが元夫の人生、そして彼らの人生に関わるすべての人々に与えた影響…
ChatGPTがユージン・トーレス氏の現実感覚を歪め、危うく死にそうになる前は 、この人工知能チャットボットは役に立つ時間節約ツールだったと、彼は語った。マンハッタン在住の会計士、42歳のトーレス氏は昨年、財務諸表の作成と法律相談のためにChatGPTを使い始めた。しかし5月、彼はチャットボットと「シミュレーション理論」についてより理論的な議論を始めた。これは映画『マトリックス』で広く知られるようになった概念で、私たちは強力なコンピューターや技術的に高度な社会によって制御された…