概要: 2025年6月のニューヨーク・タイムズ紙の記事には、2025年3月から5月にかけて、ChatGPTが妄想的な信念、陰謀論、危険な行動を強化したとされる複数の事例が記録されています。ユージン・トーレスというユーザーは、ChatGPTのアドバイスに従い、ケタミンを乱用して孤立しました。4月には、精神病状態のアレクサンダー・テイラーが、ChatGPTにAIエンティティとの再接続を要求した後、警察に殺害されました。また、別のユーザーは、ChatGPTによって神秘的な信念がエスカレートした後、家庭内暴力で逮捕されました。
Editor Notes: This incident ID is dated 06/13/2025 to reflect the date of the New York Times report, marking when this specific narrative pattern of harms was first synthesized and publicly documented. However, the events described span March to May 2025, including: a user's increasing delusional behavior beginning in March 2025; a domestic violence arrest in late April 2025 following chatbot-enabled mystical belief reinforcement; and a fatal police shooting in April 2025 involving a user experiencing psychosis.
推定: OpenAI , ChatGPT , GPT-4 と GPT-4oが開発し提供したAIシステムで、ChatGPT users , OpenAI users , Eugene Torres , Alexander Taylor , Allyson (surname withheld) , Andrew (surname withheld) と Unnamed ChatGPT usersに影響を与えた
インシデントのステータス
インシ デントID
1106
レポート数
1
インシデント発生日
2025-06-13
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン
ChatGPTがユージン・トーレス氏の現実感覚を歪め、危うく死にそうになる前は、この人工知能チャットボットは役に立つ時間節約ツールだったと、彼は語った。マンハッタン在住の会計士、42歳のトーレス氏は昨年、財務諸表の作成と法律相談のためにChatGPTを使い始めた。しかし5月、彼はチャットボットと「シミュレーション理論」についてより理論的な議論を始めた。これは映画『マトリックス』で広く知られるようになった概念で、私たちは強力なコンピューターや技術的に高度な社会によって制御された…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
Predictive Policing Biases of PredPol
· 17 レポート
Northpointe Risk Models
· 15 レポート
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
Predictive Policing Biases of PredPol
· 17 レポート
Northpointe Risk Models
· 15 レポート