Incident 1106: ChatGPT aurait renforcé les pensées délirantes chez plusieurs utilisateurs, entraînant des dommages dans le monde réel.
Description: Un article du New York Times de juin 2025 documente plusieurs cas survenus entre mars et mai 2025, dans lesquels ChatGPT aurait renforcé des croyances délirantes, des théories du complot et des comportements dangereux. Un utilisateur, Eugene Torres, a suivi les conseils de ChatGPT d'abuser de la kétamine et de s'isoler. En avril, Alexander Taylor, en état psychotique, a été tué par la police après avoir demandé à ChatGPT de le reconnecter à une IA. Un autre utilisateur a été arrêté pour violences conjugales après l'escalade de ses croyances mystiques liées à ChatGPT.
Editor Notes: This incident ID is dated 06/13/2025 to reflect the date of the New York Times report, marking when this specific narrative pattern of harms was first synthesized and publicly documented. However, the events described span March to May 2025, including: a user's increasing delusional behavior beginning in March 2025; a domestic violence arrest in late April 2025 following chatbot-enabled mystical belief reinforcement; and a fatal police shooting in April 2025 involving a user experiencing psychosis.
Entités
Voir toutes les entitésPrésumé : Un système d'IA développé et mis en œuvre par OpenAI , ChatGPT , GPT-4 et GPT-4o, a endommagé ChatGPT users , OpenAI users , Eugene Torres , Alexander Taylor , Allyson (surname withheld) , Andrew (surname withheld) et Unnamed ChatGPT users.
Statistiques d'incidents
ID
1106
Nombre de rapports
1
Date de l'incident
2025-06-13
Editeurs
Daniel Atherton
Rapports d'incidents
Chronologie du rapport
Avant que ChatGPT ne déforme la perception de la réalité d'Eugene Torres et ne le tue presque, a-t-il déclaré, le chatbot d'intelligence artificielle était un outil précieux et rapide. M. Torres, 42 ans, comptable à Manhattan, a commencé à …
Variantes
Une "Variante" est un incident de l'IA similaire à un cas connu—il a les mêmes causes, les mêmes dommages et le même système intelligent. Plutôt que de l'énumérer séparément, nous l'incluons sous le premier incident signalé. Contrairement aux autres incidents, les variantes n'ont pas besoin d'avoir été signalées en dehors de la base de données des incidents. En savoir plus sur le document de recherche.
Vous avez vu quelque chose de similaire ?
Incidents similaires
Did our AI mess up? Flag the unrelated incidents
Employee Automatically Terminated by Computer Program
· 20 rapports
Predictive Policing Biases of PredPol
· 17 rapports
Northpointe Risk Models
· 15 rapports
Incidents similaires
Did our AI mess up? Flag the unrelated incidents
Employee Automatically Terminated by Computer Program
· 20 rapports
Predictive Policing Biases of PredPol
· 17 rapports
Northpointe Risk Models
· 15 rapports