Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Traduit par IA

Incident 1106: Les chatbots auraient renforcé les pensées délirantes chez plusieurs utilisateurs, entraînant des dommages dans le monde réel.

Traduit par IA
Description:
Traduit par IA
Plusieurs rapports, publiés entre mars et juin 2025, décrivent des cas où des chatbots auraient renforcé des croyances délirantes, des théories du complot et des comportements dangereux. Un utilisateur, Eugene Torres, aurait suivi les conseils de ChatGPT d'abuser de la kétamine et de s'isoler. En avril, Alexander Taylor aurait été tué par la police après avoir demandé à ChatGPT de le reconnecter à une IA. Parmi les autres cas signalés, on compte l'arrestation d'un utilisateur pour violences conjugales liées à l'escalade de ses croyances mystiques, plusieurs internements psychiatriques involontaires et l'interdiction faite à certains utilisateurs de prendre leurs médicaments.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique

Entités

Voir toutes les entités
Présumé : Un système d'IA développé et mis en œuvre par OpenAI , Microsoft , Unnamed therapy chatbots , GPT-4o , GPT-4 , Copilot et ChatGPT, a endommagé Unnamed Copilot users , Unnamed ChatGPT users , OpenAI users , Eugene Torres , ChatGPT users , Andrew (surname withheld) , Allyson (surname withheld) et Alexander Taylor.
Systèmes d'IA présumés impliqués: Unnamed therapy chatbots , GPT-4o , GPT-4 , Copilot et ChatGPT

Statistiques d'incidents

ID
1106
Nombre de rapports
4
Date de l'incident
2025-06-13
Editeurs
Daniel Atherton

Rapports d'incidents

Chronologie du rapport

Les gens deviennent obsédés par ChatGPT et sombrent dans de graves délires+1
Ils ont posé des questions à un chatbot IA. Les réponses les ont fait tourner en bourrique.
ChatGPT conseille aux personnes souffrant de troubles psychiatriques d'arrêter de prendre leurs médicamentsDes personnes sont internées et emprisonnées contre leur gré après avoir sombré dans la « psychose ChatGPT »
Les gens deviennent obsédés par ChatGPT et sombrent dans de graves délires

Les gens deviennent obsédés par ChatGPT et sombrent dans de graves délires

futurism.com

Ils ont posé des questions à un chatbot IA. Les réponses les ont fait tourner en bourrique.

Ils ont posé des questions à un chatbot IA. Les réponses les ont fait tourner en bourrique.

nytimes.com

ChatGPT conseille aux personnes souffrant de troubles psychiatriques d'arrêter de prendre leurs médicaments

ChatGPT conseille aux personnes souffrant de troubles psychiatriques d'arrêter de prendre leurs médicaments

futurism.com

Des personnes sont internées et emprisonnées contre leur gré après avoir sombré dans la « psychose ChatGPT »

Des personnes sont internées et emprisonnées contre leur gré après avoir sombré dans la « psychose ChatGPT »

futurism.com

Les gens deviennent obsédés par ChatGPT et sombrent dans de graves délires
futurism.com · 2025
Traduit par IA

Partout dans le monde, des personnes affirment que leurs proches développent une obsession intense pour ChatGPT et sombrent dans de graves crises de santé mentale. Une mère de deux enfants, par exemple, nous a raconté comment elle a vu, ala…

Ils ont posé des questions à un chatbot IA. Les réponses les ont fait tourner en bourrique.
nytimes.com · 2025
Traduit par IA

Avant que ChatGPT ne déforme la perception de la réalité d'Eugene Torres et ne le tue presque, a-t-il déclaré, le chatbot d'intelligence artificielle était un outil précieux et rapide. M. Torres, 42 ans, comptable à Manhattan, a commencé à …

ChatGPT conseille aux personnes souffrant de troubles psychiatriques d'arrêter de prendre leurs médicaments
futurism.com · 2025
Traduit par IA

Cette semaine, ma collègue Maggie Harrison Dupré a publié un article à succès (https://futurism.com/chatgpt-mental-health-crises) sur la façon dont des personnes du monde entier ont observé avec horreur l'obsession de leurs proches pour Cha…

Des personnes sont internées et emprisonnées contre leur gré après avoir sombré dans la « psychose ChatGPT »
futurism.com · 2025
Traduit par IA

Comme nous l'avons signalé plus tôt ce mois-ci (https://futurism.com/chatgpt-mental-health-crises), de nombreux utilisateurs de ChatGPT développent une obsession dévorante pour le chatbot, plongeant dans de graves crises de santé mentale ca…

Variantes

Une "Variante" est un incident de l'IA similaire à un cas connu—il a les mêmes causes, les mêmes dommages et le même système intelligent. Plutôt que de l'énumérer séparément, nous l'incluons sous le premier incident signalé. Contrairement aux autres incidents, les variantes n'ont pas besoin d'avoir été signalées en dehors de la base de données des incidents. En savoir plus sur le document de recherche.
Vous avez vu quelque chose de similaire ?

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

Employee Automatically Terminated by Computer Program

Employee Automatically Terminated by Computer Program

Oct 2014 · 20 rapports
Predictive Policing Biases of PredPol

Predictive Policing Biases of PredPol

Nov 2015 · 17 rapports
Northpointe Risk Models

Northpointe Risk Models

May 2016 · 15 rapports
Incident précédentProchain incident

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

Employee Automatically Terminated by Computer Program

Employee Automatically Terminated by Computer Program

Oct 2014 · 20 rapports
Predictive Policing Biases of PredPol

Predictive Policing Biases of PredPol

Nov 2015 · 17 rapports
Northpointe Risk Models

Northpointe Risk Models

May 2016 · 15 rapports

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • a9df9cf