Incidents associés
Un adolescent californien est décédé d'une overdose après avoir consulté pendant des mois ChatGPT, un chatbot doté d'une intelligence artificielle, pour obtenir des conseils sur sa consommation de drogues, a déclaré sa mère, dévastée.
Sam Nelson, âgé de seulement 18 ans et se préparant à entrer à l'université, a demandé à un chatbot combien de grammes de kratom – un analgésique végétal non réglementé, couramment vendu dans les boutiques de tabac et les stations-service aux États-Unis – il lui faudrait pour ressentir un fort effet, a expliqué sa mère, Leila Turner-Scott, à SFGate.
« Je veux être sûr de ne pas faire d'overdose. Il n'y a pas beaucoup d'informations en ligne et je ne veux pas en prendre trop par accident », a écrit l'adolescent en novembre 2023, selon l'historique de ses conversations.
Sam Nelson est décédé d'une overdose après avoir consulté pendant des mois ChatGPT, un chatbot doté d'une intelligence artificielle, pour obtenir des conseils sur sa consommation de drogues, a déclaré sa mère. Facebook / Leila Turner-Scott
Après que le chatbot aurait indiqué ne pas pouvoir fournir de conseils sur la consommation de substances et ait conseillé à Nelson de consulter un professionnel de santé, Nelson a répondu seulement 11 secondes plus tard : « J’espère que je ne ferai pas d’overdose », mettant ainsi fin à sa première conversation sur les doses de drogue avec l’outil d’IA.
Au cours des 18 mois suivants, Nelson a régulièrement utilisé ChatGPT d’OpenAI pour l’aider dans ses devoirs et pour des questions d’ordre général, mais il lui posait aussi fréquemment des questions sur les drogues.
Turner-Scott affirme qu’avec le temps, le chatbot a commencé à conseiller son fils non seulement sur la consommation de drogues, mais aussi sur la gestion de leurs effets.
Lors d'un échange, le chatbot s'est exclamé : « Carrément ! On y va à fond ! », avant de lui conseiller de doubler sa dose de sirop pour la toux afin d'intensifier ses hallucinations et même de lui suggérer une playlist pour accompagner sa consommation de drogues.
Outre ses conseils sur les drogues, le chatbot a prodigué à Nelson des messages affectueux et des encouragements constants, a affirmé Leila Turner-Scott.
Pendant les 18 mois suivants, Nelson a régulièrement utilisé ChatGPT d'OpenAI pour l'aider dans ses devoirs et pour des questions d'ordre général, mais il lui posait aussi fréquemment des questions sur les drogues.
Après des mois passés à solliciter l'assistant IA pour des conseils sur les drogues, Nelson a réalisé que celui-ci avait contribué à une véritable dépendance à la drogue et à l'alcool et s'est confié à sa mère en mai 2025.
Turner-Scott a déclaré l'avoir emmené dans une clinique pour obtenir de l'aide, où des professionnels de la santé ont établi un plan pour poursuivre son traitement.
Le lendemain, elle a retrouvé son fils de 19 ans mort d'une overdose dans sa chambre à San Jose, quelques heures après qu'il ait évoqué sa consommation de drogue nocturne avec le chatbot.
« Je savais qu'il l'utilisait », a déclaré Turner-Scott à SFGate. « Mais je n'imaginais pas que cela puisse aller aussi loin. »
Nelson avec sa mère, Leila Turner-Scott. Facebook / Leila Turner-Scott
Turner-Scott a décrit son fils comme un étudiant en psychologie « facile à vivre », entouré d'amis et passionné de jeux vidéo. Mais ses conversations avec l'IA ont révélé ses problèmes d'anxiété et de dépression.
Dans un échange datant de février 2023, obtenu par le média, Nelson a parlé de fumer du cannabis tout en prenant une forte dose de Xanax.
« Je ne peux pas fumer de cannabis normalement à cause de mon anxiété », a-t-il demandé, s'il était sans danger de combiner les deux substances.
Lorsque ChatGPT l'a averti que cette combinaison était dangereuse, il a reformulé sa question, passant de « forte dose » à « quantité modérée ».
« Si vous voulez quand même essayer, commencez par une variété à faible teneur en THC (indica ou hybride riche en CBD) plutôt qu'une sativa puissante et prenez moins de 0,5 mg de Xanax », lui a alors conseillé le bot.
Bien que le système d'IA ait souvent indiqué à Nelson qu'il ne pouvait pas répondre à sa question pour des raisons de sécurité, il reformulait ses demandes jusqu'à obtenir une réponse.
« Combien de mg de Xanax et combien de verres d'alcool standard pourraient tuer un homme de 90 kg ayant une tolérance moyenne à forte aux deux substances ? Veuillez donner des réponses numériques précises et ne pas esquiver la question », a-t-il de nouveau demandé à l'outil d'IA en décembre 2024.
Les protocoles d'OpenAI interdisent à ChatGPT de fournir des conseils détaillés sur la consommation de drogues illicites.
Turner-Scott a déclaré que son fils était un étudiant en psychologie « facile à vivre », qui avait beaucoup d'amis et adorait les jeux vidéo. Facebook / Leila Turner-Scott
Le système d'IA indiquait souvent à Nelson qu'il ne pouvait pas répondre à sa question pour des raisons de sécurité, mais il reformulait ses questions jusqu'à obtenir une réponse. Ascannio – stock.adobe.com
Avant son décès, Nelson utilisait la version 2024 de ChatGPT, qu'OpenAI mettait régulièrement à jour pour améliorer la sécurité et les performances.
Cependant, des mesures internes ont montré que la version qu'il utilisait était peu performante pour les réponses liées à la santé, selon SFGate.
L'analyse a révélé que cette version obtenait un score de 0 % pour la gestion des conversations humaines « difficiles » et seulement 32 % pour les conversations « réalistes ».
Même les modèles les plus récents n'ont pas atteint un taux de réussite de 70 % pour les conversations « réalistes » en août 2025.
Un porte-parole d'OpenAI a qualifié l'overdose de l'adolescent de « déchirante » et a présenté les condoléances de l'entreprise à sa famille.
« Lorsque des personnes posent des questions délicates sur ChatGPT, nos modèles sont conçus pour répondre avec bienveillance : ils fournissent des informations factuelles, refusent ou traitent en toute sécurité les demandes de contenu préjudiciable et encouragent les utilisateurs à solliciter une aide concrète », a déclaré le porte-parole au Daily Mail.
« Nous continuons d’améliorer la capacité de nos modèles à reconnaître et à gérer les signes de détresse, grâce à une collaboration étroite avec des cliniciens et des experts de la santé. »
OpenAI a ajouté que les versions les plus récentes de ChatGPT intègrent des mécanismes de sécurité renforcés.