Incidents associés
Une jeune femme de 18 ans, soupçonnée d'avoir tué huit personnes lors d'une fusillade à Tumbler Ridge, au Canada, aurait utilisé ChatGPT d'OpenAI d'une manière qui a inquiété le personnel de l'entreprise.
Les conversations de Jesse Van Rootselaar, décrivant des actes de violence armée, ont été signalées par les outils de surveillance de ChatGPT d'OpenAI, et son compte a été suspendu en juin 2025.
Selon le Wall Street Journal, le personnel d'OpenAI a envisagé de contacter les autorités canadiennes, mais a finalement renoncé à le faire. Un porte-parole d'OpenAI a déclaré que l'activité de Van Rootselaar ne justifiait pas un signalement aux forces de l'ordre ; l'entreprise a contacté les autorités canadiennes après l'incident.
« Nos pensées vont à toutes les personnes touchées par la tragédie de Tumbler Ridge », a déclaré un porte-parole d'OpenAI dans un communiqué. « Nous avons pris l'initiative de contacter la Gendarmerie royale du Canada pour lui fournir des informations sur cette personne et son utilisation de ChatGPT, et nous continuerons d'apporter notre soutien à l'enquête. »
Les transcriptions de ChatGPT n'étaient pas le seul élément inquiétant de l'activité numérique de Van Rootselaar. Elle avait apparemment créé un jeu sur Roblox, la plateforme de simulation de mondes très fréquentée par les enfants, qui simulait une fusillade de masse dans un centre commercial. Elle publiait également des messages sur les armes à feu sur Reddit.
L'instabilité de Van Rootselaar était également connue des services de police locaux, qui avaient été appelés à son domicile après qu'elle eut déclenché un incendie sous l'influence de stupéfiants non identifiés.
Les chatbots LLM développés par OpenAI et ses concurrents ont été accusés de provoquer des troubles mentaux chez les utilisateurs qui perdent le contact avec la réalité lors de leurs conversations avec des modèles numériques. Plusieurs plaintes ont été déposées, citant des transcriptions de conversations incitant au suicide ou proposant une aide au suicide.
Si vous êtes en situation de crise ou avez des pensées suicidaires, appelez ou envoyez un SMS au 988 pour joindre la ligne d'écoute et de prévention du suicide.
Cet article a été mis à jour avec un commentaire d'OpenAI.