Incidents associés
Des mois avant que Jesse Van Rootselaar ne soit soupçonnée d'être l'auteure de la tuerie qui a ravagé une petite ville rurale de Colombie-Britannique, au Canada, OpenAI avait envisagé d'alerter les forces de l'ordre concernant ses interactions avec son chatbot ChatGPT, a indiqué l'entreprise.
En juin dernier, alors qu'elle utilisait ChatGPT, Van Rootselaar a décrit des scénarios de violence armée pendant plusieurs jours, selon des sources proches du dossier.
Ses messages, repérés par un système de vérification automatisé, ont alarmé les employés d'OpenAI. En interne, une douzaine de personnes ont débattu de l'opportunité d'intervenir. Certains employés ont interprété les écrits de Van Rootselaar comme un signe avant-coureur de violences dans la vie réelle et ont exhorté la direction à alerter les forces de l'ordre canadiennes, ont précisé les mêmes sources.
Finalement, la direction d'OpenAI a décidé de ne pas contacter les autorités.
Une porte-parole d'OpenAI a déclaré que l'entreprise avait suspendu le compte de Van Rootselaar, mais avait estimé que son activité ne justifiait pas un signalement aux forces de l'ordre. En effet, un tel signalement aurait exigé qu'elle constitue un risque crédible et imminent de préjudice physique grave pour autrui.
Le 10 février, Van Rootselaar a été retrouvée morte, apparemment des suites d'une blessure auto-infligée, sur les lieux d'une fusillade survenue dans une école. Cette fusillade a fait huit morts et au moins 25 blessés. La Gendarmerie royale du Canada (GRC) a identifié Van Rootselaar, une femme transgenre de 18 ans, comme la suspecte.
L'entreprise a contacté la GRC après avoir appris la fusillade et collabore à l'enquête, a précisé la porte-parole.
« Nos pensées vont à toutes les personnes touchées par la tragédie de Tumbler Ridge », a déclaré l'entreprise dans un communiqué.
D'autres aspects de l'empreinte numérique de Van Rootselaar ont émergé dans les jours qui ont suivi l'attaque, notamment un jeu vidéo qu'elle avait créé sur la plateforme Roblox simulant une fusillade de masse. Sur les réseaux sociaux, la suspecte partageait ses préoccupations concernant sa transition et son intérêt pour les dessins animés et les drogues illicites.
Les plateformes en ligne débattent depuis longtemps de la manière de concilier le respect de la vie privée de leurs utilisateurs et la sécurité publique lorsqu'il s'agit de signaler certains utilisateurs aux forces de l'ordre. Ce débat concerne désormais les entreprises d'IA qui alimentent les chatbots auxquels les gens confient les détails les plus intimes de leur vie privée.
OpenAI affirme entraîner ses modèles à dissuader les utilisateurs de commettre des actes de violence et orienter les conversations où les utilisateurs expriment une intention de nuire vers des modérateurs humains. Ces derniers peuvent les signaler aux forces de l'ordre si un risque imminent de violence physique grave est identifié.
L'entreprise explique qu'elle met en balance le risque de violence et le respect de la vie privée, ainsi que la détresse potentielle causée aux individus et aux familles par une intervention policière inutile.
Van Rootselaar était déjà connue des services de police locaux avant la fusillade. Ces derniers se sont rendus à son domicile à plusieurs reprises pour prendre en charge des problèmes de santé mentale et ont temporairement retiré les armes de son domicile.
Une équipe d'enquêteurs spécialisés a également passé au crible son activité en ligne et ses traces numériques à la recherche d'indices concernant la tuerie, et a examiné ses interactions passées avec la police et les professionnels de la santé mentale, selon le commissaire de la GRC, Dwayne McDonald.
Des publications archivées sur les réseaux sociaux montrent que Van Rootselaar a publié des photos d'elle en train de tirer dans un stand de tir, a affirmé avoir fabriqué une cartouche à l'aide d'une imprimante 3D et a participé à des discussions en ligne au sujet de vidéos YouTube réalisées par des passionnés d'armes à feu.