Incidents associés
Sept familles de victimes, blessées ou tuées lors de la fusillade de Tumbler Ridge au Canada, ont porté plainte contre OpenAI et son PDG, Sam Altman. Elles accusent l'entreprise et ses dirigeants de négligence pour avoir omis d'alerter la police concernant l'activité de Jesse Van Rootselaar, suspecté d'être l'auteur de la fusillade, sur ChatGPT. Les familles affirment qu'OpenAI est restée silencieuse après que ses systèmes ont signalé une activité suspecte, afin de préserver la réputation de l'entreprise et son introduction en bourse imminente.
Le Wall Street Journal rapporte qu'OpenAI a envisagé de signaler aux autorités les activités du jeune homme de 18 ans, qui auraient impliqué des conversations sur la violence armée, mais a finalement renoncé à le faire. Les plaintes accusent OpenAI d'avoir menti au sujet de sa décision de « bannir » Van Rootselaar, car l'entreprise aurait seulement désactivé son compte, lequel a ensuite créé un nouveau compte avec une autre adresse électronique.
Lorsqu'OpenAI a été contrainte de révéler que l'auteur de la fusillade avait créé un nouveau compte, elle a menti une seconde fois : elle a prétendu qu'il avait dû « contourner » ses mesures de sécurité. Or, il n'y avait aucune mesure de sécurité à contourner. L'auteur de la fusillade a simplement suivi les instructions d'OpenAI pour créer un nouveau compte après avoir été banni. Les « mesures de sécurité » invoquées par OpenAI après l'attaque n'ont pas failli. Ils n'existaient pas.
Les familles affirment également que la conception « défectueuse » de GPT-4o a contribué à la tuerie. L'année dernière, OpenAI a retiré sa mise à jour de GPT-4o après l'avoir jugée « excessivement flatteuse ou conciliante, souvent qualifiée de flagorneuse ». Elles poursuivent également OpenAI et Altman pour homicide involontaire, ainsi que pour complicité de tuerie.
La semaine dernière, Altman a présenté ses excuses à la communauté de Tumbler Ridge. « Je regrette profondément que nous n'ayons pas signalé aux forces de l'ordre le compte qui a été banni en juin », a-t-il déclaré. « À l’avenir, nous continuerons de privilégier la collaboration avec tous les paliers gouvernementaux afin de faire en sorte qu’une telle situation ne se reproduise plus jamais. »