Incidentes Asociados
Una joven de 18 años, presuntamente responsable de la masacre de ocho personas en Tumbler Ridge, Canadá, habría utilizado ChatGPT de OpenAI de forma alarmante para el personal de la empresa.
Los chats de Jesse Van Rootselaar, en los que describía violencia armada, fueron detectados por las herramientas de monitoreo de LLM de la compañía para prevenir el uso indebido, y su cuenta fue suspendida en junio de 2025.
Según el Wall Street Journal, el personal de la empresa debatió si debía denunciar el comportamiento a las autoridades canadienses, pero finalmente decidió no hacerlo. Un portavoz de OpenAI declaró que la actividad de Van Rootselaar no cumplía con los requisitos para ser denunciada a las autoridades; la empresa contactó a las autoridades canadienses tras el incidente. «Nuestros pensamientos están con todos los afectados por la tragedia de Tumbler Ridge», declaró un portavoz de OpenAI. «Nos pusimos en contacto con la Real Policía Montada de Canadá para proporcionarles información sobre la persona implicada y su uso de ChatGPT, y seguiremos colaborando en su investigación».
Las transcripciones de ChatGPT no eran el único aspecto preocupante de la actividad digital de Van Rootselaar. Al parecer, creó un juego en Roblox, la plataforma de simulación de mundos frecuentada por niños, que simulaba un tiroteo masivo en un centro comercial. También publicó contenido sobre armas en Reddit.
La inestabilidad de Van Rootselaar también era conocida por la policía local, que acudió a su domicilio tras provocar un incendio bajo los efectos de drogas no especificadas.
Los chatbots de aprendizaje de lenguaje natural (LLM, por sus siglas en inglés) desarrollados por OpenAI y sus competidores han sido acusados de provocar crisis nerviosas en usuarios que pierden el contacto con la realidad al interactuar con modelos digitales. Se han presentado varias demandas que citan transcripciones de chats que incitan al suicidio o ofrecen ayuda para ello.
Si se encuentra en una crisis o tiene pensamientos suicidas, llame o envíe un mensaje de texto al 988 para comunicarse con la Línea de Ayuda para Crisis y Suicidio 988.
Esta publicación se ha actualizado con un comentario de OpenAI.