Incidentes Asociados
Meses antes de que Jesse Van Rootselaar se convirtiera en sospechosa del tiroteo masivo que devastó un pueblo rural en la Columbia Británica, Canadá, OpenAI consideró alertar a las fuerzas del orden sobre sus interacciones con su chatbot ChatGPT, según informó la compañía.
Mientras usaba ChatGPT en junio pasado, Van Rootselaar describió situaciones de violencia con armas de fuego a lo largo de varios días, según personas familiarizadas con el asunto.
Sus publicaciones, marcadas por un sistema de revisión automatizado, alarmaron a los empleados de OpenAI. Internamente, alrededor de una docena de empleados debatieron si tomar medidas con respecto a las publicaciones de Van Rootselaar. Algunos empleados interpretaron los escritos de Van Rootselaar como un indicio de posible violencia en el mundo real e instaron a los líderes a alertar a las fuerzas del orden canadienses sobre su comportamiento, según informaron las personas familiarizadas con el asunto.
Los líderes de OpenAI finalmente decidieron no contactar a las autoridades.
Una portavoz de OpenAI declaró que la compañía bloqueó la cuenta de Van Rootselaar, pero determinó que su actividad no cumplía con los criterios para denunciarla ante las autoridades, lo que habría requerido que constituyera un riesgo creíble e inminente de daño físico grave a terceros.
El 10 de febrero, Van Rootselaar fue encontrada muerta por lo que parecía ser una lesión autoinfligida en el escenario de un tiroteo masivo en una escuela que causó la muerte de ocho personas y dejó al menos 25 heridas. La Real Policía Montada de Canadá identificó a Van Rootselaar, una mujer trans de 18 años, como sospechosa.
La compañía contactó a la Real Policía Montada de Canadá (RCMP) tras enterarse del tiroteo y está apoyando su investigación, afirmó la portavoz.
"Nuestros pensamientos están con todos los afectados por la tragedia de Tumbler Ridge", declaró la compañía en un comunicado.
Otros aspectos de la huella digital de Van Rootselaar surgieron en los días posteriores al ataque, incluyendo un videojuego que creó en la plataforma Roblox que simulaba un tiroteo masivo. En redes sociales, la sospechosa compartió su preocupación por el proceso de transición y su interés por los dibujos animados de anime y las drogas ilegales.
Las plataformas en línea han debatido durante mucho tiempo cómo equilibrar la privacidad de sus usuarios con la seguridad pública al alertar a ciertos usuarios sobre las fuerzas del orden. Ese debate se avecina ahora para las empresas de IA que impulsan los chatbots a los que las personas confían los detalles más íntimos de sus pensamientos y vidas.
OpenAI afirmó que entrena sus modelos para disuadir a los usuarios de cometer daños en situaciones reales y dirige las conversaciones en las que los usuarios expresan intención de causar daño a revisores humanos, quienes pueden remitirlos a las fuerzas del orden en caso de que se determine que representan un riesgo inminente de daño físico grave.
La empresa afirmó que sopesa el riesgo de violencia frente a las consideraciones de privacidad y la posible angustia que puede causar a las personas y las familias involucrar innecesariamente a la policía.
Van Rootselaar ya era conocido por la policía local antes del tiroteo. Visitaron su domicilio varias veces para atender problemas de salud mental y retiraron temporalmente las armas de la residencia.
Un equipo especializado de investigadores también ha estado revisando su actividad en línea y su huella digital en busca de pistas sobre el tiroteo masivo, además de revisar sus interacciones previas con la policía y profesionales de la salud mental, según el comisionado de la RCMP, Dwayne McDonald.
Publicaciones archivadas en redes sociales muestran que Van Rootselaar publicó fotos de ella misma disparando en un campo de tiro, afirmó haber creado un cartucho de bala con una impresora 3D y participó en una discusión en línea sobre videos de YouTube hechos por entusiastas de las armas.