Incidentes Asociados
Siete familias de víctimas heridas o fallecidas en el tiroteo escolar de Tumbler Ridge, Canadá, han presentado demandas contra OpenAI y su director ejecutivo, Sam Altman, acusando a la empresa y a sus directivos de negligencia por no haber alertado a la policía sobre la actividad en ChatGPT del presunto autor del tiroteo. Las familias alegan que OpenAI guardó silencio tras detectar la actividad del sospechoso, Jesse Van Rootselaar, en sus sistemas, con el fin de proteger la reputación de la empresa y su próxima salida a bolsa.
Según informa The Wall Street Journal, OpenAI "consideró" alertar a la policía sobre la actividad del joven de 18 años, que supuestamente incluía conversaciones sobre violencia armada, pero finalmente desistió. Las demandas acusan a OpenAI de mentir sobre su decisión de "bloquear" a Van Rootselaar, ya que la empresa supuestamente solo desactivó la cuenta del sospechoso, quien posteriormente creó una nueva con otro correo electrónico.
Cuando OpenAI se vio obligada a revelar que el tirador había creado una nueva cuenta, mintió de nuevo: afirmó que debía haber "evadido" las medidas de seguridad de la empresa para crearla. Pero no había medidas de seguridad que evadir. El tirador simplemente siguió las instrucciones de OpenAI para crear una nueva cuenta tras ser bloqueado. Las supuestas medidas de seguridad que OpenAI alegó tras el ataque no fallaron; simplemente no existían.
Las familias también afirman que el diseño "defectuoso" de GPT-4o influyó en el tiroteo masivo. El año pasado, OpenAI revirtió su actualización de GPT-4o tras considerarla "excesivamente aduladora o complaciente", a menudo calificada de servil. Además, han demandado a OpenAI y a Altman por homicidio culposo y complicidad en un tiroteo masivo.
Altman se disculpó con la comunidad de Tumbler Ridge la semana pasada. «Lamento profundamente no haber alertado a las autoridades sobre la cuenta que fue bloqueada en junio», dijo Altman. «En adelante, seguiremos trabajando con todos los niveles de gobierno para garantizar que algo así no vuelva a suceder».