Problema 4542

Casi una semana después de la explosión del día de Año Nuevo frente al Hotel Trump en Las Vegas, las fuerzas de seguridad locales publicaron más información sobre su investigación, incluido lo que saben hasta ahora sobre el papel de la IA generativa en el incidente.

Confirmaron que el sospechoso, un soldado en servicio activo del ejército de EE. UU. llamado Matthew Livelsberger, tenía un "posible manifiesto" guardado en su teléfono, además de un correo electrónico a un podcaster y otras cartas. También mostraron evidencia en video de él preparándose para la explosión vertiendo combustible en el camión mientras estaba detenido antes de conducir hasta el hotel. También había mantenido un registro de supuesta vigilancia, aunque los funcionarios dijeron que no tenía antecedentes penales y que no estaba siendo vigilado ni investigado.

La Policía Metropolitana de Las Vegas también publicó varias diapositivas que mostraban las preguntas que había planteado a ChatGPT varios días antes de la explosión, en las que preguntaba sobre explosivos, cómo detonarlos y cómo detonarlos con un disparo, así como información sobre dónde comprar armas, material explosivo y fuegos artificiales de forma legal a lo largo de su ruta.

Cuando se le preguntó sobre las consultas, la portavoz de OpenAI, Liz Bourgeois, dijo:

Estamos tristes por este incidente y nos comprometemos a que las herramientas de IA se utilicen de forma responsable. Nuestros modelos están diseñados para rechazar instrucciones dañinas y minimizar el contenido dañino. En este caso, ChatGPT respondió con información que ya estaba disponible públicamente en Internet y brindó advertencias contra actividades dañinas o ilegales. Estamos trabajando con las fuerzas del orden para apoyar su investigación.

Los funcionarios dicen que todavía están examinando las posibles fuentes de la explosión, descrita como una deflagración que se propagó con bastante lentitud en lugar de una detonación de explosivos de alta potencia que se habría movido más rápido y habría causado más daños. Si bien los investigadores dicen que aún no han descartado otras posibilidades, como un cortocircuito eléctrico, una explicación que coincide con algunas de las consultas y la evidencia disponible es que el fogonazo de un disparo encendió vapores de combustible/mechas de fuegos artificiales dentro del camión, lo que luego provocó una explosión más grande de fuegos artificiales y otros materiales explosivos.

Probar las consultas en ChatGPT hoy todavía funciona, sin embargo, la información que solicitó no parece estar restringida y se pudo obtener con la mayoría de los métodos de búsqueda. Aun así, el uso por parte del sospechoso de una herramienta de IA generativa y la capacidad de los investigadores para rastrear esas solicitudes y presentarlas como evidencia llevan las preguntas sobre las barreras de protección de los chatbots de IA, la seguridad y la privacidad fuera del ámbito hipotético y hacia nuestra realidad.