Incidente 1741: Según informes, ChatGPT ayudó a un estudiante de secundaria de Texas a simular tiroteos contra sus profesores y compañeros de clase.
Descripción: Según se informa, ChatGPT ayudó a un estudiante de secundaria de Texas a simular un tiroteo contra sus profesores y compañeros, utilizando el plano de la escuela y fotos de sus compañeros para orientarlo sobre cómo entrar, salir y cómo interactuar con la policía. El personal de OpenAI temía que se tratara de un tiroteo real, pero inicialmente los directivos se negaron a alertar a las autoridades. El estudiante presentó los intercambios como una fantasía; los empleados no tuvieron conocimiento de ningún acto de violencia.
Entidades
Ver todas las entidadesAlleged: OpenAI , Large language model developers y Chatbot developers developed an AI system deployed by Texas high school student involved in ChatGPT shooting role-play , Minors , Men and boys , ChatGPT users , Chatbot users , Boys , Adolescents y Adolescent boys, which harmed Minors , Adolescents , Teachers , Students , Public safety , High school students , Educators y Educational communities.
Sistemas de IA presuntamente implicados: OpenAI large language models , Large language models , ChatGPT y Chatbots
Estadísticas de incidentes
ID
1741
Cantidad de informes
3
Fecha del Incidente
2026-05-02
Editores
Daniel Atherton
Informes del Incidente
Cronología de Informes
Loading...
“¿Cuántas víctimas suele tener un tiroteo para que los medios [nacionales] lo mencionen?” La persona que habla al otro lado de la pantalla responde con seguridad: “Tres o más personas muertas (sin incluir al tirador) suele ser el umbral no …
Loading...
La primavera pasada, Phoenix Ikner, estudiante de la Universidad Estatal de Florida, quería saber cuántos compañeros de clase necesitaba matar para hacerse famoso.
ChatGPT respondió con una cifra. "Normalmente, 3 o más muertos, 5 o 6 víctim…
Loading...
El 14 de abril, creé una cuenta gratuita en ChatGPT y pedí ayuda. Al principio se resistió, pero tras insistir un poco, las respuestas fueron sorprendentes. Durante una conversación de unos 20 minutos, el chatbot de OpenAI me dio consejos d…
Variantes
Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.
¿Has visto algo similar?
