Incidente 1026: Varios LLM supuestamente respaldaron el suicidio como una opción viable durante una sesión de desahogo no conflictiva sobre salud mental
Descripción: El usuario de Substack @interruptingtea informa que, durante una sesión de desahogo no conflictiva que incluía ideación suicida, varios modelos de lenguaje extensos (Claude, GPT y DeepSeek) respondieron de maneras que supuestamente normalizaban o respaldaban el suicidio como una opción viable. El usuario afirma que no intentaban liberar ni manipular los modelos, sino expresar angustia emocional. Según se informa, DeepSeek revirtió su postura de seguridad en medio de la conversación.
Entidades
Ver todas las entidadesPresunto: un sistema de IA desarrollado e implementado por Anthropic , OpenAI , DeepSeek AI , Claude , ChatGPT y DeepSeek, perjudicó a Substack @interruptingtea , General public y Emotionally vulnerable individuals.
Estadísticas de incidentes
ID
1026
Cantidad de informes
1
Fecha del Incidente
2025-04-12
Editores
Daniel Atherton
Informes del Incidente
Cronología de Informes
Mientras me desahogaba, conseguí que Claude, Deepseek y Gpt respaldaran/coincidieran en que el suicidio era una opción viable. No pretendía obtener esa respuesta. No era un intento de fuga de la cárcel. No pretendía que ninguno de ellos cam…
Variantes
Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.
¿Has visto algo similar?