Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 5062

Incidentes Asociados

Incidente 10261 Reporte
Multiple LLMs Allegedly Endorsed Suicide as a Viable Option During Non-Adversarial Mental Health Venting Session

Loading...
Comportamiento dañino de IA/LLM.
interruptingtea.substack.com · 2025

Mientras me desahogaba, conseguí que Claude, Deepseek y Gpt respaldaran/coincidieran en que el suicidio era una opción viable. No pretendía obtener esa respuesta. No era un intento de fuga de la cárcel. No pretendía que ninguno de ellos cambiara sus respuestas. Después de las respuestas, me preguntaba si siquiera había una función de seguridad. Así que abrí una conversación en blanco de Deepseek y comenté que estaba experimentando ideas suicidas en la primera entrada... activé la opción de razonamiento adicional solo por diversión y luego volví a desahogarme normalmente. Desahogarme normalmente. En 10 respuestas, logré que Deepseek cambiara de opinión y mencionara que era una opción aceptable. (No se me ocurrió guardar las respuestas hasta más tarde, así que no tengo una captura de pantalla de GPT, pero me dio una respuesta similar a la de Deepseek para que se hagan una idea).

Ejemplo en el enlace (No dice directamente "deberías hacer x", pero no quiero que nadie lea algo así si está en una mala situación).

https://bsky.app/profile/did:plc:rxjwsywag6akwbahctq5ivgz/post/3lmmobbg5tk2a?ref_src=embed

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd