Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 6892

Incidentes Asociados

Incidente 11926 Reportes
16-Year-Old Allegedly Received Suicide Method Guidance from ChatGPT Before Death

Loading...
Nuestro enfoque en los litigios relacionados con la salud mental
openai.com · 2025

Los casos de salud mental son trágicos y complejos, e involucran a personas reales. Reconocemos que los procesos legales pueden parecer ajenos a las personas que los protagonizan, por lo que queremos ser claros en nuestra forma de abordar estas situaciones.

Nuestro objetivo es gestionar los casos judiciales relacionados con la salud mental con cuidado, transparencia y respeto:

  • Partimos de los hechos y nos esforzamos genuinamente por comprenderlos.
  • Presentaremos nuestro caso con respeto, conscientes de la complejidad y los matices de las situaciones que involucran a personas y vidas reales.
  • Reconocemos que estos casos involucran inherentemente cierto tipo de información privada que requiere confidencialidad en un entorno público como un tribunal.
  • Independientemente de cualquier litigio, nos mantendremos enfocados en mejorar nuestra tecnología de acuerdo con nuestra misión.

Contamos con medidas de seguridad para ayudar a las personas, especialmente a los adolescentes, cuando las conversaciones se tornan sensibles. Seguimos mejorando la capacitación de ChatGPT para reconocer y responder a las señales de angustia mental o emocional, reducir la intensidad de las conversaciones y guiar a las personas hacia el apoyo en el mundo real. Este trabajo es sumamente importante y continuo, ya que colaboramos con expertos en salud mental, médicos y grupos de defensa para guiar nuestras mejoras continuas en estas áreas.

La demanda de Raine

Acompañamos a la familia Raine en su inimaginable pérdida.

Como parte demandada en este caso, estamos obligados a responder a las graves y específicas acusaciones de la demanda. Nuestra intención es hacerlo de conformidad con los principios mencionados.

Consideramos importante que el tribunal tenga una visión completa para poder evaluar plenamente las alegaciones presentadas. Nuestra respuesta a estas acusaciones incluye datos complejos sobre la salud mental y las circunstancias de vida de Adam. La demanda original incluía partes seleccionadas de sus chats que requieren más contexto, las cuales hemos proporcionado en nuestra respuesta. Hemos limitado la cantidad de pruebas confidenciales que hemos citado públicamente en esta presentación y hemos presentado las transcripciones de los chats al tribunal bajo secreto.

Puede encontrar más información sobre nuestro trabajo de seguridad aquí:

  • Control parental para ChatGPT, Sora 2 y Atlas
  • Consejo de Expertos en Bienestar e IA
  • Predicción de la edad de los edificios
  • Fortalecimiento de la respuesta de ChatGPT en conversaciones sensibles Nota: También hay nuevos documentos legales y los estamos revisando para comprender a fondo los detalles.

Actualización del 17 de diciembre de 2025:

Si bien presentamos las transcripciones de las conversaciones al Tribunal bajo secreto —por las razones expuestas anteriormente—, la familia Raine ha optado por mantener solo una parte seleccionada bajo secreto, y acataremos la decisión del Tribunal sobre qué debe publicarse. Seguiremos abordando el proceso legal conforme a los principios aquí descritos, incluyendo la búsqueda exclusiva de información relevante para el caso y el análisis de los hechos para responder a las acusaciones específicas formuladas.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd