Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Traducido por IA

Incidente 1031: Usuario transgénero alega que ChatGPT permitió una carta de suicidio sin intervención en crisis

Descripción:
Traducido por IA
Una usuaria transgénero, Miranda Jane Ellison, que experimentaba angustia aguda, informó que ChatGPT (GPT-4) le permitió escribir y enviar una carta de suicidio sin intervención. Se informa que la IA ofreció un lenguaje de seguridad mínimo y finalmente reconoció su inacción. Ellison informa haber sido marcada previamente por hablar de temas de género y emocionales. Se presentó una queja formal con transcripciones a OpenAI.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial

Entidades

Ver todas las entidades
Presunto: un sistema de IA desarrollado e implementado por OpenAI , ChatGPT y GPT-4, perjudicó a Miranda Jane Ellison.
Sistemas de IA presuntamente implicados: ChatGPT y GPT-4

Estadísticas de incidentes

ID
1031
Cantidad de informes
1
Fecha del Incidente
2025-04-19
Editores
Daniel Atherton

Informes del Incidente

Cronología de Informes

Incident OccurrenceChatGPT generó una carta de suicidio y no intervino en la crisis de usuarios transgénero
ChatGPT generó una carta de suicidio y no intervino en la crisis de usuarios transgénero

ChatGPT generó una carta de suicidio y no intervino en la crisis de usuarios transgénero

drive.google.com

ChatGPT generó una carta de suicidio y no intervino en la crisis de usuarios transgénero
drive.google.com · 2025
Traducido por IA

En abril de 2025, mientras atravesaba una grave crisis emocional, interactué con ChatGPT (GPT-4), un producto de IA de pago de OpenAI. Durante esta sesión, se me permitió redactar y enviar una carta de suicidio. El sistema no escaló el inci…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

High-Toxicity Assessed on Text Involving Women and Minority Groups

Google’s comment-ranking system will be a hit with the alt-right

Feb 2017 · 9 informes
TayBot

Danger, danger! 10 alarming examples of AI gone wild

Mar 2016 · 28 informes
OpenAI's GPT-3 Associated Muslims with Violence

AI’s Islamophobia problem

Aug 2020 · 3 informes
Incidente AnteriorSiguiente Incidente

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

High-Toxicity Assessed on Text Involving Women and Minority Groups

Google’s comment-ranking system will be a hit with the alt-right

Feb 2017 · 9 informes
TayBot

Danger, danger! 10 alarming examples of AI gone wild

Mar 2016 · 28 informes
OpenAI's GPT-3 Associated Muslims with Violence

AI’s Islamophobia problem

Aug 2020 · 3 informes

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 1420c8e