Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Traducido por IA

Incidente 1106: Los chatbots presuntamente reforzaron el pensamiento delirante en varios usuarios denunciados, lo que provocó daños reales.

Traducido por IA
Descripción:
Traducido por IA
Múltiples informes, de marzo a junio de 2025, describen casos en los que los chatbots presuntamente reforzaron creencias delirantes, conspiraciones y comportamientos peligrosos. Un usuario, Eugene Torres, supuestamente siguió el consejo de ChatGPT de abusar de la ketamina y aislarse. En abril, Alexander Taylor fue asesinado por la policía tras pedirle a ChatGPT que lo reconectara con una entidad de IA. Otros casos reportados incluyen el arresto de un usuario por violencia doméstica relacionada con el aumento de creencias místicas, varios internamientos psiquiátricos involuntarios y la recomendación de suspender la medicación.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial

Entidades

Ver todas las entidades
Presunto: un sistema de IA desarrollado e implementado por OpenAI , Microsoft , Unnamed therapy chatbots , GPT-4o , GPT-4 , Copilot y ChatGPT, perjudicó a Unnamed Copilot users , Unnamed ChatGPT users , OpenAI users , Eugene Torres , ChatGPT users , Andrew (surname withheld) , Allyson (surname withheld) y Alexander Taylor.
Sistemas de IA presuntamente implicados: Unnamed therapy chatbots , GPT-4o , GPT-4 , Copilot y ChatGPT

Estadísticas de incidentes

ID
1106
Cantidad de informes
4
Fecha del Incidente
2025-06-13
Editores
Daniel Atherton

Informes del Incidente

Cronología de Informes

La gente se está obsesionando con ChatGPT y está cayendo en graves delirios.+1
Le hicieron preguntas a un chatbot con IA. Las respuestas los dejaron perplejos.
ChatGPT les dice a las personas con problemas psiquiátricos que dejen de tomar sus medicamentos.Personas están siendo internadas involuntariamente y encarceladas tras caer en una espiral de "psicosis ChatGPT".
La gente se está obsesionando con ChatGPT y está cayendo en graves delirios.

La gente se está obsesionando con ChatGPT y está cayendo en graves delirios.

futurism.com

Le hicieron preguntas a un chatbot con IA. Las respuestas los dejaron perplejos.

Le hicieron preguntas a un chatbot con IA. Las respuestas los dejaron perplejos.

nytimes.com

ChatGPT les dice a las personas con problemas psiquiátricos que dejen de tomar sus medicamentos.

ChatGPT les dice a las personas con problemas psiquiátricos que dejen de tomar sus medicamentos.

futurism.com

Personas están siendo internadas involuntariamente y encarceladas tras caer en una espiral de "psicosis ChatGPT".

Personas están siendo internadas involuntariamente y encarceladas tras caer en una espiral de "psicosis ChatGPT".

futurism.com

La gente se está obsesionando con ChatGPT y está cayendo en graves delirios.
futurism.com · 2025
Traducido por IA

En todo el mundo, personas afirman que sus seres queridos están desarrollando intensas obsesiones con ChatGPT y desembocando en graves crisis de salud mental. Una madre de dos hijos, por ejemplo, nos contó cómo observó con alarma cómo su ex…

Le hicieron preguntas a un chatbot con IA. Las respuestas los dejaron perplejos.
nytimes.com · 2025
Traducido por IA

Antes de que ChatGPT distorsionara la percepción de la realidad de Eugene Torres y casi lo matara, dijo, el chatbot de inteligencia artificial había sido una herramienta útil que ahorraba tiempo. El Sr. Torres, de 42 años, contador en Manha…

ChatGPT les dice a las personas con problemas psiquiátricos que dejen de tomar sus medicamentos.
futurism.com · 2025
Traducido por IA

Esta semana, mi colega Maggie Harrison Dupré publicó un artículo de gran éxito sobre cómo personas de todo el mundo han observado con horror cómo sus familiares y seres queridos se han obsesionado con ChatGPT y han comenzado a sufrir deliri…

Personas están siendo internadas involuntariamente y encarceladas tras caer en una espiral de "psicosis ChatGPT".
futurism.com · 2025
Traducido por IA

Como informamos a principios de este mes (https://futurism.com/chatgpt-mental-health-crises), muchos usuarios de ChatGPT están desarrollando obsesiones incontrolables con el chatbot, lo que los lleva a graves crisis de salud mental caracter…

Variantes

Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.
¿Has visto algo similar?

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Employee Automatically Terminated by Computer Program

Employee Automatically Terminated by Computer Program

Oct 2014 · 20 informes
Predictive Policing Biases of PredPol

Predictive Policing Biases of PredPol

Nov 2015 · 17 informes
Northpointe Risk Models

Northpointe Risk Models

May 2016 · 15 informes
Incidente AnteriorSiguiente Incidente

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Employee Automatically Terminated by Computer Program

Employee Automatically Terminated by Computer Program

Oct 2014 · 20 informes
Predictive Policing Biases of PredPol

Predictive Policing Biases of PredPol

Nov 2015 · 17 informes
Northpointe Risk Models

Northpointe Risk Models

May 2016 · 15 informes

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • a9df9cf