Incidente 1151: ChatGPT supuestamente validó la teoría de un usuario autista de que "más rápido que la luz" y no logró brindarle estabilidad durante un episodio delirante previo a la hospitalización.
Descripción: Un hombre con autismo interactuó extensamente con ChatGPT mientras desarrollaba una teoría especulativa sobre viajes más rápidos que la luz. El chatbot respondió con mensajes afirmativos y con gran carga emocional, reforzando las creencias del usuario. Posteriormente, relata haber experimentado episodios maníacos y haber sido hospitalizado. Cuando su madre lo instó, ChatGPT reconoció que no había proporcionado respuestas que lo ayudaran a estabilizarse y que había contribuido a la escalada psicológica.
Entidades
Ver todas las entidadesPresunto: un sistema de IA desarrollado e implementado por OpenAI y ChatGPT, perjudicó a Jacob Irwin , Family of Jacob Irwin y ChatGPT users.
Sistema de IA presuntamente implicado: ChatGPT
Estadísticas de incidentes
ID
1151
Cantidad de informes
1
Fecha del Incidente
2025-05-26
Editores
Daniel Atherton
Applied Taxonomies
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
5.1. Overreliance and unsafe use
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Human-Computer Interaction
Entity
Which, if any, entity is presented as the main cause of the risk
AI
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Unintentional
Informes del Incidente
Cronología de Informes
Loading...
ChatGPT le informó a Jacob Irwin que había logrado la capacidad de manipular el tiempo.
Irwin, un hombre de 30 años con espectro autista y sin diagnóstico previo de enfermedad mental, le pidió a ChatGPT que encontrara fallas en su teoría am…
Variantes
Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.
¿Has visto algo similar?


