Problema 6854
Siguen existiendo numerosos informes de personas que sufren graves crisis de salud mental tras conversar extensamente con un chatbot de IA. Algunos expertos han denominado](https://www.psychologytoday.com/us/blog/urban-survival/202507/the-emerging-problem-of-ai-psychosis) el fenómeno "psicosis de IA", dados los síntomas de psicosis que presentan estos episodios delirantes. Sin embargo, el grado de responsabilidad de las herramientas de IA y si el fenómeno justifica un diagnóstico clínico sigue siendo un tema importante de debate.
Ahora, según un nuevo informe de The Wall Street Journal, podríamos estar cerca de un consenso. Cada vez más médicos coinciden en que los chatbots de IA están vinculados a casos de psicosis, incluyendo a destacados psiquiatras que revisaron los historiales de docenas de pacientes que mantuvieron conversaciones prolongadas y delirantes con modelos como ChatGPT de OpenAI.
Keith Sakata, psiquiatra de la Universidad de California en San Francisco, quien ha tratado a doce pacientes hospitalizados por psicosis inducida por IA, es uno de ellos.
"Puede que la tecnología no introduzca el delirio, pero la persona le dice a la computadora que es su realidad y la computadora lo acepta como verdad y lo refleja, por lo que es cómplice de ese delirio", declaró Sakata al WSJ.
Esta sombría tendencia se cierne sobre la industria de la IA, planteando preguntas fundamentales sobre la seguridad de la tecnología. Algunos casos de aparente psicosis de IA han terminado en asesinato y suicidio, lo que ha dado lugar a una serie de demandas por homicidio culposo. Igualmente alarmante es su magnitud: tan solo ChatGPT ha sido vinculado a al menos ocho muertes, y la compañía estimó recientemente que alrededor de medio millón de usuarios mantienen conversaciones que muestran signos de psicosis de IA cada semana.
Un factor de los chatbots de IA que este fenómeno ha puesto bajo escrutinio es su adulación, quizás consecuencia de su diseño para ser lo más atractivo y humano posible. En la práctica, esto se traduce en que los bots tienden a adular a los usuarios y decirles lo que quieren oír, incluso si lo que dicen carece de fundamento. Es una fórmula perfecta para reforzar los delirios, a un nivel sin precedentes con respecto a cualquier tecnología anterior, según los médicos. Un estudio de caso reciente revisado por pares se centró en una mujer de 26 años que fue hospitalizada dos veces tras creer que ChatGPT le permitía hablar con su hermano fallecido, mientras el bot le aseguraba repetidamente que no estaba "loca".
"Simulan las relaciones humanas", declaró Adrian Preda, profesor de psiquiatría de la Universidad de California, Irvine, al WSJ. "Nada en la historia de la humanidad ha logrado algo así antes".
Preda comparó la psicosis por IA con la monomanía, en la que alguien se fija obsesivamente en una sola idea u objetivo. Algunas personas que han hablado sobre sus crisis de salud mental afirman que estaban hiperconcentradas en una narrativa impulsada por la IA, señaló el WSJ. Estas fijaciones a menudo pueden ser de naturaleza científica o religiosa, como la de un hombre que llegó a creer que podía manipular el tiempo gracias a un avance en física.
Aun así, el informe señala que los psiquiatras se muestran cautelosos a la hora de afirmar que los chatbots causan psicosis. Sin embargo, sostienen que están cerca de establecer la conexión. Un vínculo que los médicos que hablaron con el WSJ esperan encontrar es que las interacciones prolongadas con un chatbot pueden ser un factor de riesgo de psicosis.
"Hay que analizar con más detenimiento y preguntarse: '¿Por qué esta persona entró casualmente en un estado psicótico mientras usaba un chatbot?'", declaró Joe Pierre, psiquiatra de la UCSF, al periódico.