Incidentes Asociados
Los herederos de una mujer asesinada por su propio hijo tras meses de conversaciones con ChatGPT presentaron el jueves una demanda por homicidio culposo contra OpenAI, Microsoft y Sam Altman en el Tribunal Superior de San Francisco.
Por qué es importante: Este espeluznante caso es el último de una creciente serie de problemas legales y de rendición de cuentas para el gigante de la IA, a medida que aumentan las dudas sobre la seguridad y la eficacia de los chatbots.
OpenAI y otras empresas de IA se enfrentan a un número creciente de demandas de personas que afirman que sus seres queridos se hicieron daño o se suicidaron tras interactuar con la tecnología.
Noticias clave: Es el primer caso contra una empresa de IA que alega daños a un tercero: Suzanne Adams, asesinada por su hijo Stein-Erik Soelberg, quien posteriormente se quitó la vida, según la denuncia.
Los abogados de los herederos de Adams alegan que ChatGPT-4o "consolidó la paranoia de Soelberg y fomentó sus delirios durante una crisis de salud mental", según un comunicado sobre la demanda.
Según la demanda, Microsoft revisó y autorizó ChatGPT-4o antes de su lanzamiento.
Lo que dicen: "A lo largo de los meses, ChatGPT fomentó los delirios más oscuros de mi padre y lo aisló por completo del mundo real", declaró Erik Soelberg, hijo de Stein-Erik Soelberg, en el comunicado.
"Puso a mi abuela en el centro de esa realidad delirante y artificial. Estas empresas deben responder por las decisiones que han cambiado a mi familia para siempre".
Contenido: La demanda describe cómo ChatGPT 4o motivó el comportamiento violento de Soelberg, creando enemigos entre las personas que Soelberg mencionó en los chats, incluyendo empleados de tiendas y conductores de UberEats, aislando a Soelberg del mundo real y aumentando su paranoia.
OpenAI se niega a proporcionar registros completos de chat a los herederos, según la demanda.
Para que conste: "Esta es una situación increíblemente desgarradora y revisaremos la documentación para comprender los detalles", declaró OpenAI en un comunicado, añadiendo que continúa trabajando en el entrenamiento de ChatGPT para reconocer y responder a la angustia mental y emocional.
Microsoft no respondió de inmediato a una solicitud de comentarios.
Nota del editor: Esta noticia se ha actualizado con la declaración de OpenAI.