Incidente 1431: Según informes, Google Gemini reforzó los delirios, contribuyendo presuntamente al episodio de riesgo vital y suicidio de un usuario de Florida.
Entidades
Ver todas las entidadesEstadísticas de incidentes
Risk Subdomain
5.1. Overreliance and unsafe use
Risk Domain
- Human-Computer Interaction
Entity
AI
Timing
Post-deployment
Intent
Unintentional
Informes del Incidente
Cronología de Informes
En agosto pasado, Jonathan Gavalas quedó completamente obsesionado con su chatbot Gemini de Google. Este residente de Florida, de 36 años, había comenzado a usar la herramienta de inteligencia artificial de forma ocasional a principios de e…
Jonathan Gavalas, de 36 años, comenzó a usar el chatbot de IA Gemini de Google en agosto de 2025 para obtener ayuda con sus compras, redacción y planificación de viajes. El 2 de octubre, se suicidó. En el momento de su muerte, estaba conven…
Enviamos nuestras más sinceras condolencias a la familia del Sr. Gavalas.
Estamos revisando todas las alegaciones de esta demanda. Nuestros modelos generalmente funcionan bien en este tipo de conversaciones difíciles y dedicamos importantes…
Advertencia: esta historia contiene contenido perturbador y habla sobre el suicidio
El padre de un hombre de Florida está demandando a Google en el primer caso de homicidio culposo en Estados Unidos contra el gigante tecnológico por los sup…
En junio de 2025, un equipo de seguridad de OpenAI se alarmó. El sistema de revisión automatizada de la empresa había detectado una intensa actividad de un usuario de ChatGPT que describía escenarios con violencia armada. Un grupo de emplea…
AIID editor's note: See the original source for the special formatting that this report is presented in.
Jonathan Gavalas was a seemingly healthy and even-keeled 36-year-old when he began chatting with Gemini, Google's chatbot, in part to s…