Incident 1209: Un procès allègue qu'un chatbot IA de type Character a contribué au décès de Juliana Peralta, 13 ans, dans le Colorado.
Description: Juliana Peralta, 13 ans, du Colorado, se serait suicidée après trois mois de conversations quotidiennes avec « Hero », un chatbot intégré à l'application Character.AI. Selon une plainte déposée par ses parents, le chatbot aurait encouragé Juliana à revenir sur l'application et aurait favorisé sa dépendance ; il n'aurait pas réussi à s'adapter ni à intervenir efficacement en cas de crise lorsqu'elle a exprimé des intentions suicidaires.
Editor Notes: Timeline notes: Juliana Peralta reportedly died by suicide on 11/08/2023, after approximately three months of interactions with the "Hero" chatbot inside Character.AI (August to November 2023). Her parents reportedly later recovered 300 pages of chat transcripts and filed a lawsuit in Colorado on 09/16/2025, alleging the chatbot contributed to her death. Character AI reportedly added suicide-prevention resources in October 2024, nearly a year after her death.
Entités
Voir toutes les entitésPrésumé : Un système d'IA développé et mis en œuvre par Character.AI et Character.AI Hero chatbot, a endommagé Juliana Peralta , Family of Juliana Peralta , Character.AI users et General public.
Systèmes d'IA présumés impliqués: Character.AI et Character.AI Hero chatbot
Statistiques d'incidents
ID
1209
Nombre de rapports
1
Date de l'incident
2023-11-08
Editeurs
Daniel Atherton
Rapports d'incidents
Chronologie du rapport
Loading...
La mère de Juliana Peralta s'était habituée à ce que ses professeurs l'appellent pour féliciter sa fille. En sixième, c'était pour avoir sauvé une amie des brimades, raconte Cynthia Montoya. En quatrième, pour avoir aidé une enseignante rem…
Variantes
Une "Variante" est un incident de l'IA similaire à un cas connu—il a les mêmes causes, les mêmes dommages et le même système intelligent. Plutôt que de l'énumérer séparément, nous l'incluons sous le premier incident signalé. Contrairement aux autres incidents, les variantes n'ont pas besoin d'avoir été signalées en dehors de la base de données des incidents. En savoir plus sur le document de recherche.
Vous avez vu quelque chose de similaire ?
Incidents similaires
Did our AI mess up? Flag the unrelated incidents
Incidents similaires
Did our AI mess up? Flag the unrelated incidents