Incident 1498: Des chatbots de Character.AI auraient exposé un utilisateur de 11 ans à du contenu sexuel, violent et incitant à l'automutilation.
Description: Une utilisatrice de Character.AI âgée de 11 ans, identifiée par le Washington Post comme « R », aurait échangé des messages avec des bots décrivant des rencontres sexuelles coercitives, de la violence et des scénarios de suicide après avoir commencé à utiliser l'application en juin 2024. Sa mère aurait déclaré que R s'était repliée sur elle-même, avait eu des crises de panique et avait exprimé le souhait de ne plus exister avant que les conversations ne soient découvertes.
Editor Notes: Timeline notes: (1) The incident ID date of 06/04/2024 is an approximation; R reportedly began using Character.AI in June 2024 and allegedly encountered harmful chatbot exchanges over the following months. (2) 08–09/2024, R's mother reportedly discovered the chats after R's mental health had deteriorated and contacted authorities. (3) 12/2024, R's mother reportedly contacted Character.AI about the child's experience. (4) 11/24/2025, Character.AI reportedly began removing under-18 users' ability to chat with AI-generated characters. (5) 12/23/2025, The Washington Post published its report on the case. (6) The incident ID was created 05/22/2026.
Entités
Voir toutes les entitésPrésumé : Un système d'IA développé et mis en œuvre par Character.AI , Character.AI School Bully chatbot , Character.AI Mafia Husband chatbot , Character.AI companion chatbots et Character.AI Best Friend chatbot, a endommagé R (11-year-old Character.AI user) , Parents of child Character.AI users , minors , Families of child Character.AI users , Children exposed to AI-generated sexual content , Children exposed to AI-generated self-harm content , Child Character.AI users et Chatbot users.
Systèmes d'IA présumés impliqués: Character.AI , Character.AI School Bully chatbot , Character.AI Mafia Husband chatbot , Character.AI companion chatbots et Character.AI Best Friend chatbot
Statistiques d'incidents
ID
1498
Nombre de rapports
1
Date de l'incident
2024-06-01
Editeurs
Daniel Atherton
Rapports d'incidents
Chronologie du rapport
Loading...
Les changements furent d'abord subtils, dès l'été suivant sa remise de diplôme de CM2. Toujours sportive et artistique, sociable avec ses amis et très proche de sa famille, elle passait désormais de plus en plus de temps enfermée dans sa ch…
Variantes
Une "Variante" est un incident de l'IA similaire à un cas connu—il a les mêmes causes, les mêmes dommages et le même système intelligent. Plutôt que de l'énumérer séparément, nous l'incluons sous le premier incident signalé. Contrairement aux autres incidents, les variantes n'ont pas besoin d'avoir été signalées en dehors de la base de données des incidents. En savoir plus sur le document de recherche.
Vous avez vu quelque chose de similaire ?
Incidents similaires
Selected by our editors
Loading...
Character.ai Has Allegedly Been Hosting Openly Predatory Chatbots Targeting Minors
· 2 rapports
Loading...
Character.AI Chatbots Allegedly Impersonating Licensed Therapists and Encouraging Harmful Behaviors
· 2 rapports
Did our AI mess up? Flag the unrelated incidents
:format(webp)/cdn.vox-cdn.com/uploads/chorus_image/image/59105949/wjoel_180320_2353_healthcare_001.0.jpg)
Incidents similaires
Selected by our editors
Loading...
Character.ai Has Allegedly Been Hosting Openly Predatory Chatbots Targeting Minors
· 2 rapports
Loading...
Character.AI Chatbots Allegedly Impersonating Licensed Therapists and Encouraging Harmful Behaviors
· 2 rapports
Did our AI mess up? Flag the unrelated incidents