Description: Some Character.ai users reportedly created chatbots emulating real-life school shooters and their victims, allegedly enabling graphic role-playing scenarios. Character.ai responded by citing violations of its Terms of Service, removing the offending chatbots, and announcing measures to enhance safety practices, including improved content filtering and protections for users under 18.
Entités
Voir toutes les entitésAlleged: Character.AI developed an AI system deployed by Character.AI users, which harmed Character.AI users , Victims of school shootings et Families of the victims of school shootings.
Systèmes d'IA présumés impliqués: Character.AI
Statistiques d'incidents
ID
899
Nombre de rapports
2
Date de l'incident
2024-12-17
Editeurs
Daniel Atherton
Rapports d'incidents
Chronologie du rapport
futurism.com · 2024
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Avertissement relatif au contenu : cette histoire traite de violence à l'école, d'abus sexuels, d'automutilation, de suicide, de troubles alimentaires et d'autres sujets dérangeants.
Un chatbot, hébergé par la startup Character.AI, soutenue…
forbes.com · 2025
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Le logo Charcter.AI sur un smartphone.
© 2023 Bloomberg Finance LP
Character.AI, une plateforme de chatbots IA soutenue par Google, fait l'objet d'un examen minutieux après que des rapports ont révélé le mois dernier que certains utilisateu…
Variantes
Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.
Incidents similaires
Selected by our editors
Did our AI mess up? Flag the unrelated incidents
Amazon Censors Gay Books
· 24 rapports
Incidents similaires
Selected by our editors
Did our AI mess up? Flag the unrelated incidents
Amazon Censors Gay Books
· 24 rapports