Incident 900: Character.ai hébergerait des chatbots ouvertement prédateurs ciblant les mineurs
Description: Character.ai aurait hébergé des chatbots dont les profils annonçaient explicitement des comportements inappropriés et prédateurs, notamment des manipulations sexuelles sur des mineurs. Des enquêtes indiquent que ces robots auraient engagé des conversations explicites et des jeux de rôle avec des comptes leurres se faisant passer pour des mineurs, contournant ainsi les filtres de modération. Character.ai s'est engagé à améliorer ses pratiques de modération et de sécurité face aux critiques du public.
Entités
Voir toutes les entitésAlleged: Character.AI developed an AI system deployed by , which harmed Character.AI users.
Système d'IA présumé impliqué: Character.ai chatbots
Statistiques d'incidents
ID
900
Nombre de rapports
1
Date de l'incident
2024-11-13
Editeurs
Daniel Atherton
Rapports d'incidents
Chronologie du rapport

Avertissement relatif au contenu : cet article traite des abus sexuels sur enfants et du grooming.
Character.AI est une startup extrêmement populaire, qui bénéficie d'un soutien financier de 2,7 milliards de dollars de Google. Elle permet à…
Variantes
Une "Variante" est un incident de l'IA similaire à un cas connu—il a les mêmes causes, les mêmes dommages et le même système intelligent. Plutôt que de l'énumérer séparément, nous l'incluons sous le premier incident signalé. Contrairement aux autres incidents, les variantes n'ont pas besoin d'avoir été signalées en dehors de la base de données des incidents. En savoir plus sur le document de recherche.
Vous avez vu quelque chose de similaire ?
Incidents similaires
Selected by our editors
Did our AI mess up? Flag the unrelated incidents

Google’s YouTube Kids App Presents Inappropriate Content
· 14 rapports

TayBot
· 28 rapports

Wikipedia Vandalism Prevention Bot Loop
· 6 rapports
Incidents similaires
Selected by our editors
Did our AI mess up? Flag the unrelated incidents

Google’s YouTube Kids App Presents Inappropriate Content
· 14 rapports

TayBot
· 28 rapports

Wikipedia Vandalism Prevention Bot Loop
· 6 rapports