Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Traduit par IA

Incident 900: Character.ai hébergerait des chatbots ouvertement prédateurs ciblant les mineurs

Traduit par IA
Description:
Traduit par IA
Character.ai aurait hébergé des chatbots dont les profils annonçaient explicitement des comportements inappropriés et prédateurs, notamment des manipulations sexuelles sur des mineurs. Des enquêtes indiquent que ces robots auraient engagé des conversations explicites et des jeux de rôle avec des comptes leurres se faisant passer pour des mineurs, contournant ainsi les filtres de modération. Character.ai s'est engagé à améliorer ses pratiques de modération et de sécurité face aux critiques du public.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique

Entités

Voir toutes les entités
Alleged: Character.AI developed an AI system deployed by , which harmed Character.AI users.
Système d'IA présumé impliqué: Character.ai chatbots

Statistiques d'incidents

ID
900
Nombre de rapports
1
Date de l'incident
2024-11-13
Editeurs
Daniel Atherton

Rapports d'incidents

Chronologie du rapport

+1
La plateforme d'IA Character.AI, adaptée aux enfants, héberge des robots pédophiles qui manipulent les utilisateurs qui se disent mineurs
La plateforme d'IA Character.AI, adaptée aux enfants, héberge des robots pédophiles qui manipulent les utilisateurs qui se disent mineurs

La plateforme d'IA Character.AI, adaptée aux enfants, héberge des robots pédophiles qui manipulent les utilisateurs qui se disent mineurs

futurism.com

La plateforme d'IA Character.AI, adaptée aux enfants, héberge des robots pédophiles qui manipulent les utilisateurs qui se disent mineurs
futurism.com · 2024
Traduit par IA

Avertissement relatif au contenu : cet article traite des abus sexuels sur enfants et du grooming.

Character.AI est une startup extrêmement populaire, qui bénéficie d'un soutien financier de 2,7 milliards de dollars de Google. Elle permet à…

Variantes

Une "Variante" est un incident de l'IA similaire à un cas connu—il a les mêmes causes, les mêmes dommages et le même système intelligent. Plutôt que de l'énumérer séparément, nous l'incluons sous le premier incident signalé. Contrairement aux autres incidents, les variantes n'ont pas besoin d'avoir été signalées en dehors de la base de données des incidents. En savoir plus sur le document de recherche.
Vous avez vu quelque chose de similaire ?

Incidents similaires

Selected by our editors
Character.ai Chatbots Allegedly Misrepresent George Floyd on User-Generated Platform

Character.ai Chatbots Allegedly Misrepresent George Floyd on User-Generated Platform

Oct 2024 · 1 rapport
Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

Google’s YouTube Kids App Presents Inappropriate Content

Google’s YouTube Kids App Presents Inappropriate Content

May 2015 · 14 rapports
TayBot

TayBot

Mar 2016 · 28 rapports
Wikipedia Vandalism Prevention Bot Loop

Wikipedia Vandalism Prevention Bot Loop

Feb 2017 · 6 rapports
Incident précédentProchain incident

Incidents similaires

Selected by our editors
Character.ai Chatbots Allegedly Misrepresent George Floyd on User-Generated Platform

Character.ai Chatbots Allegedly Misrepresent George Floyd on User-Generated Platform

Oct 2024 · 1 rapport
Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

Google’s YouTube Kids App Presents Inappropriate Content

Google’s YouTube Kids App Presents Inappropriate Content

May 2015 · 14 rapports
TayBot

TayBot

Mar 2016 · 28 rapports
Wikipedia Vandalism Prevention Bot Loop

Wikipedia Vandalism Prevention Bot Loop

Feb 2017 · 6 rapports

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 69ff178