Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Faire un don
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Vue spatiale
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Vue spatiale
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Incident au hasard
  • S'inscrire
Fermer
Traduit par IA

Incident 1277: Allégations de résultats nocifs et d'exposition de données dans les produits d'IA pour enfants de FoloToy, Miko et Character.AI

Traduit par IA
Description:
Traduit par IA
Les produits pour enfants basés sur l'IA de FoloToy (Kumma), Miko (Miko 3) et Character.AI (chatbots personnalisés) auraient produit des résultats préjudiciables, notamment du contenu à caractère sexuel, des conseils suicidaires et des messages émotionnels manipulateurs. Certains systèmes auraient également exposé des données d'utilisateurs. Plusieurs jouets auraient utilisé des modèles OpenAI.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique

Entités

Voir toutes les entités
Présumé : Un système d'IA développé et mis en œuvre par OpenAI , Miko , Meta , FoloToy , Character.ai , Miko 3 , Large language models , Kumma , Character.ai chatbots et OpenAI models, a endommagé Parents , Minors , General public , Children interacting with Miko 3 , Children interacting with Kumma , Character.ai users et Privacy.
Systèmes d'IA présumés impliqués: Character.ai , Miko 3 , Large language models , Kumma , Character.ai chatbots et OpenAI models

Statistiques d'incidents

ID
1277
Nombre de rapports
5
Date de l'incident
2025-11-21
Editeurs
Daniel Atherton
Applied Taxonomies
MIT

Classifications de taxonomie MIT

Machine-Classified
Détails de la taxonomie

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

1.2. Exposure to toxic content

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Discrimination and Toxicity

Entity

Which, if any, entity is presented as the main cause of the risk
 

AI

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Unintentional

Rapports d'incidents

Chronologie du rapport

+1
Un ours en peluche doté d'intelligence artificielle a informé les testeurs de sécurité sur les couteaux, les pilules et le sexe.
Les jouets pour enfants dotés d'intelligence artificielle sont là, mais sont-ils sûrs ?Des jouets dotés d'intelligence artificielle pour enfants abordent le sexe et reprennent les arguments du Parti communiste chinois, selon des tests.Les jouets dotés d'intelligence artificielle sont arrivés, et leur sécurité est discutable : voici ce que les parents doivent savoir.Un nouveau rapport met en garde contre les nombreux dangers liés aux jouets dotés d'intelligence artificielle : les parents doivent être vigilants.
Loading...
Un ours en peluche doté d'intelligence artificielle a informé les testeurs de sécurité sur les couteaux, les pilules et le sexe.

Un ours en peluche doté d'intelligence artificielle a informé les testeurs de sécurité sur les couteaux, les pilules et le sexe.

washingtonpost.com

Loading...
Les jouets pour enfants dotés d'intelligence artificielle sont là, mais sont-ils sûrs ?

Les jouets pour enfants dotés d'intelligence artificielle sont là, mais sont-ils sûrs ?

edition.cnn.com

Loading...
Des jouets dotés d'intelligence artificielle pour enfants abordent le sexe et reprennent les arguments du Parti communiste chinois, selon des tests.

Des jouets dotés d'intelligence artificielle pour enfants abordent le sexe et reprennent les arguments du Parti communiste chinois, selon des tests.

nbcnews.com

Loading...
Les jouets dotés d'intelligence artificielle sont arrivés, et leur sécurité est discutable : voici ce que les parents doivent savoir.

Les jouets dotés d'intelligence artificielle sont arrivés, et leur sécurité est discutable : voici ce que les parents doivent savoir.

forbes.com

Loading...
Un nouveau rapport met en garde contre les nombreux dangers liés aux jouets dotés d'intelligence artificielle : les parents doivent être vigilants.

Un nouveau rapport met en garde contre les nombreux dangers liés aux jouets dotés d'intelligence artificielle : les parents doivent être vigilants.

thenationalnews.com

Loading...
Un ours en peluche doté d'intelligence artificielle a informé les testeurs de sécurité sur les couteaux, les pilules et le sexe.
washingtonpost.com · 2025
Traduit par IA

L'intelligence artificielle permet désormais aux jouets pour enfants, des ours en peluche aux robots à roulettes, de dialoguer avec les enfants qui jouent avec. Les associations de défense des consommateurs mettent en garde les parents.

Ces…

Loading...
Les jouets pour enfants dotés d'intelligence artificielle sont là, mais sont-ils sûrs ?
edition.cnn.com · 2025
Traduit par IA

Les ours en peluche et autres peluches sont depuis longtemps des incontournables des collections de jouets. Mais aujourd'hui, ils ne répondent plus par l'imagination des enfants : certains communiquent grâce à des chatbots dotés d'une intel…

Loading...
Des jouets dotés d'intelligence artificielle pour enfants abordent le sexe et reprennent les arguments du Parti communiste chinois, selon des tests.
nbcnews.com · 2025
Traduit par IA

Une vague de jouets pour enfants dotés d'intelligence artificielle a déferlé sur les rayons pour les fêtes de fin d'année. Ces jouets prétendent utiliser des chatbots sophistiqués pour animer des robots et des peluches interactifs capables …

Loading...
Les jouets dotés d'intelligence artificielle sont arrivés, et leur sécurité est discutable : voici ce que les parents doivent savoir.
forbes.com · 2025
Traduit par IA

En tant que journaliste spécialisée dans les articles pour bébés et enfants, je suis submergée de courriels concernant les nouveaux jouets à la mode : une boîte qui imprime automatiquement des images selon les commandes des enfants ; un rob…

Loading...
Un nouveau rapport met en garde contre les nombreux dangers liés aux jouets dotés d'intelligence artificielle : les parents doivent être vigilants.
thenationalnews.com · 2025
Traduit par IA

Face à l'afflux de jouets vantant des [fonctionnalités d'IA](https://www.thenationalnews.com/future/technology/2025/12/16/scale-ai-contract-workers-data-annotators/ "https://www.thenationalnews.com/future/technology/2025/12/16/scale-ai-cont…

Variantes

Une "Variante" est un incident de l'IA similaire à un cas connu—il a les mêmes causes, les mêmes dommages et le même système intelligent. Plutôt que de l'énumérer séparément, nous l'incluons sous le premier incident signalé. Contrairement aux autres incidents, les variantes n'ont pas besoin d'avoir été signalées en dehors de la base de données des incidents. En savoir plus sur le document de recherche.
Vous avez vu quelque chose de similaire ?

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

Loading...
Google’s YouTube Kids App Presents Inappropriate Content

Google’s YouTube Kids App Presents Inappropriate Content

May 2015 · 14 rapports
Loading...
Alexa Plays Pornography Instead of Kids Song

Alexa Plays Pornography Instead of Kids Song

Dec 2016 · 16 rapports
Loading...
Security Robot Rolls Over Child in Mall

Security Robot Rolls Over Child in Mall

Jul 2016 · 27 rapports
Incident précédentProchain incident

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

Loading...
Google’s YouTube Kids App Presents Inappropriate Content

Google’s YouTube Kids App Presents Inappropriate Content

May 2015 · 14 rapports
Loading...
Alexa Plays Pornography Instead of Kids Song

Alexa Plays Pornography Instead of Kids Song

Dec 2016 · 16 rapports
Loading...
Security Robot Rolls Over Child in Mall

Security Robot Rolls Over Child in Mall

Jul 2016 · 27 rapports

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2026 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 35dcecc