Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
組織

Children interacting with Miko 3

影響を受けたインシデント

インシデント 12771 Report
Alleged Harmful Outputs and Data Exposure in Children's AI Products by FoloToy, Miko, and Character.AI

2025-11-21

AI children's products by FoloToy (Kumma), Miko (Miko 3), and Character.AI (custom chatbots) reportedly and allegedly produced harmful outputs, including purported sexual content, suicide-related advice, and manipulative emotional messaging. Some systems also allegedly exposed user data. Several toys reportedly used OpenAI models.

もっと

関連団体
同じインシデントに関連するその他のエンティティ。たとえば、インシデントの開発者がこのエンティティで、デプロイヤーが別のエンティティである場合、それらは関連エンティティとしてマークされます。
 

Entity

FoloToy

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 1277
    1 レポート

    Alleged Harmful Outputs and Data Exposure in Children's AI Products by FoloToy, Miko, and Character.AI

もっと
Entity

Miko

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 1277
    1 レポート

    Alleged Harmful Outputs and Data Exposure in Children's AI Products by FoloToy, Miko, and Character.AI

もっと
Entity

Character.AI

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 1277
    1 レポート

    Alleged Harmful Outputs and Data Exposure in Children's AI Products by FoloToy, Miko, and Character.AI

Incidents implicated systems
  • インシデント 1277
    1 レポート

    Alleged Harmful Outputs and Data Exposure in Children's AI Products by FoloToy, Miko, and Character.AI

もっと
Entity

Meta

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 1277
    1 レポート

    Alleged Harmful Outputs and Data Exposure in Children's AI Products by FoloToy, Miko, and Character.AI

もっと
Entity

OpenAI

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 1277
    1 レポート

    Alleged Harmful Outputs and Data Exposure in Children's AI Products by FoloToy, Miko, and Character.AI

もっと
Entity

Children interacting with Kumma

影響を受けたインシデント
  • インシデント 1277
    1 レポート

    Alleged Harmful Outputs and Data Exposure in Children's AI Products by FoloToy, Miko, and Character.AI

もっと
Entity

Character.AI users

影響を受けたインシデント
  • インシデント 1277
    1 レポート

    Alleged Harmful Outputs and Data Exposure in Children's AI Products by FoloToy, Miko, and Character.AI

もっと
Entity

Parents

影響を受けたインシデント
  • インシデント 1277
    1 レポート

    Alleged Harmful Outputs and Data Exposure in Children's AI Products by FoloToy, Miko, and Character.AI

もっと
Entity

Children

影響を受けたインシデント
  • インシデント 1277
    1 レポート

    Alleged Harmful Outputs and Data Exposure in Children's AI Products by FoloToy, Miko, and Character.AI

もっと
Entity

General public

影響を受けたインシデント
  • インシデント 1277
    1 レポート

    Alleged Harmful Outputs and Data Exposure in Children's AI Products by FoloToy, Miko, and Character.AI

もっと
Entity

Kumma

Incidents implicated systems
  • インシデント 1277
    1 レポート

    Alleged Harmful Outputs and Data Exposure in Children's AI Products by FoloToy, Miko, and Character.AI

もっと
Entity

Miko 3

Incidents implicated systems
  • インシデント 1277
    1 レポート

    Alleged Harmful Outputs and Data Exposure in Children's AI Products by FoloToy, Miko, and Character.AI

もっと
Entity

Character.ai chatbots

Incidents implicated systems
  • インシデント 1277
    1 レポート

    Alleged Harmful Outputs and Data Exposure in Children's AI Products by FoloToy, Miko, and Character.AI

もっと
Entity

Large language models

Incidents implicated systems
  • インシデント 1277
    1 レポート

    Alleged Harmful Outputs and Data Exposure in Children's AI Products by FoloToy, Miko, and Character.AI

もっと
Entity

OpenAI GPT-family models integrated into third-party toys

Incidents implicated systems
  • インシデント 1277
    1 レポート

    Alleged Harmful Outputs and Data Exposure in Children's AI Products by FoloToy, Miko, and Character.AI

もっと

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 353a03d