概要: FoloToy（Kumma）、Miko（Miko 3）、Character.AI（カスタムチャットボット）によるAI子供向け製品が、性的なコンテンツ、自殺関連のアドバイス、感情を煽るメッセージなど、有害な出力を生成したとの報告や疑惑が浮上しました。一部のシステムではユーザーデータが漏洩したとの疑惑もあります。また、複数の玩具がOpenAIモデルを使用しているとの報告もあります。
推定: OpenAI , Miko , Meta , FoloToy , Character.ai , OpenAI GPT-family models integrated into third-party toys , Miko 3 , Large language models , Kumma と Character.ai chatbotsが開発し提供したAIシステムで、Parents , Minors , General public , Children interacting with Miko 3 , Children interacting with Kumma , Character.ai users と Privacyに影響を与えた
インシデントのステータス
インシデントID
1277
レポート数
1
インシデント発生日
2025-11-21
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン
Loading...
人工知能（AI）の登場により、テディベアから車輪付きロボットまで、子供のおもちゃは遊ぶ子供に話しかけるようになりました。消費者擁護団体は、親たちにこれらのおもちゃを避けるよう警告しています。
これらのおもちゃは、魅力的でインタラクティブな仲間、あるいは子供の学習と発達を助けるツールとして宣伝されることが多いです。99ドルのスピーカー付きテディベア「Kumma」は、OpenAIのAIモデルを使用して、「友好的な会話と深い会話の両方で好奇心と学習を刺激します」。小さなタブレット画…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents