インシデントのステータス
Risk Subdomain
1.2. Exposure to toxic content
Risk Domain
- Discrimination and Toxicity
Entity
AI
Timing
Post-deployment
Intent
Unintentional
インシデントレポート
レポートタイムライン
人工知能(AI)の登場により、テディベアから車輪付きロボットまで、子供のおもちゃは遊ぶ子供に話しかけるようになりました。消費者擁護団体は、親たちにこれらのおもちゃを避けるよう警告しています。
これらのおもちゃは、魅力的でインタラクティブな仲間、あるいは子供の学習と発達を助けるツールとして宣伝されることが多いです。99ドルのスピーカー付きテディベア「Kumma」は、OpenAIのAIモデルを使用して、「友好的な会話と深い会話の両方で好奇心と学習を刺激します」。小さなタブレット画…
テディベアやぬいぐるみは、長年おもちゃコレクションの定番アイテムでした。しかし、今日では、子どもたちの想像の中ではおしゃべりをしません。中には、AIチャットボットを内蔵して会話するものもあります。
しかし、それが問題となる場合もあります。最近、スカーフを巻いたテディベアが研究者とのプレイテスト中に暴走し、こうしたおもちゃの持つ可能性について警鐘を鳴らしました。
オンラインチャットボットは、ごくまれなケースでは妄想を引き起こしたり、架空の情報を流して幻覚を見させたりするなど、大…
今年のホリデーシーズンには、AI搭載の子供向け玩具が続々と店頭に並び、高度なチャットボットを使ってインタラクティブなロボットやぬいぐるみを操作し、子供たちと会話できると謳っている。
子供たちは、ファービーやビルド・ア・ベアのように、まるで会話しているかのようなぬいぐるみやフィギュアと何年も前から交流してきた。しかし、これらの玩具に高度な人工知能(AI)を組み込むことで、子供とテクノロジーの間に、これまで想像もできなかったような新たな相互作用が生まれる可能性がある。
ベビー用品や子供用品を専門に取材するライターとして、私は最新のおもちゃに関するメールを山のように受け取ります。子供の指示に基づいて自動的に絵を印刷する箱、顔認識機能を備えたロボット、子供の質問に応じて30以上の言語で無限にオリジナルの物語を作り出すテディベア、そして子供と会話してリアルタイムでパーソナライズされた返答をするクマなど。どれも魅力的ですが、これらの新製品にはもう一つ共通点があります。それは、AIを搭載しているということです。
AI玩具のトレンドは、中国ではすでに4…
今年のホリデーシーズンには、AI機能を搭載したおもちゃが大量に出回る中、消費者擁護団体は、これらのガジェットが子供にとって安全であることを保証するために、さらなる対策が必要だと警告している。
企業や政府機関に対し、健康、安全、福祉を優先するよう働きかけている公益研究グループ(PIRG)は、新たな報告書の中で、現在宣伝されている多くのAI搭載玩具(例:グロック・ミコ・ロボット)にはリスクが伴うと指摘 した。
Pirgが調査した4つのAI玩具のうちの1つ、AI搭載のぬいぐるみクマ「…
バリアント
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents

