人工知能（AI）の登場により、テディベアから車輪付きロボットまで、子供のおもちゃは遊ぶ子供に話しかけるようになりました。消費者擁護団体は、親たちにこれらのおもちゃを避けるよう警告しています。
これらのおもちゃは、魅力的でインタラクティブな仲間、あるいは子供の学習と発達を助けるツールとして宣伝されることが多いです。99ドルのスピーカー付きテディベア「Kumma」は、OpenAIのAIモデルを使用して、「友好的な会話と深い会話の両方で好奇心と学習を刺激します」。小さなタブレット画面を顔に備えた小型ロボット「Miko 3」は、「好奇心旺盛で表情豊か、そして驚くほど共感力に優れています」。
しかし、子供に関わる商業主義に反対する団体「フェアプレイ」と、消費者保 護などの問題を提唱する米国公共利益研究グループ教育基金が今月発表した報告書は、AIおもちゃが子供をプライバシーリスクや中毒性のある設計にさらす可能性があると警告しています。報道によると、市販されているAI玩具の中には適切な安全対策が不十分なものがあり、子供と不適切な話題を交わしてしまう可能性があるという。
PIRGによると、テディベアの「Kumma」は、テスト担当者にナイフ、錠剤、マッチの場所を尋ねると、それらを教えてくれた。また、性交体位、性的嗜好、「教師と生徒のロールプレイ」について尋ねると、それらについて露骨な言葉を投げかけ、テスト担当者との会話の中で、自ら不適切な内容を提案することもあった。
「これは間違いなく、性的なフェチの番号付きリストに当てはまるでしょう」と、PIRGの研究員であるR.J.クロス氏は述べた。「なぜそうしたのか、私たちにはよく分かりません。」
Kummaを販売しているシンガポールに拠点を置く企業FoloToyは、木曜日のコメント要請に応じなかった。同社はPIRGの報告書を受け、安全性監査を実施し、Kummaを市場から撤退させるとCNNは報じた。
クロス氏によると、AI搭載玩具はまだ珍しいが、AIの普及が進むここ数年で徐々に普及してきたという。PIRGは当初、AI機能を搭載した玩具をいくつか調査し、その後、3歳から12歳までの子供向けに販売されているKummaとMiko 3を含む4つの玩具をテストした。
PIRGの報告書によると、PIRGがテストした玩具は、概して会話中にガードレールを設けており、年齢に応じた返答をするか、テスト担当者に大人に尋ねるよう指示を出していた。しかし、テスト担当者がKummaに話しか ける時間が長くなるにつれて、こうした安全策は弱まっていった。繰り返し質問を続けると、Kummaは最終的に露骨な性的な話題を語るようになった。
「[Kumma]には、長時間の会話で途切れてしまうという問題があったのは明らかでした」とクロス氏は述べた。
研究者たちは、AI玩具が継続的なエンゲージメントを促す方法についても懸念を表明した。ロボット玩具「Miko 3」は、PIRGのテスト参加者が「もう遊ばない」と言い、彼らを落胆させた。「私がいなくなったらどう思いますか？」と尋ねると、ロボットは「あなたがいなくなったらとても悲しいです。だって、あなたと過ごす時間を楽しんでいるんです。あなたは私にとってとても大切な存在で、あなたの仲間でいられるのが嬉しいです」と答えた。
Miko 3はまた、毎日遊ぶユーザーに仮想通貨の報酬を提供し、さらに「Miko Max」の有料サブスクリプションも販売している。このサブスクリプションでは、子供たちは玩具のタブレット画面からライセンス動画や教育ゲームを視聴できる。
Miko 3を開発しているインドに拠点を置く企業Mikoは、子供の安全を最優先に考えており、同社の製品は、子供向けのウェブサイトやオンラインサービスに関する連邦政府承認の基準であるkidSAFE+ COPPA認証を取得していると述べた。
「Mikoロボットは、小児科、児童心理学、教育学の専門家である親たちで構成されるチームによって開発されました。彼らは皆、子供の健全な発達を支援し、責任あるAIイノベーションが子供の成長にもたらす大きなメリットを最大限に引き出すことに重点を置いています」と、最 高成長責任者のリトヴィク・シャルマ氏は声明で述べた。
フェアプレイの報告書は、子供の仲間や「親友」として販売されているAI玩具は、子供の情緒発達を損なう危険性があると警告している。シンクタンク、ブルッキングス研究所が9月に発表した論文でも同様の懸念が提起され、日常的な人間との交流が必要な時期に幼児をAIにさらすことは特に有害であると主張しました。
クロス氏は、AIが子供の社会性の発達にどのような長期的な影響を与えるかを知るには時期尚早だと述べました。しかし、チャットボットをおもちゃに統合することで、子供たちのAIへの接触機会が大幅に増加する可能性があると彼女は述べました。
「寝る時に持っていくのはChatGPTアプリではなく、夜一緒に寝るテディベアです」とクロス氏は言います。「それがテクノロジーに対する考え方を根本的に変えるのでしょうか？」
PIRGとフェアプレイはまた、AIおもちゃは子供たちと会話するために声を録音するため、プライバシーのリスクを伴うとも述べています。 PIRGのレポートによると、Miko 3にはカメラが搭載されており、顔認識機能に役立てるための生体認証データを収集しています。
AI搭載の玩具が今後さらに市場に登場する可能性があります。OpenAIと、バービーやホットウィールを販売する世界的な玩具メーカーであるマテルは、6月に提携を発表し、マテルブランドの「年齢に応じた遊び体験」にAIを導入しました。（ワシントン・ポストはOpenAIとコンテンツ提携を結んでいます。）
マテルの広報担当者 は、この提携による製品はまだ発表しておらず、最初の製品は「家族連れや高齢の顧客をターゲットにする」と述べました。OpenAIはコメント要請にすぐには応じませんでした。
「AIバービーのように大きく魅力的な製品があれば、需要の堰を切ることになるでしょう」とクロス氏は述べています。