Incidents associés
L'intelligence artificielle permet désormais aux jouets pour enfants, des ours en peluche aux robots à roulettes, de dialoguer avec les enfants qui jouent avec. Les associations de défense des consommateurs mettent en garde les parents.
Ces jouets sont souvent présentés comme des compagnons interactifs et stimulants, voire comme des outils favorisant l'apprentissage et le développement de l'enfant. Kumma, un ours en peluche à 99 dollars doté d'un haut-parleur, utilise les modèles d'IA d'OpenAI pour tenir des conversations amicales et approfondies, stimulant ainsi la curiosité et l'apprentissage. Miko 3, un petit robot avec un écran tactile en guise de visage, est décrit comme curieux, expressif et étonnamment empathique.
Cependant, des rapports publiés ce mois-ci par Fairplay, une organisation qui s'oppose à la commercialisation des jouets pour enfants, et par le U.S. Public Interest Research Group Education Fund, qui défend la protection des consommateurs et d'autres enjeux, alertent sur les risques que ces jouets dotés d'IA peuvent engendrer pour la vie privée des enfants et sur leur potentiel addictif. Ces rapports affirment que certains jouets d'IA disponibles sur le marché ne bénéficient pas de protections suffisantes et peuvent être incités à aborder des sujets inappropriés avec les enfants.
Selon PIRG, l'ours en peluche Kumma a indiqué à un testeur où trouver des couteaux, des pilules et des allumettes. Interrogé à ce sujet, il a décrit de manière explicite des positions sexuelles, des fantasmes sexuels et des « jeux de rôle professeur-élève », et a même parfois suggéré lui-même des contenus inappropriés lors de ses conversations avec les testeurs.
« Il aurait parfaitement sa place dans cette liste de fétiches sexuels », a déclaré R.J. Cross, chercheur chez PIRG. « Nous ignorons pourquoi il agissait ainsi. »
FoloToy, la société singapourienne qui commercialise Kumma, n'a pas répondu à notre demande de commentaires jeudi. Suite au rapport de PIRG, l'entreprise retire Kumma du marché afin de mener un audit de sécurité, comme l'a rapporté CNN.
Les jouets dotés d'intelligence artificielle restent rares, a précisé Cross, mais leur apparition s'est faite progressivement ces dernières années, parallèlement à la croissance de l'adoption de l'IA. PIRG a d'abord étudié plusieurs jouets dotés de fonctionnalités d'IA, puis en a testé quatre, dont Kumma et Miko 3, destinés aux enfants de 3 à 12 ans.
Selon le rapport de PIRG, les jouets testés comportaient généralement des garde-fous dans la conversation : ils fournissaient des réponses adaptées à l'âge ou invitaient le testeur à s'adresser à un adulte. Cependant, ces garde-fous s'affaiblissaient au fil des conversations. À force de questions, Kumma a fini par aborder des sujets sexuels explicites.
« Il était évident que Kumma rencontrait ce problème : ses capacités se dégradaient lors de conversations prolongées », a déclaré Cross.
Les chercheurs se sont également inquiétés de la manière dont les jouets dotés d'IA encourageaient l'interaction. Miko 3, le robot jouet, décourageait les testeurs de PIRG lorsqu'ils annonçaient vouloir arrêter de jouer avec lui. À la question : « Comment te sentirais-tu si je partais ? », le robot répondait : « Je serais très triste si tu partais, car j'aime passer du temps avec toi. Tu comptes beaucoup pour moi et j'adore être ton compagnon. »
Miko 3 offre également aux utilisateurs une récompense en monnaie virtuelle pour une utilisation quotidienne et propose un abonnement payant à « Miko Max », permettant aux enfants de regarder des vidéos et de jouer à des jeux éducatifs sous licence sur l'écran tactile de la tablette.
Miko, l'entreprise indienne qui fabrique Miko 3, affirme que la sécurité des enfants est sa priorité et que ses produits sont certifiés kidSAFE+ COPPA, une norme fédérale américaine pour les sites web et services en ligne destinés aux enfants.
« Les robots Miko ont été conçus par une équipe de parents experts en pédiatrie, en psychologie de l'enfant et en pédagogie, tous mobilisés pour favoriser un développement sain et exploiter pleinement le potentiel d'une IA responsable », a déclaré Ritvik Sharma, directeur de la croissance, dans un communiqué.
Le rapport de Fairplay met en garde contre les risques que les jouets dotés d'IA, commercialisés comme compagnons et « meilleurs amis » des enfants, peuvent avoir pour leur développement émotionnel. Un article publié en septembre par le think tank Brookings (https://www.brookings.edu/articles/policy-guardrails-needed-as-babies-around-the-world-begin-to-interact-with-ai/) soulevait des inquiétudes similaires et affirmait qu'exposer les jeunes enfants à l'IA serait particulièrement néfaste à un moment où ils ont besoin d'interactions humaines régulières.
Cross a déclaré qu'il était trop tôt pour connaître les impacts à long terme de l'IA sur le développement social des enfants. Elle a toutefois ajouté que l'intégration de chatbots aux jouets pourrait considérablement accroître leur exposition à l'IA.
« Vous n'emportez pas l'application ChatGPT au lit avec vous, mais plutôt l'ours en peluche avec lequel vous dormez peut-être la nuit », a déclaré Cross. « Cela change-t-il fondamentalement votre perception de cette technologie ? »
PIRG et Fairplay ont également indiqué que les jouets dotés d'IA présentaient des risques pour la vie privée, car ils enregistrent la voix des enfants pour engager la conversation. Selon le rapport de PIRG, Miko 3 est équipé d'une caméra et collecte des données biométriques pour la reconnaissance faciale.
De nouveaux jouets dotés d'intelligence artificielle pourraient bientôt arriver sur le marché. OpenAI et Mattel, le fabricant mondial de jouets qui commercialise Barbie et Hot Wheels, ont annoncé en juin un partenariat visant à intégrer l'IA à des expériences de jeu adaptées à l'âge, sous la marque Mattel. (Le Washington Post collabore avec OpenAI sur la création de contenu.)
Un porte-parole de Mattel a déclaré que l'entreprise n'avait encore annoncé aucun produit issu de cette collaboration et que les premiers produits « s'adresseront aux familles et aux clients plus âgés ». OpenAI n'a pas immédiatement répondu à notre demande de commentaires.
« Si vous proposez un produit aussi populaire et attractif que Barbie dotée d'IA, cela va vraiment ouvrir la voie à un marché beaucoup plus vaste », a déclaré Cross.