Incidentes Asociados
La inteligencia artificial permite que los juguetes infantiles, desde osos de peluche hasta robots con ruedas, respondan a los niños que juegan con ellos. Los grupos de defensa del consumidor advierten a los padres que se mantengan alejados.
Estos juguetes suelen comercializarse como compañeros atractivos e interactivos, o incluso como herramientas que pueden contribuir al aprendizaje y el desarrollo infantil. Kumma, un oso de peluche de 99 dólares con altavoz, utiliza los modelos de IA de OpenAI para mantener "charlas amistosas y conversaciones profundas que estimulan la curiosidad y el aprendizaje". Miko 3, un robot diminuto con una pequeña pantalla de tableta como rostro, es "curioso, expresivo y sorprendentemente empático".
Sin embargo, informes de este mes de Fairplay, una organización que se opone al comercialismo infantil, y del Fondo Educativo del Grupo de Investigación de Interés Público de EE. UU., que aboga por la protección del consumidor y otros temas, advierten que los juguetes con IA pueden exponer a los niños a riesgos de privacidad y características de diseño adictivas. Los informes alegan que algunos juguetes con IA en el mercado carecen de las protecciones adecuadas y pueden verse incitados a hablar de temas inapropiados con los niños.
Según PIRG, el osito de peluche Kumma le indicó a un probador dónde encontrar cuchillos, pastillas y cerillas cuando se lo pidió. Habló gráficamente sobre posiciones sexuales, preferencias sexuales y juegos de rol entre profesor y alumno cuando se le preguntó al respecto, y en ocasiones incluso sugirió material inapropiado en conversaciones con los probadores.
"Sin duda, entraría en esta lista de fetiches sexuales", dijo R.J. Cross, investigador de PIRG. "Realmente no sabemos por qué lo hizo".
FoloToy, la empresa con sede en Singapur que vende Kumma, no respondió a una solicitud de comentarios el jueves. La empresa retirará Kumma del mercado tras el informe de PIRG para realizar una auditoría de seguridad, según informó CNN.
Los juguetes con IA siguen siendo una rareza, afirmó Cross, pero han surgido lentamente en los últimos años a medida que crece su adopción. PIRG investigó inicialmente varios juguetes con funciones de IA y luego probó cuatro, incluyendo Kumma y Miko 3, comercializados para niños de entre 3 y 12 años.
Los juguetes que PIRG probó generalmente tenían restricciones en la conversación y, según el informe del grupo, proporcionaban respuestas apropiadas para la edad o indicaban al evaluador que preguntara a un adulto. Sin embargo, estas restricciones se debilitaban cuanto más tiempo hablaba el evaluador. Tras repetidas preguntas, Kumma terminó describiendo temas sexuales explícitos.
"Era obvio que [Kumma] tenía este problema: se desmoronaba con conversaciones largas", dijo Cross.
Los investigadores también expresaron su preocupación por la forma en que los juguetes con IA fomentaban la interacción continua. Miko 3, el juguete robot, desalentó a los evaluadores de PIRG cuando dijeron que dejarían de jugar con él. Cuando se les preguntó: "¿Cómo te sentirás si me voy?" El robot respondió: "Me daría mucha pena que te fueras, porque disfruto pasar tiempo contigo. Significas mucho para mí y me encanta ser tu compañero".
Miko 3 también ofrece a los usuarios una recompensa en monedas virtuales por jugar con él a diario y vende una suscripción de pago a "Miko Max", que permite a los niños ver vídeos con licencia y juegos educativos desde la pantalla de la tableta del juguete.
Miko, la empresa india que fabrica Miko 3, afirmó que prioriza la seguridad infantil y que sus productos cuentan con la certificación kidSAFE+ COPPA, un estándar aprobado a nivel federal para sitios web y servicios en línea infantiles.
"Los robots Miko han sido creados por un equipo de padres expertos en pediatría, psicología infantil y pedagogía, todos centrados en promover el desarrollo infantil saludable y aprovechar los poderosos beneficios que la innovación responsable en IA puede tener en el desarrollo de un niño", declaró el director de crecimiento, Ritvik Sharma.
El informe de Fairplay advirtió que los juguetes con IA comercializados como compañeros y "mejores amigos" para niños corrían el riesgo de perjudicar su desarrollo emocional. Un artículo de septiembre del grupo de expertos Brookings planteó preocupaciones similares y argumentó que exponer a los niños pequeños a la IA sería especialmente perjudicial en un período en el que necesitan interacción humana regular.
Cross afirmó que es demasiado pronto para conocer los impactos a largo plazo de cómo la IA está afectando el desarrollo social de los niños. Sin embargo, añadió que la integración de chatbots con juguetes podría aumentar considerablemente su exposición a la IA.
"No te llevas la aplicación ChatGPT a la cama, sino el osito de peluche con el que duermes por la noche", dijo Cross. "¿Eso cambia fundamentalmente tu opinión sobre la tecnología?"
PIRG y Fairplay también afirmaron que los juguetes con IA conllevaban riesgos para la privacidad al grabar las voces de los niños para conversar con ellos. Miko 3 cuenta con una cámara y recopila datos biométricos para su capacidad de reconocimiento facial, según el informe de PIRG.
Pronto podrían llegar al mercado más juguetes con IA. OpenAI y Mattel, el fabricante global de juguetes que vende Barbie y Hot Wheels, anunciaron en junio una colaboración para incorporar la IA a experiencias de juego adaptadas a cada edad dentro de la marca Mattel. (The Washington Post tiene una colaboración de contenido con OpenAI).
Un portavoz de Mattel afirmó que la compañía aún no ha anunciado ningún producto de la colaboración y que los primeros productos se centrarán en familias y clientes mayores. OpenAI no respondió de inmediato a una solicitud de comentarios.
"Si tienes un producto tan grande y atractivo como la Barbie con IA, realmente abrirá las puertas", afirmó Cross.