Skip to Content
logologo
AI Incident Database
Donar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Vista espacial
  • Blog
  • Resumen de noticias de IA
  • Incidente aleatorio
  • Registrarse
Descubrir
Enviar
  • Bienvenido a la AIID
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Vista espacial
  • Blog
  • Resumen de noticias de IA
  • Incidente aleatorio
  • Registrarse
Traducido por IA

Incidente 1277: Presuntos resultados nocivos y exposición de datos en productos de inteligencia artificial para niños de FoloToy, Miko y Character.AI

Traducido por IA
Descripción:
Traducido por IA
Los productos infantiles con IA de FoloToy (Kumma), Miko (Miko 3) y Character.AI (chatbots personalizados) supuestamente produjeron resultados dañinos, incluyendo supuesto contenido sexual, consejos relacionados con el suicidio y mensajes emocionales manipuladores. Algunos sistemas también expusieron presuntamente datos de usuarios. Varios juguetes supuestamente utilizaban modelos OpenAI.

Herramientas

Nuevo InformeNueva RespuestaDescubrirVer Historial
El Monitor de Incidentes y Riesgos de IA de la OCDE (AIM) recopila y clasifica automáticamente incidentes y riesgos relacionados con la IA en tiempo real a partir de fuentes de noticias reputadas en todo el mundo.
 

Entidades

Ver todas las entidades
Presunto: un sistema de IA desarrollado e implementado por OpenAI , Miko , Meta , FoloToy , Character.ai , Miko 3 , Large language models , Kumma , Character.ai chatbots y OpenAI models, perjudicó a Parents , Minors , General public , Children interacting with Miko 3 , Children interacting with Kumma , Character.ai users y Privacy.
Sistemas de IA presuntamente implicados: Character.ai , Miko 3 , Large language models , Kumma , Character.ai chatbots y OpenAI models

Estadísticas de incidentes

ID
1277
Cantidad de informes
5
Fecha del Incidente
2025-11-21
Editores
Daniel Atherton
Applied Taxonomies
MIT

Clasificaciones de la Taxonomía MIT

Machine-Classified
Detalles de la Taxonomía

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

1.2. Exposure to toxic content

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Discrimination and Toxicity

Entity

Which, if any, entity is presented as the main cause of the risk
 

AI

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Unintentional

Informes del Incidente

Cronología de Informes

+1
Un oso de peluche impulsado por IA contó a los evaluadores de seguridad sobre cuchillos, pastillas y sexo.
Los juguetes infantiles con inteligencia artificial ya están aquí, pero ¿son seguros?Los juguetes con IA para niños hablan de sexo y repiten los argumentos del Partido Comunista Chino, según muestran las pruebas.Los juguetes con IA ya están aquí, y su seguridad es cuestionable: esto es lo que los padres deben saber.Un nuevo informe advierte de que los juguetes con inteligencia artificial son muy peligrosos y que los padres deben estar alerta.
Loading...
Un oso de peluche impulsado por IA contó a los evaluadores de seguridad sobre cuchillos, pastillas y sexo.

Un oso de peluche impulsado por IA contó a los evaluadores de seguridad sobre cuchillos, pastillas y sexo.

washingtonpost.com

Loading...
Los juguetes infantiles con inteligencia artificial ya están aquí, pero ¿son seguros?

Los juguetes infantiles con inteligencia artificial ya están aquí, pero ¿son seguros?

edition.cnn.com

Loading...
Los juguetes con IA para niños hablan de sexo y repiten los argumentos del Partido Comunista Chino, según muestran las pruebas.

Los juguetes con IA para niños hablan de sexo y repiten los argumentos del Partido Comunista Chino, según muestran las pruebas.

nbcnews.com

Loading...
Los juguetes con IA ya están aquí, y su seguridad es cuestionable: esto es lo que los padres deben saber.

Los juguetes con IA ya están aquí, y su seguridad es cuestionable: esto es lo que los padres deben saber.

forbes.com

Loading...
Un nuevo informe advierte de que los juguetes con inteligencia artificial son muy peligrosos y que los padres deben estar alerta.

Un nuevo informe advierte de que los juguetes con inteligencia artificial son muy peligrosos y que los padres deben estar alerta.

thenationalnews.com

Loading...
Un oso de peluche impulsado por IA contó a los evaluadores de seguridad sobre cuchillos, pastillas y sexo.
washingtonpost.com · 2025
Traducido por IA

La inteligencia artificial permite que los juguetes infantiles, desde osos de peluche hasta robots con ruedas, respondan a los niños que juegan con ellos. Los grupos de defensa del consumidor advierten a los padres que se mantengan alejados…

Loading...
Los juguetes infantiles con inteligencia artificial ya están aquí, pero ¿son seguros?
edition.cnn.com · 2025
Traducido por IA

Los ositos de peluche y los muñecos de peluche han sido durante mucho tiempo un elemento básico en las colecciones de juguetes. Pero hoy en día, no interactúan con la imaginación de los niños; algunos lo hacen a través de chatbots con intel…

Loading...
Los juguetes con IA para niños hablan de sexo y repiten los argumentos del Partido Comunista Chino, según muestran las pruebas.
nbcnews.com · 2025
Traducido por IA

Esta temporada navideña, una oleada de juguetes infantiles con inteligencia artificial ha llegado a las tiendas, afirmando utilizar sofisticados chatbots para animar robots interactivos y peluches capaces de conversar con los niños.

Los niñ…

Loading...
Los juguetes con IA ya están aquí, y su seguridad es cuestionable: esto es lo que los padres deben saber.
forbes.com · 2025
Traducido por IA

Como escritora especializada en artículos para bebés y niños, recibo muchísimos correos electrónicos sobre los juguetes más novedosos: una caja que imprime imágenes automáticamente según las órdenes de los niños; un robot con reconocimiento…

Loading...
Un nuevo informe advierte de que los juguetes con inteligencia artificial son muy peligrosos y que los padres deben estar alerta.
thenationalnews.com · 2025
Traducido por IA

En medio de la avalancha de juguetes con funciones de inteligencia artificial (IA) que se lanzan esta temporada navideña, un grupo de defensa del consumidor advierte que se debe hacer más para garantizar la seguridad de estos dispositivos p…

Variantes

Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.
¿Has visto algo similar?

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Loading...
Google’s YouTube Kids App Presents Inappropriate Content

Google’s YouTube Kids App Presents Inappropriate Content

May 2015 · 14 informes
Loading...
Alexa Plays Pornography Instead of Kids Song

Alexa Plays Pornography Instead of Kids Song

Dec 2016 · 16 informes
Loading...
Security Robot Rolls Over Child in Mall

Security Robot Rolls Over Child in Mall

Jul 2016 · 27 informes
Incidente AnteriorSiguiente Incidente

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Loading...
Google’s YouTube Kids App Presents Inappropriate Content

Google’s YouTube Kids App Presents Inappropriate Content

May 2015 · 14 informes
Loading...
Alexa Plays Pornography Instead of Kids Song

Alexa Plays Pornography Instead of Kids Song

Dec 2016 · 16 informes
Loading...
Security Robot Rolls Over Child in Mall

Security Robot Rolls Over Child in Mall

Jul 2016 · 27 informes

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2026 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • 3e68a9f