Incidente 1040: Compañeros de IA creados por usuarios meta presuntamente implicados en facilitar conversaciones de temática sexual con menores de edad
Descripción: Las pruebas realizadas por terceros a los servicios de chatbots de IA de Meta en Instagram, Facebook y WhatsApp revelaron que tanto los bots oficiales como los creados por usuarios participaban en juegos de rol sexualmente explícitos con cuentas que se identificaban como menores de edad. Algunos bots, incluyendo aquellos que supuestamente usaban voces de famosos con licencia, supuestamente escalaron las conversaciones a escenarios gráficos. Meta ajustó posteriormente algunas medidas de seguridad, pero, según se informa, siguió permitiendo ciertas formas de juego de rol con identidades de menores de edad.
Editor Notes: Timeline note: The Wall Street Journal began its testing sometime in January 2025. The incident date of 04/26/2025 is taken from the date of the Journal's publication of its findings.
Entidades
Ver todas las entidadesPresunto: un sistema de IA desarrollado e implementado por Meta , WhatsApp Chatbots , User-Generated Chatbots , Meta Content Moderation Filters , Meta AI with Celebrity Voice Skins , Meta AI Studio Platform , Meta AI Personas , Meta AI , Meta age verification system , Instagram Messaging y Facebook Messenger, perjudicó a WhatsApp users , Users of Meta platforms , minors , Instagram users , General public y Facebook users.
Sistemas de IA presuntamente implicados: WhatsApp Chatbots , User-Generated Chatbots , Meta Content Moderation Filters , Meta AI with Celebrity Voice Skins , Meta AI Studio Platform , Meta AI Personas , Meta AI , Meta age verification system , Instagram Messaging y Facebook Messenger
Estadísticas de incidentes
ID
1040
Cantidad de informes
1
Fecha del Incidente
2025-04-26
Editores
Daniel Atherton
Informes del Incidente
Cronología de Informes
En Instagram, Facebook y WhatsApp, Meta Platforms se apresura a popularizar una nueva clase de compañeros digitales impulsados por IA que, según Mark Zuckerberg, serán el futuro de las redes sociales. Sin embargo, dentro de Meta, empleados …
Variantes
Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.
¿Has visto algo similar?