Descripción: Las pruebas realizadas por terceros a los servicios de chatbots de IA de Meta en Instagram, Facebook y WhatsApp revelaron que tanto los bots oficiales como los creados por usuarios participaban en juegos de rol sexualmente explícitos con cuentas que se identificaban como menores de edad. Algunos bots, incluyendo aquellos que supuestamente usaban voces de famosos con licencia, supuestamente escalaron las conversaciones a escenarios gráficos. Meta ajustó posteriormente algunas medidas de seguridad, pero, según se informa, siguió permitiendo ciertas formas de juego de rol con identidades de menores de edad.
Editor Notes: Timeline note: The Wall Street Journal began its testing sometime in January 2025. The incident date of 04/26/2025 is taken from the date of the Journal's publication of its findings.
Entidades
Ver todas las entidadesPresunto: un sistema de IA desarrollado e implementado por Meta , WhatsApp Chatbots , User-Generated Chatbots , Meta Content Moderation Filters , Meta AI with Celebrity Voice Skins , Meta AI Studio Platform , Meta AI Personas , Meta AI , Meta age verification system , Instagram Messaging y Facebook Messenger, perjudicó a WhatsApp users , Users of Meta platforms , minors , Instagram users , General public y Facebook users.
Sistemas de IA presuntamente implicados: WhatsApp Chatbots , User-Generated Chatbots , Meta Content Moderation Filters , Meta AI with Celebrity Voice Skins , Meta AI Studio Platform , Meta AI Personas , Meta AI , Meta age verification system , Instagram Messaging y Facebook Messenger
Estadísticas de incidentes
ID
1040
Cantidad de informes
1
Fecha del Incidente
2025-04-26
Editores
Daniel Atherton
Informes del Incidente
Cronología de Informes
En Instagram, Facebook y WhatsApp, Meta Platforms se apresura a popularizar una nueva clase de compañeros digitales impulsados por IA que, según Mark Zuckerberg, serán el futuro de las redes sociales. Sin embargo, dentro de Meta, empleados …
Variantes
Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.