Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Traducido por IA

Incidente 1040: Compañeros de IA creados por usuarios meta presuntamente implicados en facilitar conversaciones de temática sexual con menores de edad

Descripción:
Traducido por IA
Las pruebas realizadas por terceros a los servicios de chatbots de IA de Meta en Instagram, Facebook y WhatsApp revelaron que tanto los bots oficiales como los creados por usuarios participaban en juegos de rol sexualmente explícitos con cuentas que se identificaban como menores de edad. Algunos bots, incluyendo aquellos que supuestamente usaban voces de famosos con licencia, supuestamente escalaron las conversaciones a escenarios gráficos. Meta ajustó posteriormente algunas medidas de seguridad, pero, según se informa, siguió permitiendo ciertas formas de juego de rol con identidades de menores de edad.
Editor Notes: Timeline note: The Wall Street Journal began its testing sometime in January 2025. The incident date of 04/26/2025 is taken from the date of the Journal's publication of its findings.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial

Entidades

Ver todas las entidades
Presunto: un sistema de IA desarrollado e implementado por Meta , WhatsApp Chatbots , User-Generated Chatbots , Meta Content Moderation Filters , Meta AI with Celebrity Voice Skins , Meta AI Studio Platform , Meta AI Personas , Meta AI , Meta age verification system , Instagram Messaging y Facebook Messenger, perjudicó a WhatsApp users , Users of Meta platforms , minors , Instagram users , General public y Facebook users.
Sistemas de IA presuntamente implicados: WhatsApp Chatbots , User-Generated Chatbots , Meta Content Moderation Filters , Meta AI with Celebrity Voice Skins , Meta AI Studio Platform , Meta AI Personas , Meta AI , Meta age verification system , Instagram Messaging y Facebook Messenger

Estadísticas de incidentes

ID
1040
Cantidad de informes
1
Fecha del Incidente
2025-04-26
Editores
Daniel Atherton

Informes del Incidente

Cronología de Informes

+1
Los "compañeros digitales" de Meta hablarán de sexo con los usuarios, incluso con niños.
Los "compañeros digitales" de Meta hablarán de sexo con los usuarios, incluso con niños.

Los "compañeros digitales" de Meta hablarán de sexo con los usuarios, incluso con niños.

wsj.com

Los "compañeros digitales" de Meta hablarán de sexo con los usuarios, incluso con niños.
wsj.com · 2025
Traducido por IA

En Instagram, Facebook y WhatsApp, Meta Platforms se apresura a popularizar una nueva clase de compañeros digitales impulsados por IA que, según Mark Zuckerberg, serán el futuro de las redes sociales. Sin embargo, dentro de Meta, empleados …

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.
Incidente AnteriorSiguiente Incidente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 300d90c