Incidente 900: Character.ai presuntamente ha estado alojando chatbots abiertamente depredadores dirigidos a menores
Descripción: Según informes, Character.ai alojaba chatbots con perfiles que anunciaban explícitamente comportamientos inapropiados y depredadores, incluyendo la captación de menores. Las investigaciones alegan que los bots han estado participando en conversaciones explícitas y juegos de rol con cuentas señuelo que se hacen pasar por menores, eludiendo así los filtros de moderación. Character.ai se ha comprometido a mejorar las prácticas de moderación y seguridad en respuesta a las críticas públicas.
Entidades
Ver todas las entidadesAlleged: Character.AI developed an AI system deployed by , which harmed Character.AI users.
Sistema de IA presuntamente implicado: Character.ai chatbots
Estadísticas de incidentes
ID
900
Cantidad de informes
1
Fecha del Incidente
2024-11-13
Editores
Daniel Atherton
Informes del Incidente
Cronología de Informes
Loading...

Advertencia de contenido: esta historia habla de abuso sexual infantil y acoso sexual._
Character.AI es una startup increíblemente popular (con 2700 millones de dólares de respaldo financiero de Google) que permite a sus decenas de millones…
Variantes
Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.
¿Has visto algo similar?



