Incidente 1335: La plataforma de inteligencia artificial OpenDream habría comercializado material de abuso sexual infantil (CSAM) generado por IA e imágenes sexuales deepfake no consensuadas.
Descripción: OpenDream, una plataforma de generación de imágenes con IA operada por CBM Media Pte Ltd, supuestamente permitía a los usuarios generar y monetizar contenido de abuso sexual infantil (CSAM) generado por IA y deepfakes sexuales no consensuados a través de su galería pública y herramientas de pago NSFW. Se informó que el contenido fue de acceso público e indexado por los motores de búsqueda durante meses antes de que se produjera una moderación limitada a mediados de 2024, lo que provocó la eliminación de contenido por parte de Google y Bing y el cierre de sus servicios de publicidad y pago.
Editor Notes: Reported timeline of events: (1) Deepfakes and materials attributed to the OpenDream platform reportedly began appearing in December 2023. (2) Bellingcat published its investigation on 10/14/2024. (3) The incident ID was created 01/10/2026.
Entidades
Ver todas las entidadesAlleged: CBM Media Pte Ltd developed an AI system deployed by OpenDream users y OpenDream, which harmed Victims of non-consensual deepfakes , minors , General public y Children.
Sistema de IA presuntamente implicado: OpenDream platform
Informes del Incidente
Cronología de Informes
Variantes
Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.
¿Has visto algo similar?
en revisión
Fecha del Incidente:
2024-10-14
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents