Incident 1349: Un ensemble de données d'entraînement pour l'IA de détection de nudité contiendrait des images pédopornographiques de victimes identifiées.
Description: Un ensemble de données d'images, NudeNet, utilisé pour entraîner des systèmes de détection de nudité, contenait des images pédopornographiques, notamment des images impliquant des victimes identifiées ou connues. Selon le Centre canadien de protection de l'enfance, cet ensemble de données avait été largement téléchargé et cité dans des recherches universitaires avant sa découverte. Les images auraient été incluses sans vérification, exposant les chercheurs à des risques juridiques et perpétuant le préjudice subi par les victimes. L'ensemble de données a été retiré après notification.
Entités
Voir toutes les entitésAlleged: NudeNet dataset maintainers et NudeNet model developers developed an AI system deployed by Academic researchers , Research institutions , AI developers , Dataset users , Independent researchers et AI researchers, which harmed Academic researchers , minors , Identified CSAM victims et Individuals subjected to sexual exploitation imagery.
Systèmes d'IA présumés impliqués: NudeNet , AI image classification systems , AI content detection models et Dataset scraping and aggregation pipelines
Statistiques d'incidents
ID
1349
Nombre de rapports
1
Date de l'incident
2025-10-24
Editeurs
Daniel Atherton
Rapports d'incidents
Chronologie du rapport
Loading...
Selon le Centre canadien de protection de l'enfance (C3P), un vaste ensemble de données d'images utilisé pour développer des outils d'IA de détection de nudité contient de nombreuses images à caractère pédopornographique.
L'ensemble de donn…
Variantes
Une "Variante" est un incident de l'IA similaire à un cas connu—il a les mêmes causes, les mêmes dommages et le même système intelligent. Plutôt que de l'énumérer séparément, nous l'incluons sous le premier incident signalé. Contrairement aux autres incidents, les variantes n'ont pas besoin d'avoir été signalées en dehors de la base de données des incidents. En savoir plus sur le document de recherche.
Vous avez vu quelque chose de similaire ?
Incidents similaires
Did our AI mess up? Flag the unrelated incidents
Incidents similaires
Did our AI mess up? Flag the unrelated incidents

