Incident 1010: La base de données d'IA GenNomis aurait exposé près de 100 000 images Deepfake et Nudify lors d'une violation publique
Description: En mars 2025, le chercheur en cybersécurité Jeremiah Fowler a découvert une base de données non protégée liée à GenNomis par AI-NOMIS, une entreprise sud-coréenne proposant des services d'échange de visages et de « nudification » par l'IA. L'ensemble de données exposé, d'une taille de 47,8 Go, comprenait près de 100 000 fichiers. Nombre d'entre eux présentaient des images deepfake explicites, certaines impliquant des mineurs ou des célébrités. Aucune donnée personnelle n'a été trouvée, mais la faille constituait une grave faille dans la sécurité des données et les garanties de consentement des plateformes de génération d'images par l'IA.
Outils
Nouveau rapportNouvelle RéponseDécouvrirVoir l'historique
Le Moniteur des incidents et risques liés à l'IA de l'OCDE (AIM) collecte et classe automatiquement les incidents et risques liés à l'IA en temps réel à partir de sources d'information réputées dans le monde entier.
Entités
Voir toutes les entitésAlleged: GenNomis by AI-NOMIS et AI-NOMIS developed an AI system deployed by GenNomis by AI-NOMIS et GenNomis, which harmed Individuals whose likenesses were used without consent , Public figures and celebrities depicted in explicit AI images , minors et General public.
Systèmes d'IA présumés impliqués: GenNomis et Unnamed cloud database
Statistiques d'incidents
ID
1010
Nombre de rapports
2
Date de l'incident
2025-03-31
Editeurs
Daniel Atherton
Rapports d'incidents
Chronologie du rapport
Jeremiah Fowler, chercheur en cybersécurité, a découvert et signalé à vpnMentor une base de données non protégée par mot de passe contenant près de 100 000 enregistrements appartenant à GenNomis, une société d'IA basée en Corée du Sud qui p…
Jeremiah Fowler, un Indiana Jones des systèmes non sécurisés, affirme avoir découvert une mine d'images sexuellement explicites générées par l'IA, exposées sur Internet. Toutes ont disparu après qu'il a alerté l'équipe apparemment à l'origi…
Variantes
Une "Variante" est un incident de l'IA similaire à un cas connu—il a les mêmes causes, les mêmes dommages et le même système intelligent. Plutôt que de l'énumérer séparément, nous l'incluons sous le premier incident signalé. Contrairement aux autres incidents, les variantes n'ont pas besoin d'avoir été signalées en dehors de la base de données des incidents. En savoir plus sur le document de recherche.
Vous avez vu quelque chose de similaire ?
Incidents similaires
Did our AI mess up? Flag the unrelated incidents
Incidents similaires
Did our AI mess up? Flag the unrelated incidents