Description: In March 2025, cybersecurity researcher Jeremiah Fowler discovered an unprotected database linked to GenNomis by AI-NOMIS, a South Korean company offering face-swapping and "nudify" AI services. The exposed 47.8GB dataset included nearly 100,000 files. Many depicted explicit deepfake images, some involving minors or celebrities. No personal data was found, but the breach was a serious failure in data security and consent safeguards in AI image-generation platforms.
Entités
Voir toutes les entitésAlleged: GenNomis by AI-NOMIS et AI-NOMIS developed an AI system deployed by GenNomis by AI-NOMIS et GenNomis, which harmed Individuals whose likenesses were used without consent , Public figures and celebrities depicted in explicit AI images , minors et General public.
Systèmes d'IA présumés impliqués: GenNomis et Unnamed cloud database
Statistiques d'incidents
ID
1010
Nombre de rapports
2
Date de l'incident
2025-03-31
Editeurs
Daniel Atherton
Rapports d'incidents
Chronologie du rapport
Jeremiah Fowler, chercheur en cybersécurité, a découvert et signalé à vpnMentor une base de données non protégée par mot de passe contenant près de 100 000 enregistrements appartenant à GenNomis, une société d'IA basée en Corée du Sud qui p…
Jeremiah Fowler, un Indiana Jones des systèmes non sécurisés, affirme avoir découvert une mine d'images sexuellement explicites générées par l'IA, exposées sur Internet. Toutes ont disparu après qu'il a alerté l'équipe apparemment à l'origi…
Variantes
Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.
Incidents similaires
Did our AI mess up? Flag the unrelated incidents
Incidents similaires
Did our AI mess up? Flag the unrelated incidents