Description: In March 2025, cybersecurity researcher Jeremiah Fowler discovered an unprotected database linked to GenNomis by AI-NOMIS, a South Korean company offering face-swapping and "nudify" AI services. The exposed 47.8GB dataset included nearly 100,000 files. Many depicted explicit deepfake images, some involving minors or celebrities. No personal data was found, but the breach was a serious failure in data security and consent safeguards in AI image-generation platforms.
Outils
Nouveau rapportNouvelle RéponseDécouvrirVoir l'historique
Le Moniteur des incidents et risques liés à l'IA de l'OCDE (AIM) collecte et classe automatiquement les incidents et risques liés à l'IA en temps réel à partir de sources d'information réputées dans le monde entier.
Entités
Voir toutes les entitésAlleged: GenNomis by AI-NOMIS et AI-NOMIS developed an AI system deployed by GenNomis by AI-NOMIS et GenNomis, which harmed Individuals whose likenesses were used without consent , Public figures and celebrities depicted in explicit AI images , minors et General public.
Systèmes d'IA présumés impliqués: GenNomis et Unnamed cloud database
Statistiques d'incidents
ID
1010
Nombre de rapports
2
Date de l'incident
2025-03-31
Editeurs
Daniel Atherton
Rapports d'incidents
Chronologie du rapport
Jeremiah Fowler, chercheur en cybersécurité, a découvert et signalé à vpnMentor une base de données non protégée par mot de passe contenant près de 100 000 enregistrements appartenant à GenNomis, une société d'IA basée en Corée du Sud qui p…
Jeremiah Fowler, un Indiana Jones des systèmes non sécurisés, affirme avoir découvert une mine d'images sexuellement explicites générées par l'IA, exposées sur Internet. Toutes ont disparu après qu'il a alerté l'équipe apparemment à l'origi…
Variantes
Une "Variante" est un incident de l'IA similaire à un cas connu—il a les mêmes causes, les mêmes dommages et le même système intelligent. Plutôt que de l'énumérer séparément, nous l'incluons sous le premier incident signalé. Contrairement aux autres incidents, les variantes n'ont pas besoin d'avoir été signalées en dehors de la base de données des incidents. En savoir plus sur le document de recherche.
Vous avez vu quelque chose de similaire ?
Incidents similaires
Did our AI mess up? Flag the unrelated incidents
Incidents similaires
Did our AI mess up? Flag the unrelated incidents