概要: In March 2025, cybersecurity researcher Jeremiah Fowler discovered an unprotected database linked to GenNomis by AI-NOMIS, a South Korean company offering face-swapping and "nudify" AI services. The exposed 47.8GB dataset included nearly 100,000 files. Many depicted explicit deepfake images, some involving minors or celebrities. No personal data was found, but the breach was a serious failure in data security and consent safeguards in AI image-generation platforms.
Alleged: GenNomis by AI-NOMIS と AI-NOMIS developed an AI system deployed by GenNomis by AI-NOMIS と GenNomis, which harmed Individuals whose likenesses were used without consent , Public figures and celebrities depicted in explicit AI images , minors と General public.
関与が疑われるAIシステム: GenNomis と Unnamed cloud database
インシデントのステータス
インシデントID
1010
レポート数
2
インシデント発生日
2025-03-31
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン
サイバーセキュリティ研究者のジェレミア・ファウラー氏は、AI-NOMISのGenNomisに属する10万件弱のレコードを含む、パスワードで保護されていないデータベースを発見し、vpnMentorに報告しました。AI-NOMISは、フェイススワッピングや「ヌード化」アダルトコンテンツ、および画像を売買できるマーケットプレイスを提供する韓国のAI企業です。
公開されたデータベースは、パスワードで保護されておらず、暗号化もされていませんでした。そこには 93,485 枚の画像と …
安全でないシステムのインディ・ジョーンズ、ジェレミア・ファウラー氏は、公衆インターネットに公開された、AI が生成した性的に露骨な画像の山を発見したと述べている。これらの画像はすべて、疑わしい画像の背後にいると思われるチームに彼が密告した後、消えてしまった。
ファウラー氏は、The Register に対し、保護されていない、誤って構成された Amazon Web Services S3 バケットを発見したと語った。このバケットには、93,485 枚の画像と、これらの入力から…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
