概要: 2025年3月、サイバーセキュリティ研究者のジェレミア・ファウラー氏は、顔交換や「ヌード化」AIサービスを提供する韓国企業AI-NOMISのGenNomisにリンクされた、保護されていないデータベースを発見しました。公開された47.8GBのデータセットには、約10万件のファイルが含まれていました。その多くは露骨なディープフェイク画像で、中には未成年者や著名人が登場するものもありました。個人情報は発見されませんでしたが、この侵害はAI画像生成プラットフォームにおけるデータセキュリティと同意保護の重大な欠陥でした。
Alleged: GenNomis by AI-NOMIS と AI-NOMIS developed an AI system deployed by GenNomis by AI-NOMIS と GenNomis, which harmed Individuals whose likenesses were used without consent , Public figures and celebrities depicted in explicit AI images , minors と General public.
関与が疑われるAIシステム: GenNomis と Unnamed cloud database
インシデントのステータス
インシデントID
1010
レポート数
2
インシデント発生日
2025-03-31
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン
サイバーセキュリティ研究者のジェレミア・ファウラー氏は、AI-NOMISのGenNomisに属する10万件弱のレコードを含む、パスワードで保護されていないデータベースを発見し、vpnMentorに報告しました。AI-NOMISは、フェイススワッピングや「ヌード化」アダルトコンテンツ、および画像を売買できるマーケットプレイスを提供する韓国のAI企業です。
公開されたデータベースは、パスワードで保護されておらず、暗号化もされていませんでした。そこには 93,485 枚の画像と …
安全でないシステムのインディ・ジョーンズ、ジェレミア・ファウラー氏は、公衆インターネットに公開された、AI が生成した性的に露骨な画像の山を発見したと述べている。これらの画像はすべて、疑わしい画像の背後にいると思われるチームに彼が密告した後、消えてしまった。
ファウラー氏は、The Register に対し、保護されていない、誤って構成された Amazon Web Services S3 バケットを発見したと語った。このバケットには、93,485 枚の画像と、これらの入力から…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents