Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Traducido por IA

Incidente 1010: La base de datos de inteligencia artificial de GenNomis expone casi 100.000 imágenes deepfake y nudify en una filtración pública.

Traducido por IA
Descripción:
Traducido por IA
En marzo de 2025, el investigador de ciberseguridad Jeremiah Fowler descubrió una base de datos desprotegida vinculada a GenNomis por AI-NOMIS, una empresa surcoreana que ofrece servicios de IA para intercambio de rostros y desnudez. El conjunto de datos expuesto, de 47,8 GB, incluía casi 100.000 archivos. Muchos contenían imágenes deepfake explícitas, algunas de ellas con menores o famosos. No se encontraron datos personales, pero la filtración constituyó un grave fallo en la seguridad de los datos y las garantías de consentimiento en las plataformas de generación de imágenes con IA.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial
El Monitor de Incidentes y Riesgos de IA de la OCDE (AIM) recopila y clasifica automáticamente incidentes y riesgos relacionados con la IA en tiempo real a partir de fuentes de noticias reputadas en todo el mundo.
 

Entidades

Ver todas las entidades
Alleged: GenNomis by AI-NOMIS y AI-NOMIS developed an AI system deployed by GenNomis by AI-NOMIS y GenNomis, which harmed Individuals whose likenesses were used without consent , Public figures and celebrities depicted in explicit AI images , minors y General public.
Sistemas de IA presuntamente implicados: GenNomis y Unnamed cloud database

Estadísticas de incidentes

ID
1010
Cantidad de informes
2
Fecha del Incidente
2025-03-31
Editores
Daniel Atherton

Informes del Incidente

Cronología de Informes

+1
Miles de imágenes de IA y deepfakes expuestas en la filtración de datos del servicio Nudify
El sitio web de GenAI se apaga tras ser expuestas falsificaciones explícitas
Miles de imágenes de IA y deepfakes expuestas en la filtración de datos del servicio Nudify

Miles de imágenes de IA y deepfakes expuestas en la filtración de datos del servicio Nudify

vpnmentor.com

El sitio web de GenAI se apaga tras ser expuestas falsificaciones explícitas

El sitio web de GenAI se apaga tras ser expuestas falsificaciones explícitas

theregister.com

Miles de imágenes de IA y deepfakes expuestas en la filtración de datos del servicio Nudify
vpnmentor.com · 2025
Traducido por IA

El investigador de ciberseguridad Jeremiah Fowler descubrió e informó a vpnMentor sobre una base de datos sin contraseña que contenía poco menos de 100 000 registros pertenecientes a GenNomis de AI-NOMIS, una empresa de inteligencia artific…

El sitio web de GenAI se apaga tras ser expuestas falsificaciones explícitas
theregister.com · 2025
Traducido por IA

Jeremiah Fowler, un experto en sistemas inseguros, afirma haber encontrado un conjunto de imágenes sexualmente explícitas generadas por IA, expuestas al internet público. Todas desaparecieron después de que él alertara al equipo que aparent…

Variantes

Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.
¿Has visto algo similar?

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Alleged Issues with Proctorio's Remote-Testing AI Prompted Suspension by University

Alleged Issues with Proctorio's Remote-Testing AI Prompted Suspension by University

Jan 2020 · 6 informes
Clearview AI Algorithm Built on Photos Scraped from Social Media Profiles without Consent

Clearview AI Algorithm Built on Photos Scraped from Social Media Profiles without Consent

Jun 2017 · 10 informes
Ever AI Reportedly Deceived Customers about FRT Use in App

Ever AI Reportedly Deceived Customers about FRT Use in App

Apr 2019 · 7 informes
Incidente AnteriorSiguiente Incidente

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Alleged Issues with Proctorio's Remote-Testing AI Prompted Suspension by University

Alleged Issues with Proctorio's Remote-Testing AI Prompted Suspension by University

Jan 2020 · 6 informes
Clearview AI Algorithm Built on Photos Scraped from Social Media Profiles without Consent

Clearview AI Algorithm Built on Photos Scraped from Social Media Profiles without Consent

Jun 2017 · 10 informes
Ever AI Reportedly Deceived Customers about FRT Use in App

Ever AI Reportedly Deceived Customers about FRT Use in App

Apr 2019 · 7 informes

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 69ff178