Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 3414

Incidentes Asociados

Incidente 61011 Reportes
Purported Deepfake Technology Was Reportedly Used to Generate Naked Pictures of Underage Girls in Spanish Town

Loading...
Imágenes de niños desnudos generadas por IA conmocionan a la ciudad española de Almendralejo
bbc.com · 2023

Una tranquila ciudad del sur de España está en shock después de que se supo que imágenes desnudas de jóvenes locales generadas por IA habían estado circulando en las redes sociales sin su conocimiento.

Las imágenes fueron creadas usando fotografías de las niñas objetivo completamente vestidas, muchas de ellas tomadas de sus propias cuentas de redes sociales.

Luego estos fueron procesados por una aplicación que genera una imagen imaginada de la persona sin ropa.

Hasta el momento, más de 20 chicas, de edades comprendidas entre 11 y 17 años, se han declarado víctimas del uso de la aplicación en o cerca de Almendralejo, en la provincia de Badajoz, en el suroeste del país.

"Un día mi hija salió del colegio y me dijo 'mamá, circulan fotos mías en topless'", cuenta María Blanco Rayo, madre de un niño de 14 años.

"Le pregunté si se había tomado alguna foto desnuda y me dijo: 'No, mamá, estas son fotos falsas de chicas que se están creando mucho en este momento y hay otras chicas en mi clase a las que les ha pasado esto'". también.'"

Dice que los padres de 28 niñas afectadas han formado un grupo de apoyo en la ciudad.

Las autoridades españolas han iniciado una investigación sobre las imágenes.

La policía ahora está investigando y, según los informes, se ha identificado al menos a 11 niños locales involucrados en la creación de las imágenes o en su circulación a través de las aplicaciones WhatsApp y Telegram.

Los investigadores también están investigando la afirmación de que se intentó extorsionar a una de las niñas utilizando una imagen falsa de ella.

El impacto que ha tenido la circulación de las imágenes en las niñas afectadas varía. Blanco Rayo dice que su hija se lleva bien, pero que algunas niñas "ni siquiera salen de casa".

Almendralejo es un pintoresco pueblo con una población de poco más de 30.000 habitantes conocido por su producción de aceitunas y vino tinto. Pero no está acostumbrado a la atención repentina que este caso ha atraído, llegando a los titulares nacionales de la ciudad.

Esto se debe en gran parte a los esfuerzos de una de las madres de las niñas, Miriam Al Adib. Una ginecóloga que ha utilizado su ya destacado perfil en las redes sociales para situar este tema en el centro del debate público español.

"Quería dar el mensaje: no es culpa tuya", dice Miriam Al Adib

Aunque se cree que muchas de las imágenes de IA fueron creadas durante el verano, el caso sólo salió a la luz en los últimos días después de que el Dr. Adib publicara un vídeo tranquilizando a las niñas afectadas y a sus padres.

"No sabíamos cuántos niños tenían las imágenes, si habían sido subidas a sitios pornográficos; teníamos todos esos temores", dice.

"Cuando eres víctima de un delito, si te roban, por ejemplo, presentas una denuncia y no te escondes porque la otra persona te ha causado daño. Pero en los delitos de naturaleza sexual la víctima muchas veces siente vergüenza y se esconde y se siente responsable. Por eso quería dar ese mensaje: no es tu culpa".

Los sospechosos del caso tienen edades comprendidas entre 12 y 14 años. La legislación española no contempla específicamente la generación de imágenes de carácter sexual cuando se trate de adultos, aunque la creación de dicho material utilizando menores de edad podría considerarse pornografía infantil.

Otro posible cargo sería el de violar las leyes de privacidad. En España, los menores sólo pueden enfrentar cargos penales a partir de los 14 años.

El caso ha causado preocupación incluso entre la población local que no está involucrada.

"Los que tenemos hijos estamos muy preocupados", dice Gema Lorenzo, una mujer del lugar que tiene un hijo de 16 años y una hija de 12 años.

"Te preocupan dos cosas: si tienes un hijo, te preocupas que haya hecho algo como esto; y si tienes una hija, te preocupas aún más, porque es un acto de violencia".

Francisco Javier Guerra, pintor y decorador local, dice que los padres de los niños involucrados tienen la culpa. "Deberían haber hecho algo antes, como quitarles el teléfono o instalar una aplicación que les diga qué hacen sus hijos con su teléfono".

No es la primera vez que un caso así es noticia en España. A principios de este año, se publicaron en las redes sociales imágenes en topless de la cantante Rosalía generadas por IA.

“Me han escrito mujeres de diferentes partes del mundo explicándome que les ha pasado esto y no saben qué hacer”, afirma Miriam Al Adib.

"Ahora mismo esto está pasando en todo el mundo. La única diferencia es que en Almendralejo hemos armado un escándalo".

La preocupación es que aplicaciones como las que se utilizan en Almendralejo sean cada vez más habituales.

Javier Izquierdo, jefe de protección infantil en la unidad de delitos cibernéticos de la policía nacional, dijo a los medios españoles que este tipo de delitos ya no se limitan "al tipo que descarga pornografía infantil de la Dark Web o de algún foro oculto de Internet".

Y agregó: "Eso obviamente todavía continúa, pero ahora los nuevos desafíos que enfrentamos son el acceso que tienen los menores a una edad tan temprana [a dicha tecnología], como en este caso".

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd