Incidentes Asociados
Más de 20 niñas en España informaron haber recibido imágenes de sí mismas desnudas generadas por IA. Pero, ¿se pueden castigar legalmente los deepfakes?
Cuando regresaron al colegio tras las vacaciones de verano, más de una veintena de niñas de Almendralejo, un pueblo del sur de España, recibieron en sus teléfonos móviles fotos suyas desnudas.
Ninguno de ellos había tomado las fotografías, pero parecían completamente reales.
Las imágenes habían sido robadas de sus cuentas de Instagram, alteradas mediante una aplicación de inteligencia artificial y luego compartidas en grupos de Whatsapp.
Los adolescentes estaban completamente vestidos en las fotos reales, pero la aplicación hizo que la desnudez pareciera completamente real.
Ahora los padres y los fiscales se preguntan si se ha cometido un delito, incluso si las imágenes son reales: ¿podrían considerarse pornografía infantil?
"Los montajes son súper realistas, es muy inquietante y una auténtica barbaridad", escribió en su cuenta de Instagram Miriam Al Adib, una de las madres de las niñas.
"Mi hija me dijo con mucho disgusto: 'mamá, mira lo que me han hecho'", añadió.
Al Adib llegó a afirmar que las fotografías podrían haber llegado a portales de internet como Onlyfans o sitios web pornográficos. Mientras tanto, las niñas aguantaron los comentarios de sus compañeros.
"No te quejes, las chicas suben fotos que casi muestran su coño", le dijeron a una de las chicas.
La más joven de las niñas tiene sólo 11 años y aún no ha ido a la escuela secundaria.
Otra madre, Fátima Gómez, dijo a Extremadura TV que su hija había sido chantajeada.
En una conversación con un chico en las redes sociales, este le pidió dinero y cuando ella se negó, le envió una foto desnuda.
Las madres se han organizado para denunciar lo sucedido, y la Policía Nacional ha abierto una investigación y ya ha identificado a varios menores presuntamente implicados.
Algunos de ellos son compañeros de clase de las niñas, reveló un político local.
El caso ha sido remitido a la Fiscalía de Menores, y el propio alcalde de la localidad advirtió: "Puede que haya empezado como una broma, pero las implicaciones son mucho mayores y podrían tener graves consecuencias para quienes hicieron estas fotos".
10 euros por 25 fotos de desnudos
Las creaciones hiperrealistas de inteligencia artificial, más conocidas como deepfakes, se realizaron con la aplicación ClothOff.
Con el lema "Desnudar a cualquiera, desnudar chicas gratis", la aplicación permite a los usuarios quitarle la ropa a cualquiera que aparezca en la galería de fotos de su teléfono. Cuesta 10€ crear 25 imágenes de desnudos.
Aunque la desnudez no es real, las madres dicen que la angustia de las niñas al ver su foto es muy real.
"No sois conscientes del daño que les habéis hecho a estas chicas y tampoco sois conscientes del crimen que habéis cometido", dijo Al Adib en su cuenta de Instagram en un mensaje dirigido a las personas que compartieron las imágenes.
"Uno de ellos le dijo a mi hija que había hecho 'cosas' con su foto", dijo otra de las madres al periódico español El País.
Pero, ¿se pueden castigar legalmente los deepfakes?
"Una cuestión es si se debe castigar y otra es si se puede castigar por la forma en que está redactada la ley en España y en otros países de la UE", dijo a Euronews Manuel Cancio, profesor de Derecho Penal de la Universidad Autónoma de Madrid.
El catedrático señala que existe un vacío legal porque el uso de rostros de menores en fotografías afecta a su intimidad, pero cuando se trata de delitos en los que se distribuyen imágenes íntimas es la imagen en su conjunto la que vulnera la intimidad.
"Al ser generado por deepfake, la privacidad real de la persona en cuestión no se ve afectada. El efecto que tiene (en la víctima) puede ser muy similar al de una foto de desnudo real, pero la ley va un paso por detrás", añade. .
Cancio dice que el marco legal que podría funcionar en este caso sería un delito contra la integridad moral, "una especie de caja del desastre para delitos que nadie sabe dónde meter".
En marzo de 2022, la Comisión Europea propuso tipificar como delito este tipo de delitos en una directiva sobre ciberdelito. Según el profesor, el Código Penal holandés es el único que contiene una disposición que aborda esta cuestión.
¿Se puede considerar pornografía infantil?
Los expertos están divididos sobre si el delito podría considerarse distribución de pornografía infantil, lo que conllevaría una pena mayor, y prefieren pecar de cautelosos.
Para Leandro Núñez, abogado especialista en nuevas tecnologías del despacho Audens, la clave no es si la foto es 100% real, sino si lo parece.
"Lo más importante es si el rostro es identificable. Podríamos estar hablando de pornografía infantil, delitos contra la integridad moral o distribución de imágenes de contenido sexual no consentido", dijo el abogado a Euronews.
"Tratándose de un delito contra la integridad moral, se consideraría un delito menor, por lo que conllevaría una pena menor de seis meses a dos años de prisión", añade.
Otros expertos, como Eloi Font, abogado de Font Advocats, despacho especializado en derecho digital, creen que se podría tipificar como un delito similar a la reproducción de imágenes sexuales de menores.
En este caso, la pena podría ser de entre cinco y nueve años de prisión.