Incidentes Asociados
Un incidente de alto perfil en el que estudiantes de secundaria compartieron imágenes pornográficas generadas por inteligencia artificial de [menores de edad](https://washingtonexaminer.com/tag /adolescentes) compañeros de clase ha llamado la atención sobre la falta de recursos legales para las víctimas de este tipo de "deepfakes".
Aunque durante años los deepfakes han generado controversia sobre la creación de imágenes pornográficas editadas para presentar a celebridades, el fenómeno adquirió nueva relevancia para los no famosos cuando las chicas de Westfield Una escuela secundaria de Nueva Jersey descubrió que unos chicos compartían fotos falsas de ellos desnudos en chats grupales, según informó el [Wall Street Journal](https://www.wsj.com/tech/fake-nudes-of-real- estudiantes-causan-un-alboroto-en-una-escuela-secundaria-de-nueva-jersey-df10f1bb?mod=wknd_pos1). Los padres y los dirigentes escolares descubrieron que la ley no proporciona ninguna claridad sobre cómo manejar tal situación.
"Obviamente, el comportamiento es inaceptable", dijo al Washington Examiner Jake Denton, investigador asociado de la conservadora Heritage Foundation. "¿Pero cuáles son las ramificaciones reales?"
Las imágenes sexuales falsas son tan nuevas para las autoridades que los legisladores aún tienen que establecer parámetros legales en torno a esta práctica. Nueva Jersey no prohíbe la pornografía generada por IA, por ejemplo.
Varias incertidumbres se aplican al uso de tales imágenes, señaló Denton. Por ejemplo, ¿una imagen se considera pornografía infantil si el deepfake une el rostro de una niña menor de edad al cuerpo de una mujer adulta? ¿Cómo determina el observador medio si el sujeto de una imagen es menor de edad o no?
Sin embargo, algunos estados están viendo esfuerzos para redactar leyes. Una ley de Minnesota que prohíbe la propagación de La pornografía deepfake entró en vigor en agosto. Texas también ha prohibido la publicación de deepfakes políticos. California prohibió ambas prácticas en 2019.
El representante Joe Morelle (D-NY) introdujo una legislación en junio que permitiría compartir pornografía deepfake ilegal en todo el país y crear nuevos recursos legales para las víctimas, aunque el proyecto de ley no ha avanzado.
La difusión de pornografía generada por IA se notó cuando varios niños de Westfield actuaban de forma "rara" el 16 de octubre, según algunos de los padres. Cuando algunas de las chicas comenzaron a preguntar, una de ellas les mostró que al menos un estudiante había usado un sitio web con tecnología de inteligencia artificial para crear imágenes pornográficas usando las fotos de las niñas en línea y luego compartiéndolas a través del chat grupal. La situación fue informada a los administradores de la escuela.
"Este es un incidente muy grave", escribió en un correo electrónico la directora de la escuela secundaria Westfield, Mary Asfendi. “Las nuevas tecnologías han permitido falsificar imágenes y los estudiantes necesitan conocer el impacto y el daño que esas acciones pueden causar a los demás."
Al menos cuatro de los padres de las niñas presentaron denuncias ante la policía.
Los deepfakes se utilizan a menudo para crear pornografía. El contenido para adultos representó el 98% de todo el contenido deepfake en línea, según un análisis de la firma de seguridad Home Security Heroes. La tecnología también se ha vuelto lo suficientemente barata como para que un usuario pueda crear una imagen pornográfica ultrafalsa en 25 minutos sin costo financiero.