Incidentes Asociados
Francesca Mani, una estudiante de secundaria de Westfield High School, Nueva Jersey, fue víctima de una forma emergente de ciberdelito que involucró inteligencia artificial (IA) y tecnología deepfake en octubre de 2023. La joven de 14 años reveló que se enteró del incidente solo cuando las autoridades escolares la citaron a la oficina del director. Allí, se reveló que un niño de la escuela supuestamente usó tecnología de IA para generar fotos de ella y otras niñas desnudas.
Según se informa, el perpetrador tomó imágenes publicadas en sitios web de redes sociales como Instagram y las manipuló para que las estudiantes parecieran modelos desnudas. Las imágenes deepfake se compartieron posteriormente entre los niños a través de Snapchat. Francesca estaba horrorizada y entristecida por esta noticia, pero al ver a sus compañeros de clase, algunos llorando, otros riendo, sintió que aumentaba la ira y nacía la determinación.
"Y fue entonces cuando me di cuenta de que debía dejar de llorar y que debía estar enojada porque esto es inaceptable", dijo Francesca a Good Morning America (GMA).
Motivadas por su deseo de prevenir a otros, Francesca y su madre, Dorota Mani, presionaron para cambiar la humillación que experimentaron a manos de la sociedad.
Respuestas legales e institucionales
Los senadores Cruz y Lummis celebran una conferencia de prensa para hablar sobre los deepfakes - Fuente: Getty
Esto saca a la luz cuestiones vitales sobre el panorama legal involucrado en el contenido generado por IA. Nueva Jersey tiene leyes muy estrictas sobre representaciones sexualmente explícitas de un menor, pero la legislación aún existe en torno a las áreas grises de las imágenes creadas por IA, que técnicamente no se aplican a las interpretaciones tradicionales de la pornografía infantil. Se necesita una legislación adicional que identifique claramente las áreas grises relacionadas con las tecnologías deepfakes y los abusos que plantean.
Mary Anne Franks, profesora de derecho en la Universidad George Washington, dijo a GMA:
“El hecho de que los perpetradores sean menores puede significar que hay indulgencia aquí o ciertos tipos de intentos de mantenerlos fuera del sistema de encarcelamiento, pero eso no significaría que no pudieran ser castigados en absoluto”.
Después del incidente, la madre de Francesca presentó una denuncia ante la policía e informó a las autoridades escolares. Los niños no recibieron ninguna consecuencia por un incidente tan grave, aparte de la suspensión temporal de un estudiante, que luego fue readmitido. Esta falta de responsabilidad hizo que Francesca se sintiera insegura e incómoda con sus compañeros.
"Me siento muy incómoda y muy asustada. Muchas otras chicas están de acuerdo conmigo. Simplemente no creemos que sea correcto que él esté caminando por los pasillos", agregó Francesca.
A raíz de ese incidente, Francesca y su madre han llevado su lucha mucho más allá de su comunidad. Han presionado a los legisladores estatales y federales para que se actualicen las leyes y las políticas escolares sobre la tecnología de inteligencia artificial. Según Time, su defensa se ha centrado en mejorar la protección legal contra el acoso generado por la inteligencia artificial, políticas escolares exhaustivas que aborden este tipo de incidentes y la promoción de la conciencia sobre el consentimiento y la privacidad digital.
El activismo de Francesca tocó una fibra sensible en muchos jóvenes que también se sentían desesperanzados. Recibió mensajes de niñas de todo el mundo que sentían lo mismo: que las escuelas no las habían protegido lo suficiente contra el mal uso de la IA.
Los sitios web de “nudificación” están en auge
Imagen representativa (Imagen vía Pexels/ThisIsEngineering)
El problema se ha visto agravado por la proliferación de los llamados sitios web de “nudificación” que permiten a los usuarios subir imágenes y recibir versiones realistas de desnudos a cambio. Estos sitios son ampliamente accesibles y han estado implicados en numerosos incidentes dentro de las escuelas de los Estados Unidos. Los informes indican que estas plataformas no están ocultas en la red oscura, sino que se anuncian abiertamente en línea, lo que es particularmente peligroso para los menores.
60 Minutes encontró cerca de 30 casos similares en escuelas de los EE. UU. en los últimos 20 meses, y más en el extranjero.