Incidentes Asociados
Después de que los desnudos de chicas adolescentes generados por IA comenzaron a circular en una escuela secundaria de Nueva Jersey, ni los padres, ni los funcionarios escolares ni siquiera las autoridades locales han podido descubrir cómo lidiar con esto.
Como informa el Wall Street Journal, las niñas de una escuela en el próspero suburbio de Westfield en la ciudad de Nueva York se enteraron hace semanas, en octubre, de que los niños de su escuela estaban compartiendo imágenes de ellas manipuladas por IA en chats grupales. Pero hasta ahora, no ha habido mucho castigo y, para empezar, todavía no está claro quién hizo los desnudos falsos.
Cuando el WSJ lo contactó, un portavoz de Westfield High School confirmó que el incidente había ocurrido, pero se negó a nombrar a los estudiantes involucrados para proteger la confidencialidad. En un correo electrónico enviado el 20 de octubre, la directora de la escuela, Mary Asfendis, calificó la debacle como un "incidente muy grave" y dijo que creía que las imágenes habían sido eliminadas y ya no estaban en circulación.
Los padres de las niñas involucradas también denunciaron la situación a la policía local e incluso a su senador estatal, pero tampoco parecen saber qué hacer. Probablemente esto se deba a que, como reconoce el WSJ, el lado oscuro de la IA, que ahora permite a las personas "desnudar" digitalmente a sujetos involuntarios o crear desnudos falsos de ellos con poco más que un iPhone, ha [progresado mucho más rápido que la ley](https https://www.refinery29.com/en-us/2023/02/11283094/deepfake-porn-laws-atrioc).
Rollo lento
Hasta ahora, hay [solo un puñado de estados](https://www.law.com/legaltechnews/2023/08/10/states-are-targeting-deepfake-pornography-but-not-in-a-uniform -way/?slreturn=20231002131800#:~:text=Illinois%20isn't%20the%20first,passed%20legislation%20targeting%20pornographic%20deepfakes.), incluyendo [Nueva York](https://www.nysenate.gov /newsroom/press-releases/2023/michelle-hinchey/hinchey-bill-ban-non-consensual-deepfake-images), que han promulgado leyes que prohíben la distribución de pornografía falsificada o otorgan a quienes aparecen en ellas el derecho a demandas civiles. . Tanto la Casa Blanca como el [estado de Nueva Jersey](https://www.nj.gov/governor/news/news/ 562023/20231010b.shtml) han anunciado en las últimas semanas la creación de grupos de trabajo de IA en general, pero son de naturaleza más exploratoria y cualquier ley que surja de ellos tardará mucho tiempo en promulgarse.
Para las niñas de Westfield, cuya situación es sorprendentemente similar a [la situación que ocurrió en España en septiembre](https://futurism.com/the-byte/parents-furious-deepfakes- Daughters-school), no está claro si cuál será la resolución y cómo podría verse. Algunos de ellos se sienten incómodos por tener que asistir a la escuela con las personas que sospechan que crearon y compartieron las imágenes, quienes aparentemente no han enfrentado ninguna consecuencia.
"Somos conscientes de que hay tipos espeluznantes por ahí", dijo una de las víctimas durante una reunión de niñas impactadas y sus padres a la que el WSJ tuvo acceso, "pero nunca pensarías que uno de tus compañeros de clase te violaría". como esto."