Incidentes Asociados
Un estudiante de una escuela secundaria de Nueva Jersey pide una legislación federal para abordar [las imágenes pornográficas generadas por IA] (https://www.cnn.com/2023/02/16/tech/nonconsensual-deepfake-porn/index.html) después de que ella dijera que fotos de ella y de otras compañeras de clase fueron manipuladas y posiblemente compartidas en línea durante el verano.
Francesca Mani, de 14 años, estudiante de Westfield High School, y su madre, Dorota, han expresado su frustración por lo que dicen es una falta de recursos legales para proteger a las víctimas de la pornografía generada por IA.
"En esta situación, hubo algunos niños o un niño (eso está por determinar) que crearon, sin el consentimiento de las niñas, imágenes inapropiadas", dijo Dorota, hablando con [Michael Smerconish de CNN](https://www.cnn .com/videos/tech/2023/11/04/smr-ai-nudes-of-hs-students.cnn) el sábado.
Francesca, quien dijo que estaba entre más de 30 estudiantes de Westfield High School cuyas fotos fueron manipuladas y posiblemente compartidas públicamente, exige responsabilidad de la escuela y de los funcionarios locales, estatales y gubernamentales.
Los administradores de la escuela inicialmente se enteraron del incidente el 20 de octubre cuando los estudiantes les informaron que las imágenes fueron creadas y posiblemente compartidas durante el verano.
"Había una gran preocupación sobre quién tenía imágenes creadas de ellos y si se compartían", escribió la directora de Westfield, Mary Asfendis, en una carta a los estudiantes y padres enviada el 20 de octubre. "En este momento, creemos que cualquier imagen creada han sido eliminados y no se están distribuyendo. Este es un incidente muy grave”.
Desde entonces, Westfield High School ha llevado a cabo su propia investigación y el Departamento de Policía de Westfield y el oficial de recursos designado por la escuela “fueron notificados y consultados de inmediato durante toda la investigación”, según la portavoz de la escuela Mary Ann McGann. CNN se comunicó con el Departamento de Policía de Westfield para solicitar comentarios.
McGann dijo a CNN que la escuela no puede “proporcionar detalles específicos sobre la cantidad de estudiantes involucrados y cualquier acción disciplinaria impuesta, ya que los asuntos que involucran a los estudiantes son confidenciales”.
La escuela proporcionó a CNN una declaración del superintendente Dr. Raymond González, quien dijo: "Todos los distritos escolares están lidiando con los desafíos y el impacto de la inteligencia artificial y otras tecnologías disponibles para los estudiantes en cualquier momento y en cualquier lugar".
González agregó: “El Distrito de Escuelas Públicas de Westfield cuenta con medidas de seguridad para evitar que esto suceda en nuestra red y en los dispositivos proporcionados por la escuela. Seguimos fortaleciendo nuestros esfuerzos educando a nuestros estudiantes y estableciendo pautas claras para garantizar que estas nuevas tecnologías se utilicen de manera responsable en nuestras escuelas y más allá”.
Dorota dijo que está orgullosa de su hija por hablar y defender no solo a sí misma, sino también a otras niñas que también han sido víctimas de contenido pornográfico deepfake generado por IA.
“Creo que este tema es más complejo que solo Westfield High School, y este es nuestro momento y oportunidad de tratarlo como una plataforma de enseñanza, para arrojar luz sobre este importante tema”, dijo.
Dorota dijo que su hija la instó a ver si existe alguna ley en Nueva Jersey que proteja contra imágenes o videos deepfake y también le escribió una carta al presidente Joe Biden pidiéndole que inste a los gobernadores estatales a asegurarse de que existan leyes para proteger a los menores de edad. niñas y niños.
CNN se comunicó con la Oficina del Fiscal del Condado de Union de Nueva Jersey y con la Casa Blanca para solicitar comentarios.
Los funcionarios de inteligencia de Estados Unidos han advertido sobre el fuerte aumento de los videos deepfake, que pueden parecer convincentemente reales pero se generan mediante inteligencia artificial. En California, se han redactado proyectos de ley para combatir el uso de [deepfakes en pornografía no consensual](https://www. dwt.com/insights/2019/10/california-deepfakes-law).
Samantha Beech de CNN contribuyó a este informe.