Incidentes Asociados
Los estudiantes de una escuela secundaria de Nueva Jersey están aterrorizados después de enterarse de que uno de sus compañeros de clase supuestamente usó inteligencia artificial para crear imágenes sexualmente explícitas de ellos sin su permiso.
Francesca Mani, estudiante de Westfield High School, dijo que se enteró de que un estudiante había usado una fotografía original de ella y una aplicación de inteligencia artificial para crear imágenes pornográficas. WNYW, afiliada de New York Fox [informado] (https://www.fox5ny.com/news/westfield-high-school-new-jersey-artificial-intelligence-pornographic-images-incident). Las imágenes supuestamente fueron creadas durante el verano, pero los estudiantes no se enteraron de ellas hasta octubre.
"Nunca pensé que sería como un estudiante, la IA ni siquiera me vino a la mente", dijo Mani a la estación. "Pensé que sería algo así como escalofríos en Internet".
Ella informó del incidente al director de la escuela y se enteró de que se trataba de un grupo de niños que utilizaban alrededor de una docena de imágenes de niñas para crear pornografía generada por IA, según WNYW. Según los informes, el niño fue suspendido durante unos días, pero desde entonces regresó a la escuela.
“Todas las demás chicas están de acuerdo conmigo: no lo quieren en esta escuela”, dijo Mani. "Están muy asustados".
En un correo electrónico, el director de la escuela dijo que se estaba llevando a cabo una investigación, según la filial de CBS Nueva York [WCBS] (https://www.cbsnews.com/newyork/news/westfield-high-school-ai-pornographic-images-students /).
"En este momento, creemos que todas las imágenes creadas han sido eliminadas y no están circulando", decía el correo electrónico. “Este es un incidente muy grave. Continuamos investigando e informaremos a las personas y familias de los estudiantes involucrados una vez que se complete la investigación”.
Según los informes, la escuela ha puesto a disposición asesoramiento y el Departamento de Policía de Westfield también está involucrado, según el correo electrónico. El director también incluyó una advertencia a los padres.
“Quería informarles sobre la situación, ya que, además de dañar a los estudiantes involucrados e interrumpir el día escolar, es de vital importancia hablar con sus hijos sobre el uso que hacen de la tecnología y lo que publican, guardan y comparten en redes sociales”, decía el correo electrónico. “Las nuevas tecnologías han hecho posible falsificar imágenes y los estudiantes necesitan conocer el impacto y el daño que esas acciones pueden causar a los demás”.
CBS también informó que el superintendente de Westfield, Dr. Raymond González, emitió un comunicado:
Todos los distritos escolares están lidiando con los desafíos y el impacto de la inteligencia artificial y otras tecnologías disponibles para los estudiantes en cualquier momento y en cualquier lugar. El Distrito de Escuelas Públicas de Westfield cuenta con medidas de seguridad para evitar que esto suceda en nuestra red y en los dispositivos proporcionados por la escuela. Seguimos fortaleciendo nuestros esfuerzos educando a nuestros estudiantes y estableciendo pautas claras para garantizar que estas nuevas tecnologías se utilicen de manera responsable en nuestras escuelas y más allá.
La ley que rodea los “deepfakes” pornográficos como los denunciados por Mani no está resuelta. Representante Joe Morelle, DN.Y., [legislación propuesta en mayo] (https://morelle.house.gov/media/press-releases/congressman-joe-morelle-authors-legislation-make-ai-generated-deepfakes ) que haría ilegal el intercambio no consensuado de imágenes explícitas alteradas o “deepfake” en línea, y crearía recursos legales para las víctimas a las que se dirigen dichas imágenes.
Los funcionarios del Departamento de Justicia han dicho que las imágenes sexualmente explícitas de niños generadas por IA son ilegales bajo la ley federal.
Ni los funcionarios escolares ni los representantes de la policía de Westfield respondieron de inmediato a la solicitud de comentarios de Law&Crime.