Incidentes Asociados
WESTFIELD, N.J. - Los informes indican que los estudiantes varones de Westfield High School utilizaron [Inteligencia artificial](https: //www.fox5ny.com/tag/technology/artificial-intelligence) para producir imágenes explícitas de estudiantes usando sus fotografías originales durante el verano.
"Estábamos muy enojados. Muchas chicas lloraban".
- Francesca Maní
Antes del 20 de octubre, la estudiante de Westfield Francesca Mani nunca pensó que su foto aparecería en línea en una imagen de IA muy falsa, pero sucedió.
"Nunca pensé que sería como un estudiante, la IA ni siquiera me vino a la mente. Simplemente pensé que sería como un monstruo en Internet", dijo Mani.
Uno de los chicos le contó a una de las chicas y al día siguiente la chica le contó a todas las chicas.
Mani no sabía qué hacer, así que fue a la oficina del director.
La directora Mary Asfendis dijo en este momento que creen que todas las imágenes creadas han sido eliminadas y no están circulando.
Ahora, una semana y media después, el niño que supuestamente hizo las imágenes fue suspendido temporalmente por unos días, pero ya está de regreso en la escuela.
Mani descubrió que no se trata solo de un niño, sino de un grupo de niños que utilizan más de una docena de imágenes de niñas para crear pornografía con IA.
"Sólo verlo en el pasillo me asusta".
- Francesca Maní
"Todas las demás chicas están de acuerdo conmigo, no lo quieren en esta escuela. Están muy asustadas", dijo Mani.
Es una situación tan preocupante que la madre de Mani nunca pensó que algo así le pasaría a su pequeña.
El presidente Joe Biden ha firmado una amplia orden ejecutiva para guiar el desarrollo de la inteligencia artificial.
Ahora aboga por un cambio en la política escolar y por que este niño sea retirado de la escuela.
"No creo que mi hija, las otras víctimas y las niñas de Westfield High School deban ser castigadas con otros dos años y medio de él en el aula", dijo Dorota, la madre de Mani.
La pregunta es ¿cómo sucede algo así y cómo se puede prevenir?
"El desafío con esta tecnología es que cuando crea un deepfake tuyo, porque en realidad no eres tú, tu privacidad no está siendo violada realmente, aunque tu imagen ha sido intercambiada y cambiada y se adjunta otra imagen a la tuya para crear estas situaciones muy traumáticas", dijo la especialista en ética de IA de datos Renee Cummings.
Nos comunicamos con el superintendente de las escuelas públicas de Westfield, quien envió a FOX 5 un comunicado que decía:
"Todos los distritos escolares están lidiando con los desafíos y el impacto de la inteligencia artificial y otras tecnologías disponibles para los estudiantes en cualquier momento y en cualquier lugar. El Distrito de Escuelas Públicas de Westfield cuenta con medidas de seguridad para evitar que esto suceda en nuestra red y en los dispositivos proporcionados por la escuela. Continuaremos fortaleciendo nuestros esfuerzos educando a nuestros estudiantes y estableciendo pautas claras para garantizar que estas nuevas tecnologías se utilicen de manera responsable en nuestras escuelas y más allá".
La investigación policial sigue en curso.
Si un padre o tutor cree que su hijo es víctima de un acto criminal en relación con este incidente, informe el asunto a la policía de Westfield.