Incidentes Asociados
WESTFIELD, Nueva Jersey (WCBS/CNN/CNN Newsource/WKRC) – Estudiantes de secundaria fueron acusados de hacer circular fotografías explícitas de sus compañeros de clase generadas por IA.
El incidente ocurrió durante el verano en Westfield, Nueva Jersey, pero recientemente se informó a los administradores de la escuela. Los periodistas de WCBS hablaron con una madre de la escuela, que planeaba abogar junto con su hija por leyes que protegieran a las personas de los llamados "deepfakes".
Dorota Mani, propietaria de una guardería de la ciudad de Nueva Jersey, dijo a la estación que estaba preocupada por el impacto potencial que la inteligencia artificial podría tener en los niños.
"¿Problema de IA? Yo lo llamaría pandemia de IA en este momento", dijo Mani a WCBS.
Mani dijo al medio que estaba más preocupada ahora que su hija, una estudiante de secundaria, se había convertido en una víctima.
"Mi hija me envió un mensaje de texto: 'mamá, se están distribuyendo fotos mías desnuda'. Eso es todo. Nos dirigimos a la oficina del director", dijo Mani a la estación.
Según WCBS, los padres recibieron un correo electrónico del director que decía en parte: "Los estudiantes nos informaron que algunos de nuestros estudiantes habían utilizado inteligencia artificial para crear imágenes pornográficas a partir de fotografías originales. El tipo de imágenes alteradas conocidas en línea como deepfakes".
"Ella comenzó a llorar y vio llorar a otras niñas de Westfield High School, algunas de ellas víctimas y otras simplemente amigas de las víctimas que simplemente sentían por ellas", dijo Mani a la estación.
El director advirtió a los padres que "las nuevas tecnologías han permitido falsificar imágenes y los estudiantes deben conocer el impacto y los peligros que esas acciones pueden causar a los demás".
El correo electrónico animaba a los padres de las víctimas a ponerse en contacto con la policía, y Mani le dijo a WCBS que había presentado una denuncia. El departamento de policía dijo a la estación que no tenía comentarios.
"Es algo que tendremos que aprender, y nuestros hijos tendrán que ser conscientes de ello", explicó Mani a los periodistas de WCBS.
El Congreso está considerando un proyecto de ley, presentado por el representante Joe Morelle de Nueva York, que haría ilegal compartir en línea imágenes deepfake no consensuadas.
El distrito escolar le dijo a WCBS que no podía comentar sobre ninguna medida disciplinaria tomada. Mani y su hija le dijeron al medio que planeaban abogar por mejores leyes para proteger a las personas de los deepfakes.