Incidentes Asociados
WESTFIELD, Nueva Jersey — Un estudiante de Westfield High School acusado de usar inteligencia artificial para [hacer imágenes pornográficas falsas] (https://patch.com/new-jersey/westfield/fake-nude-photos-westfield-hs-students-spark- informe de preocupación) de alumnas en la escuela fue suspendida pero desde entonces regresó a la escuela, dijeron una de las víctimas y su madre a varios medios [incluido Good Morning America] (https://twitter.com/GMA/status/1721510769022407129) .
Las niñas de la escuela secundaria descubrieron recientemente que los niños compartían fotos de ellas desnudas en chats grupales después de que uno o más estudiantes usaron una herramienta en línea impulsada por inteligencia artificial para crear las imágenes, [informó el Wall Street Journal] (https://www. wsj.com/tech/fake-nudes-of-real-students-cause-an-uproar-at-a-new-jersey-high-school-df10f1bb).
La escuela ofreció asesoramiento a sus estudiantes afectados y los funcionarios escolares dicen que todavía están investigando la situación, [según News12 New Jersey](https://newjersey.news12.com/officials-students-at-westfield-hs-used- ai-para-crear-imágenes-falsas-desnudas-de-compañeras-de-clase). Hasta ahora, sólo un estudiante ha sido castigado, informó Good Morning America el lunes.
Dorota Mani le dijo a Good Morning America que su hija de 14 años estaba entre los estudiantes cuyas fotografías fueron utilizadas y que presentó un informe policial.
"Me siento muy incómoda y muy asustada como muchos otros", dijo la hija de Mani, Francesca, a Good Morning America.
Mani añadió que ella y su madre "simplemente no creen que esté bien que él esté caminando por los pasillos".
"Me aterroriza saber cómo y cuándo saldrá a la luz esto", dijo Mani a The Wall Street Journal. "Mi hija tiene un futuro brillante y nadie puede garantizar que esto no la afectará profesional, académica o socialmente".
En una declaración proporcionada a Patch, un portavoz del distrito confirmó que el incidente ocurrió durante el verano y fue informado a los funcionarios escolares el mes pasado. El distrito llevó a cabo una "investigación inmediata", según el portavoz, y notificó a la policía de Westfield.
El portavoz del distrito se negó a proporcionar detalles sobre el número de estudiantes involucrados o confirmar si se habían tomado medidas disciplinarias, alegando razones de confidencialidad.
Un padre le dijo al Wall Street Journal que algunos de los estudiantes de segundo año estaban actuando "raros" en los días previos a que los funcionarios de la escuela se enteraran de las fotos. El 20 de octubre, un niño les contó a algunas de las niñas sobre las fotos, quienes luego se lo contaron a los administradores.
La directora de Westfield High School, Mary Asfendis, abordó las fotos en un correo electrónico enviado a los padres el mismo día.
"Este es un incidente muy grave", escribió Asfendis en el correo electrónico obtenido por Patch. "Las nuevas tecnologías han permitido falsificar imágenes y los estudiantes necesitan conocer el impacto y el daño que esas acciones pueden causar a los demás".
En el correo electrónico, Asfendis les dijo a los padres que creía que las imágenes habían sido eliminadas y ya no circulaban.
Añadió: "Continuaremos educando a sus hijos sobre la importancia del uso responsable de la tecnología y esperamos que refuercen estos mensajes en casa".
Según el Journal, al menos dos familias presentaron denuncias ante el Departamento de Policía de Westfield. Un portavoz de la policía no respondió de inmediato a la solicitud de comentarios de Patch.
Según una investigación realizada por la Universidad de Pensilvania. La pornografía deepfake es contenido visual creado con tecnología de inteligencia artificial, al que cualquiera puede acceder a través de aplicaciones y sitios web.
Según Sophie Maddocks, investigadora de la UPenn, la tecnología utiliza algoritmos entrenados para quitar la ropa de imágenes de mujeres y reemplazarla con imágenes de partes del cuerpo desnudas.
Según un informe de NBC News, 96 por ciento de imágenes deepfake son sexualmente explícitas y muestran a mujeres que no dieron su consentimiento para la creación del contenido.
A nivel nacional, el presidente Joe Biden firmó la semana pasada una orden ejecutiva dirigida a la inteligencia artificial que busca equilibrar las necesidades de las empresas tecnológicas con la seguridad nacional y los derechos de los consumidores.
Antes de firmar la orden, Biden dijo que la IA está impulsando el cambio a "velocidad vertiginosa" y conlleva un tremendo potencial, así como peligros.
"La IA está a nuestro alrededor", dijo Biden. "Para hacer realidad la promesa de la IA y evitar el riesgo, necesitamos gobernar esta tecnología".
La orden es un paso inicial para garantizar que la IA sea confiable y útil en lugar de engañosa y destructiva. La orden, que probablemente necesitará ser reforzada por una acción del Congreso, busca orientar cómo se desarrolla la IA para que las empresas puedan obtener ganancias sin poner en peligro la seguridad pública.
La Associated Press contribuyó a este informe.
Megan VerHelst contribuyó con el informe.