Incidentes Asociados
Los adolescentes utilizaron inteligencia artificial (IA) para tomar fotografías de desnudos ultrafalsos de sus compañeras de clase en una escuela secundaria de EE. UU.
Ahora se está llevando a cabo una investigación después de que unas adolescentes de Westfield High School en Westfield, Nueva Jersey, descubrieran que sus compañeros de clase habían utilizado tecnología de inteligencia artificial para crear imágenes pornográficas falsas de ellas, que luego se compartieron en chats grupales.
[Según un informe de The Washington Street Journal,](https://www.wsj.com/tech/fake-nudes-of-real-students-cause-an-uproar-at-a-new-jersey-high -school-df10f1bb) las chicas de la escuela secundaria sospecharon que sus compañeros varones de segundo año estaban actuando "raro" el 18 de octubre.
Varias niñas comenzaron a hacer preguntas y finalmente, el 20 de octubre, un niño reveló que un estudiante había usado las fotos en línea de las niñas para crear imágenes falsas de ellas desnudas generadas por IA que circularon con otros estudiantes de secundaria.
La escuela secundaria confirmó el incidente en un correo electrónico a los padres de la publicación, pero una portavoz de las Escuelas Públicas de Westfield se negó a proporcionar detalles sobre el número de estudiantes involucrados o confirmar si se había tomado alguna medida disciplinaria, citando la confidencialidad de los estudiantes.
'Estoy aterrorizado por cómo esto va a salir a la superficie'
The Washington Street Journal informa que la falta de claridad sobre la legalidad de tales imágenes generadas por IA y sobre cómo o si castigar a los creadores de las fotos falsificadas hace que los padres, las escuelas y las fuerzas del orden tengan dificultades para lidiar con la tecnología.
Varios padres dijeron que sus hijas se sintieron humilladas e impotentes tras el incidente. Describieron su preocupación por el daño a las niñas si las imágenes salieran a la luz más tarde y estaban molestos porque no se llega a una resolución. Dos de los cuatro padres han presentado denuncias ante la policía local.
"Estoy aterrorizada por cómo saldrá a la luz esto y cuándo", dijo a la publicación Dorota Mani, cuya foto de su hija de 14 años se utilizó para crear uno de los desnudos generados por IA.
"Mi hija tiene un futuro brillante y nadie puede garantizar que esto no la afectará profesional, académica o socialmente".
La policía de Westfield está investigando actualmente el incidente y un senador estatal pidió a los fiscales del condado que investiguen el caso.
El mes pasado, una agencia de vigilancia de Internet advirtió que el [aumento de imágenes en línea de abuso sexual infantil generadas por IA](https://petapixel.com/2023/10/25/internet-watchdog-warn-of-nightmare-rise-of -ai-child-sex-abuse-images/) podría empeorar aún más, si no se controlan la tecnología que genera fotografías ultrafalsas.
A principios de este año, un pueblo tranquilo de España se vio sacudido por un escándalo de imágenes de IA que veía pasar fotografías de niños desnudos.
Créditos de las imágenes: Foto del encabezado con licencia de Depositphotos.