Incidentes Asociados
Las fotografías pornográficas de estudiantes femeninas de una escuela secundaria de Nueva Jersey generadas por IA y distribuidas entre sus compañeros masculinos han provocado indignación entre los padres y funcionarios escolares y provocaron una investigación por parte de la policía, según un informe.
Las niñas de Westfield High School, en una próspera ciudad de casas de estilo colonial y calles arboladas a unos 40 kilómetros al oeste de la ciudad de Nueva York, descubrieron recientemente que sus homólogos masculinos compartían fotografías de ellas desnudas creadas con una herramienta de inteligencia artificial en línea, el Wall Street Journal informó el jueves.
La madre de una de las niñas dijo que su hija le dijo que los niños de segundo año estaban actuando "raro" el 16 de octubre, hablando entre ellos y siendo más silenciosos de lo normal.
Luego, el 20 de octubre, uno de los niños les confió a algunas de las niñas que al menos un estudiante había usado un sitio web con tecnología de inteligencia artificial para crear imágenes pornográficas a partir de fotos de las niñas encontradas en línea y comenzó a compartirlas.
Se alertó a los funcionarios escolares y los administradores comenzaron a interrogar a los niños para obtener más información.
Y aunque la escuela secundaria confirmó las fotos en un correo electrónico a los padres, una portavoz de las Escuelas Públicas de Westfield, citando la confidencialidad de los estudiantes, se negó a darle al Wall Street Journal detalles sobre el número de estudiantes involucrados o si se había tomado alguna medida disciplinaria.
En un correo electrónico a los padres del 20 de octubre, la directora de la escuela secundaria Westfield, Mary Asfendis, dijo que creía que las fotos habían sido eliminadas.
"Este es un incidente muy grave", escribió. "Las nuevas tecnologías han permitido falsificar imágenes y los estudiantes necesitan conocer el impacto y el daño que esas acciones pueden causar a los demás".
Pero los padres dicen que sus hijas han sido humilladas y se sienten impotentes por la experiencia y temen que las imágenes puedan salir a la luz más tarde, dañando aún más a sus hijos.
Dorota Mani dijo que la escuela le dijo a su hija de 14 años, Francesca, que se había utilizado su fotografía.
"Me aterroriza cómo y cuándo saldrá esto a la luz. Mi hija tiene un futuro brillante y nadie puede garantizar que esto no la afectará profesional, académica o socialmente", dijo Dorota Mani al medio.
Presentó una denuncia policial y no quiere que su hija esté en la misma escuela que quien creó las fotos.
"Es difícil presenciar una situación en la que ves chicas jóvenes traumatizadas en una etapa vulnerable de sus vidas", dijo la alcaldesa de Westfield, Shelley Brindle, a la publicación.
La policía de Westfield inició una investigación y el senador estatal Jon Bramnick, cuyo distrito incluye Westfield, dijo que está investigando si existen o están pendientes leyes de Nueva Jersey que cubran la creación de material falsificado.
"Esto tiene que ser un delito grave en Nueva Jersey", dijo, señalando que ha pedido al fiscal del condado que investigue.
Algunos estados, incluidos Virginia, California, Minnesota y Nueva York, han prohibido la distribución de las imágenes o permiten a las víctimas demandar a los creadores en tribunales civiles.
El presidente Joe Biden firmó el lunes una orden ejecutiva que establecerá nuevas reglas y salvaguardias en torno a la inteligencia artificial.
Los vídeos de celebridades generados por IA también se han utilizado para vender productos y servicios sin su conocimiento.
Una empresa dental utilizó su imagen de Tom Hanks y [Scarlett Johansson ](https://themessenger.com/tech/scarlett-johansson-sues-ai-avatar-app-for-allegedly-exploiting-her-voice-and -likeness) ha demandado a un creador de aplicaciones de inteligencia artificial por usar su voz y apariencia en un anuncio sin obtener su permiso.
Un estudio reciente descubrió que se han subido más de 113.000 imágenes alteradas digitalmente y vídeos falsos a sitios que alojan " porno deepfake" hasta septiembre de este año.
Y entre el 50% y el 80% del tráfico a los sitios web proviene de búsquedas iniciadas en algunos de los sitios más importantes de Internet, incluidos Google y Bing.