Incidentes Asociados
Se está llevando a cabo una investigación después de que unas adolescentes de una escuela secundaria de Nueva Jersey descubrieran que sus compañeros de clase habían utilizado sitios web de inteligencia artificial para crear desnudos falsos de ellas, que luego los adolescentes compartían y hacían circular.
Los padres de Westfield High School alertaron a las autoridades de su próspera ciudad después de que sus hijas se enteraran de los desnudos "profundamente falsos" el 20 de octubre. Las chicas sospechaban que sus compañeros de clase habían estado ocultando algo, pero no fue hasta que uno de los compañeros de segundo año supuestamente admitió haber recibido los desnudos falsos que se dieron cuenta del alcance de la situación.
“Me aterroriza cómo y cuándo saldrá a la luz esto. Mi hija tiene un futuro brillante y nadie puede garantizar que esto no la afectará profesional, académica o socialmente”, dijo a The Wall Street Journal.
En una conferencia entre legisladores locales y familias afectadas por el incidente, la hija de Mani dijo que las niñas de su clase se sintieron humilladas y algunas incluso optaron por eliminar sus redes sociales, informa el WSJ. Las estudiantes no han visto las fotos que sus compañeros compartieron en los chats grupales y la escuela secundaria se negó a confirmar al WSJ si los administradores de la escuela habían revisado esas conversaciones.
The Independent se comunicó con Westfield High School y la policía local para solicitar comentarios.
"Somos conscientes de que hay tipos espeluznantes por ahí", habría dicho la hija de Mani durante la reunión. "...pero nunca pensarías que uno de tus compañeros de clase te violaría de esta manera".
Se cree que los adolescentes utilizaron herramientas en línea impulsadas por inteligencia artificial para crear falsificaciones profundas. Aún no está claro si se enfrentarán a alguna medida disciplinaria.
"Este es un incidente muy grave", dijo la directora Mary Asfendis en un correo electrónico dirigido a los padres y obtenido por el WSJ. “Las nuevas tecnologías han hecho posible falsificar imágenes y los estudiantes necesitan conocer el impacto y el daño que esas acciones pueden causar a los demás”.
Cuatro familias ya han presentado denuncias ante la policía, pero se desconoce el número de estudiantes cuyas fotografías se utilizaron.
En los últimos años, el uso de la IA ha generado preocupación por la difusión de desinformación. La pornografía creada con esta tecnología representa ahora más del 90 por ciento de los "deepfakes" que circulan en línea, según la empresa de detección de drau Sensity AI.
Sin embargo, la legislación vigente para frenar el uso indebido de la IA es todavía nueva e insuficiente. El jueves, el Reino Unido celebró una cumbre de dos días con la asistencia de líderes internacionales, donde los funcionarios intentaron sentar las bases para las leyes que regulan la IA.
A principios de este año, TikTok dijo que todos los deepfakes o contenido manipulado que muestren escenas realistas deben ser etiquetados para indicar que son falsos o alterados y que ya no se permiten deepfakes de figuras privadas y jóvenes. Meta, así como sitios para adultos como Onlyfans y Pornhub, también participaron en una herramienta en línea, llamada Take It Down, que permite a los adolescentes reportar imágenes y videos explícitos de ellos mismos desde Internet.
Algunos de los generadores de imágenes más utilizados no permiten a los usuarios crear imágenes pornográficas, según el WSJ, pero hay alternativas fácilmente disponibles en línea.
Si bien todavía es demasiado pronto para determinar qué vías legales están disponibles para los estudiantes de Westfield High School, la abogada de propiedad intelectual Natalie Elizarof dijo al WSJ que las leyes sobre abuso sexual infantil pueden aplicarse en esta situación.
“Es difícil presenciar una situación en la que se ven niñas traumatizadas en una etapa vulnerable de sus vidas”, dijo la alcaldesa de Westfield, Shelley Brindle, al WSJ.