Incidentes Asociados
El intercambio de imágenes explícitas de estudiantes de secundaria generadas por IA ha provocado un revuelo en un suburbio próspero de la ciudad de Nueva York y ha dejado a los adolescentes, los padres, la escuela y la policía preguntándose cómo pueden abordar las violaciones dado lo que el Wall Street Journal se describe como un " falta de claridad sobre la legalidad de tales imágenes." La ley federal tiene aún por abordar imágenes sexuales falsas de personas reales, que se han disparado en Internet con el lanzamiento de innovadoras herramientas de inteligencia artificial. Solo se necesita una foto para crear una imagen falsa o "deepfake", según [Axios](https://www.axios.com/2023/11/03/ai-deepfake-nude-images-new-jersey-high -escuela). Y más del 90% de los deepfakes son pornográficos, según la empresa de detección de imágenes Sensity AI, según el Journal. Según el Journal, solo un puñado de estados ha prohibido compartir videos pornográficos ultrafalsos o ha otorgado a las víctimas el derecho de demandar a los creadores.
Uno o más estudiantes varones de Westfield High School en Nueva Jersey alteraron fotografías existentes de compañeros de clase disponibles en línea para convertirlas en imágenes pornográficas utilizando una herramienta de inteligencia artificial, según el Journal. Las imágenes altamente realistas, casi imposibles de diferenciar de fotografías reales, se compartieron luego con otros niños en la escuela. En un correo electrónico a los padres del 20 de octubre, la directora Mary Asfendis dijo que creía que las imágenes habían sido eliminadas y ya no circulaban, según [CBS News](https://www.cbsnews.com/newyork/news/westfield-high- escuela-ai-imagenes-pornograficas-estudiantes/). Un representante de las Escuelas Públicas de Westfield se negó a decir cuántos estudiantes estuvieron involucrados o si alguno enfrentó medidas disciplinarias, citando la confidencialidad de los estudiantes. Aunque la policía de Westfield está investigando, no está claro si los agentes encontrarán una violación de la ley.
El senador estatal Jon Bramnick, cuyo distrito incluye Westfield, está revisando las leyes estatales para ver si alguna penaliza la creación y el intercambio de deepfakes. Si no lo hacen, planea redactar un proyecto de ley a tal efecto. "Esto tiene que ser un delito grave en Nueva Jersey", le dice al Journal, señalando que ha pedido a la Fiscalía del Condado de Union que investigue. La administración Biden también ha pedido que se bloqueen las imágenes de abuso sexual infantil generadas por IA y las "imágenes íntimas no consensuadas de personas reales", según el Journal. Dorota Mani, cuya foto de su hija fue alterada, dice que está "aterrorizada" de que las imágenes salgan a la luz y afecten a Francesca, de 14 años, "profesional, académica o socialmente" en el futuro. "Nunca pensarías que uno de tus compañeros de clase te violaría de esta manera", dice Francesca. (Lea más deepfakes historias.)