Incidentes Asociados
Francesca Mani, una estudiante de la escuela secundaria Westfield de Nueva Jersey, se presentó junto con su madre, Dorota, para abordar las imágenes pornográficas generadas por inteligencia artificial que, según ella, fueron manipuladas y compartidas de ella y otras compañeras de clase durante el verano.
Según CNN, el joven de 14 años [pide legislación federal](https://www.cnn.com/2023/11/04/us/new-jersey-high-school-deepfake-porn/index. html) para proteger a las víctimas de pornografía generada por IA.
“En esta situación, hubo unos niños o un niño -eso está por determinar- que crearon, sin el consentimiento de las niñas, imágenes inapropiadas”, dijo Dorota al medio el 4 de noviembre.
La estudiante de secundaria dijo que más de 30 estudiantes fueron víctimas de imágenes generadas por IA que supuestamente fueron manipuladas y divulgadas al público.
La estudiante y su madre están buscando que la escuela y los funcionarios del gobierno local y estatal asuman responsabilidad por la situación.
Desde que tuvo conocimiento del asunto el 20 de octubre, la escuela ha iniciado una investigación, con consulta del Departamento de Policía de Westfield.
"Había una gran preocupación sobre quién tenía imágenes creadas de ellos y si se compartían", dijo la directora de Westfield, Mary Asfendis, en una carta a los estudiantes y padres abordando el asunto el 20 de octubre.
“En este momento, creemos que todas las imágenes creadas han sido eliminadas y no circulan. Este es un incidente muy grave”.
"Todos los distritos escolares están lidiando con los desafíos y el impacto de la inteligencia artificial y otras tecnologías disponibles para los estudiantes en cualquier momento y en cualquier lugar", dijo el superintendente Dr. Raymond González en un comunicado.
El 27 de abril, NPR informó que los responsables de la formulación de políticas ya habían [abordado las preocupaciones](https://www.npr.org/2023/04/27/1172387911/how-can-people-spot-fake-images-created-by-artificial -inteligencia) con respecto a la pornografía deepfake no consensuada.
Según el diccionario Merriam-Webster, un "deepfake" es "una imagen o grabación que ha sido [alterada y manipulada de manera convincente para tergiversar a alguien] (http://definición de "deepfake" de Merryam-Webster) como si estuviera haciendo o diciendo algo que en realidad no se hace ni se dice”.
"Las leyes y regulaciones tendrán que desempeñar un papel, al menos en algunas de las áreas de mayor riesgo", dijo el abogado de WilmerHale, Matthew Ferraro, experto en cuestiones legales relacionadas con la IA.
Diez estados, incluidos Texas y California, ya han creado políticas que prohíben los deepfakes, especialmente la pornografía. La Unión Europea ya ha entrado en acción al crear la Ley de IA para establecer reglas y regulaciones sobre cómo se puede utilizar la IA.