Incidentes Asociados
En octubre pasado, Franceseca Mani, una estudiante de secundaria de 15 años de Nueva Jersey, se enteró de que los chicos de su clase habían usado software de inteligencia artificial para fabricar imágenes sexualmente explícitas de Mani y sus compañeras de clase. Desde entonces, ha estado en una misión para evitar que esto le suceda a otras personas: Mani ha estado haciendo campaña por el cambio frente a los responsables políticos, las juntas escolares y las empresas de tecnología en todo el país.
"Cuando eso me pasó a mí y a mis compañeros de clase, no teníamos ninguna protección", dice Mani. "Quiero decirles a estas mujeres y niñas que estamos aquí para ellas".
Desde que las herramientas de generación de imágenes con inteligencia artificial se han vuelto ampliamente accesibles en los últimos años, la cantidad de deepfakes sexualmente explícitos que circulan por la web ha aumentado drásticamente. A principios de este año, imágenes pornográficas y a veces violentas de Taylor Swift generadas por IA se compartieron ampliamente en las redes sociales. Imágenes similares, que se pueden crear con el clic de un botón, se están utilizando para humillar y acosar a mujeres jóvenes en todo el mundo. Las agencias de control ahora advierten que las imágenes de abuso sexual infantil podrían inundar Internet si no se imponen controles sobre las herramientas de IA.
Mani dice que después de que comenzó a hablar sobre su experiencia con deepfakes, otras niñas comenzaron a escribirle desde todo el mundo, diciendo que habían sido atacadas de manera similar. "Había tantas niñas de diferentes estados, diferentes países", dice Mani. "Y todas teníamos tres cosas en común: la falta de políticas escolares de IA, la falta de leyes y el desprecio por el consentimiento". Durante el último año, Mani y su madre Dorota han estado recorriendo el país abogando por cambios en las tres áreas. Mani habló en una audiencia para apoyar el proyecto de ley del senador Ted Cruz "Take It Down",, que tiene como objetivo obligar a los sitios web a eliminar imágenes explícitas y convertir la publicación de ese tipo de contenido en un delito federal. (Se han aprobado proyectos de ley similares en estados como Nueva York y Virginia, donde se actualizaron las leyes para prohibir los deepfakes sexualmente explícitos).
Mani también está trabajando con la coalición activista Encode Justice en una campaña nacional para presionar a favor de la creación de políticas de abuso de deepfakes a nivel de distrito. "Mi objetivo es proteger a las mujeres y a los niños, y primero debemos comenzar con las políticas escolares de IA, porque ahí es donde se producen la mayor parte de los ataques", afirma.