Incidents associés
En octobre dernier, Franceseca Mani, une lycéenne de 15 ans du New Jersey, a appris que des garçons de sa classe avaient utilisé un logiciel d'intelligence artificielle pour fabriquer des images sexuellement explicites de Mani et de ses camarades de classe. Depuis, elle s'est donné pour mission d'empêcher que cela n'arrive à d'autres : Mani a fait campagne pour le changement devant les décideurs politiques, les conseils scolaires et les entreprises technologiques de tout le pays.
"Quand cela m'est arrivé, à moi et à mes camarades de classe, nous n'avions aucune protection", explique Mani. "Je veux dire à ces femmes et à ces filles que nous sommes là pour elles".
Depuis que les outils de génération d'images par intelligence artificielle sont devenus largement accessibles ces dernières années, le nombre de deepfakes sexuellement explicites circulant sur le Web a fortement augmenté. Au début de l’année, des images pornographiques et parfois violentes de Taylor Swift générées par l’IA ont été largement partagées sur les réseaux sociaux. Des images similaires, qui peuvent être créées en un clic, sont utilisées pour humilier et intimider les jeunes femmes du monde entier. Les organismes de surveillance avertissent désormais que des images d’abus sexuels sur mineurs pourraient inonder Internet si aucun contrôle n’est mis en place sur les outils d’IA.
Mani dit qu’après avoir commencé à parler de son expérience avec les deepfakes, d’autres filles ont commencé à lui écrire du monde entier, disant qu’elles avaient été ciblées de la même manière. « Il y avait tellement de filles de différents États, de différents pays », dit Mani. « Et nous avions toutes trois choses en commun : l’absence de politiques scolaires en matière d’IA, l’absence de lois et le non-respect du consentement. » Ainsi, au cours de l'année écoulée, Mani et sa mère Dorota ont sillonné le pays, plaidant pour un changement dans ces trois domaines. Mani s'est exprimée lors d'une audience pour soutenir le projet de loi « Take It Down » du sénateur Ted Cruz, qui vise à forcer les sites Web à supprimer les images explicites et à faire de la publication de ce type de contenu un crime fédéral. (Des projets de loi similaires ont été adoptés dans des États comme New York et Virginie, où les lois ont été mises à jour pour interdire les deepfakes sexuellement explicites.)
Mani travaille également avec la coalition d'activistes Encode Justice sur une campagne nationale visant à faire pression en faveur de la création de politiques sur les abus de deepfakes au niveau des districts. « Mon objectif est de protéger les femmes et les enfants, et nous devons d'abord commencer par les politiques scolaires en matière d'IA, car c'est là que la plupart des attaques sont ciblées », dit-elle.