Incidents associés
WESTFIELD — Une lycéenne du New Jersey victime de deepfakes pornographiques est désormais l'une des personnes les plus influentes dans le domaine de l'intelligence artificielle, selon Time.
Francesca Mani est une élève de 15 ans en deuxième année au lycée de Westfield. L'année dernière, ses camarades de classe ont utilisé un logiciel d'IA pour créer des images sexuellement explicites d'elle et d'autres filles de l'école.
Aucun des garçons n'a été accusé d'un crime.
Malgré son jeune âge, Mani travaille dans tout le pays avec des législateurs, des conseils scolaires et des entreprises technologiques pour plaider en faveur du changement.
"Ce qui m'est arrivé à 14 ans pourrait arriver à n'importe qui", a déclaré Mani plus tôt cette année.
Mani a déclaré au magazine emblématique qu'elle et ses camarades de classe n'avaient aucune protection. D'autres victimes l'ont contactée après qu'elle ait commencé son travail en tant qu'activiste anti-deepfake.
« Il y avait tellement de filles de différents États, de différents pays. Et nous avions tous trois choses en commun : l'absence de politiques scolaires en matière d'IA, l'absence de lois et le non-respect du consentement", a déclaré Mani à Time.
Parmi ses projets, Mani fait partie de la commission du gouverneur Phil Murphy pour étudier les effets des médias sociaux sur l'adolescence. Mani et sa mère, Dorota, ont déclaré à New Jersey 101.5 qu'elles souhaitaient contribuer à l'élaboration de solutions significatives au niveau de l'État.
La famille de Mani déclare que la Maison Blanche fera une annonce sur l'IA
Selon une déclaration de Dorota et Francesca Mani, elles ont été invitées à la Maison Blanche par les Biden pour célébrer le 30e anniversaire de la loi sur la violence contre les femmes jeudi.
"C'est une étape importante dans la lutte pour la sécurité et la justice pour les femmes à travers le pays, mais malheureusement ce n'est pas encore fait", ont-elles déclaré à New Jersey 101.5.
Mani a déclaré s'attendre à des "nouvelles passionnantes" concernant l'IA de la part de la Maison Blanche vendredi.
Sommet à Washington D.C. se concentre sur l'IA dans les écoles
Mani travaille également avec les sénateurs américains Ted Cruz, républicain du Texas, et Amy Klobuchar, démocrate du Minnesota, pour organiser un sommet sur l'IA dans la capitale nationale en novembre prochain.
Le sommet aura pour objectif de convaincre les conseils scolaires de mettre à jour les politiques d'IA de leurs districts afin que les futures victimes adolescentes de deepfakes ne soient pas laissées à elles-mêmes.
"Chaque cas d'utilisation abusive de l'IA aura ses propres complexités, et c'est là que diverses voies doivent être disponibles pour les victimes, comme la protection des écoles ainsi qu'une législation forte", a déclaré Mani.
Législation fédérale contre la pornographie deepfake
Cruz et Klobuchar sont toutes deux les parrains de la loi TAKE IT DOWN. Le projet de loi bipartisan dévoilé en juin vise à protéger les victimes de la pornographie de vengeance deepfake.
En juillet, le Sénat américain a voté à l'unanimité l'adoption de la loi DEFIANCE. Le projet de loi donne un recours civil fédéral aux victimes de deepfakes sexuellement explicites non consensuels.
Le représentant américain Tom Kean Jr., R-N.J. Le 7e district a également présenté le Preventing Deepfakes of Intimate Images Act aux côtés du représentant américain Joe Morelle, démocrate de New York, en mai 2023. Le projet de loi est depuis bloqué à la Chambre.