Incidents associés
Le 20 octobre 2023, une élève de 14 ans du lycée du New Jersey a appris que l'une de ses camarades de classe avait utilisé un service en ligne pour créer une image générée artificiellement de son visage sur le corps d'une femme nue. Et elle n'était pas la seule : les responsables du lycée de Westfield ont informé Francesa Mani et plusieurs autres étudiantes que des garçons de leur classe avaient créé et diffusé des images pornographiques deepfake d'elles via des messages à suppression automatique sur Snapchat.
Dans les semaines qui ont suivi, le compte de Mani a été largementchronique. Depuis lors, elle et sa mère ont commencé à faire pression pour que de telles images deepfake non consensuelles soient réglementées au niveau de l'État et au niveau fédéral. Francesa et sa mère Dorota Mani ont même été invitées à assister au récent discours sur l'état de l'Union du président Joe Biden en tant qu'invitées du représentant Tom Kean (R-NJ).
Mais Dorota Mani a déclaré à Forbes que près de cinq mois après l'incident, les garçons du lycée de Westfield soupçonnés d'avoir diffusé les images n'ont subi aucune conséquence significative, à part la suspension de l'un d'eux pour une seule journée. Mani a ajouté qu'à ce jour, aucun des garçons accusés n'a eu de contact direct avec elle ou Francesca.
« Ils ne devraient pas marcher dans ces couloirs avec les filles. »
Dorota Mani
Cependant, selon Mani, le 20 octobre, un conseiller scolaire a dit à Francesa que quatre garçons avaient admis avoir vu une image deepfake d'elle. De même, selon un procès connexe intenté par "Jane Doe", une camarade de classe de Westfield, contre "John Smith", l'un des garçons suspectés, un directeur adjoint d'école a déclaré à la mère de Doe que "l'un des élèves appelé au bureau de l'école pour parler de la situation a confirmé aux responsables de l'école qu'ils avaient vu une photo de Jane Doe nue". (L'avocat de Smith, Christopher Adams, n'a pas répondu à la demande de commentaires de Forbes.)
Selon Mani, les suspects continuent tous à fréquenter l'école, située à environ 30 miles à l'ouest de New York, et partagent actuellement les cours avec Francesca.
"Ils ne devraient pas marcher dans ces couloirs avec les filles", a déclaré Mani.
Dans une déclaration envoyée par courriel à Forbes, Mary Ann McGann, porte-parole des écoles publiques de Westfield, a déclaré : "Nous ne sommes pas en mesure de fournir des détails précis sur le nombre d'élèves impliqués et sur les mesures disciplinaires imposées, car les questions impliquant les élèves sont confidentielles". Elle a ajouté que "le lycée a mené une enquête immédiate, sur la base du code de conduite des élèves du district".
Mani a décrit sa frustration à l'égard de la direction de l'école de sa fille dans environ trois pages de témoignage écrit publié lundi. Elle s'est exprimée mardi après-midi devant une sous-commission du Congrès au sujet du fléau de la pornographie deepfake, demandant une "action législative immédiate".
"Au moment où [Francesca] a été informée qu'elle était l'une des victimes de l'IA, elle s'est sentie impuissante et impuissante", a déclaré Mani à la commission mardi. "Et puis elle a remarqué un groupe de garçons qui se moquaient d'un groupe de filles. À ce moment-là, elle est passée de la tristesse à la colère".
Plus tôt ce mois-ci, la présidente du Comité de surveillance et de responsabilité de la Chambre, la représentante Nancy Mace (R-SC) a présenté un nouveau projet de loi qui ferait de la création et de la distribution de telles images un crime fédéral pour la première fois.
Mani a également déclaré dans sa déclaration écrite que l'administration du lycée de Westfield avait "mal géré" l'incident de sa fille.
Dans une interview avec Forbes, Mani a en outre expliqué qu'elle avait compris, d'après le département de police de Westfield, que l'école avait apparemment interrogé les suspects en présence d'officiers, mais surtout, sans leurs parents. Cela signifiait que les déclarations des garçons seraient inutilisables devant un tribunal. (En vertu d'une décision de la Cour suprême du New Jersey de 2000](https://casetext.com%2Fcase%2Fstate-v-presha-4 "https://casetext.com/case/state-v-presha-4"), toute déclaration faite à la police alors qu'une personne de moins de 14 ans est en garde à vue est "inadmissible en droit, à moins que le parent ou le tuteur légal ne soit vraiment indisponible".)
"[L'école] a merdé", a déclaré Mani.
Fin janvier 2024, la police locale a formellement refusé de porter des accusations criminelles, et aucune mesure disciplinaire significative n'a été prise par l'école ou le district. Le département de police de Westfield n'a pas répondu aux demandes de commentaires de Forbes.
"Si un comportement comme celui-ci ne nécessite aucune réponse de la part de l'administration [de l'école], honte à vous", a déclaré Mani à Forbes.
« Non seulement vous enseignez aux garçons que ce qu'ils font est acceptable, mais vous envoyez un message très clair à la population féminine de l'école : vous êtes une fille et à un moment donné, vous serez une victime. En 2024, ce n'est pas acceptable. »
McGann, la porte-parole du district, a également fourni une copie d'un courriel envoyé par la directrice Mary Asfendis aux familles de l'école le 20 octobre, dans lequel elle qualifie l'incident de « très grave » et exhorte les parents à « parler avec leurs enfants de leur utilisation de la technologie et de ce qu'ils publient, enregistrent et partagent sur les réseaux sociaux. »
Suite à un incident similaire survenu récemment dans un collège de Beverly Hills, en Californie, cinq élèves ont été expulsés quelques semaines après avoir fait circuler des images deepfake et pornographiques de leurs camarades de classe. En décembre, deux collégiens de Floride ont été arrêtés après avoir été accusés d'avoir créé des images similaires. Selon Wired, les élèves ont été accusés de crimes de troisième degré en vertu d'une loi de l'État qui considère comme un crime le partage de toute « représentation sexuelle modifiée » d'une personne sans son consentement.
Voici quelques-uns des incidents deepfake connus perpétrés contre des femmes étudiantes qui ont surgi ces derniers mois à travers le pays à mesure que la technologie est devenue plus sophistiqué et plus facile à utiliser. De nombreuses applications et services en ligne portant des noms tels que "Nudify" et "ClothOff" peuvent, en quelques secondes, créer une police infinie d'images de nus à partir de n'importe quelle image téléchargée.
Dans le témoignage écrit, Mani a également décrit les nombreuses mesures prises par l'école le 20 octobre et après, qui, selon elle, ont aggravé la situation des adolescentes.
Selon le témoignage de Mani, le 20 octobre, sa fille, aujourd'hui âgée de 15 ans, et d'autres personnes ont découvert que les images circulaient et ont rapidement informé un directeur adjoint que leurs portraits avaient été utilisés pour créer des images pornographiques. Cependant, aucune des filles, ni aucun employé de l'école, n'ont réellement vu les images.
Presque immédiatement, a déclaré Mani, l'école a « annoncé de manière inappropriée » les noms des filles sur le système d'interphone du campus tandis que les garçons accusés ont été « discrètement retirés » de la classe. L'administration de l'école, a-t-elle poursuivi, « a affirmé que les photos d'AI avaient été supprimées sans que l'on les ait vues, sans fournir aucune preuve de leur suppression ».
De plus, alors que Francesa discutait avec les administrateurs de la façon de gérer la situation, elle a demandé à parler à une conseillère scolaire - une demande qui, selon elle, a été refusée.
Mani a déclaré que lorsqu'elle a essayé d'obtenir des réponses formelles de la part de l'administration de l'école, sa communication a été « systématiquement ignorée ». L'école était censée émettre un rapport de « harcèlement, d'intimidation et d'intimidation », ou HIB, 10 jours après le signalement de l'incident, mais aucun rapport de ce type n'a été communiqué à Mani ou à quiconque.
« J'attends toujours la conclusion de l'enquête », a déclaré Mani à Forbes. « Pour l'instant, ma dernière communication avec la directrice était qu'elle avait besoin de plus de temps. Ma question est : combien de temps encore ? »
Entre-temps, a déclaré Mani, elle a engagé des avocats extérieurs pour proposer des révisions aux politiques de cyberharcèlement du district, qui, selon elle, sont obsolètes car elles ne font aucune référence à la menace des images deepfake.
« Nous ne pleurons pas, nous sommes en colère, nous sommes bouleversés », a-t-elle déclaré. « Nous nous battons et nous n'arrêterons pas tant que notre école n'aura pas mis en place des politiques d'IA. »