Incidents associés
(Daily Caller News Foundation) – Les filles du lycée Westfield, dans le New Jersey, ont été choquées lorsqu'elles ont découvert que des garçons faisaient circuler de fausses photos nues d'elles, selon un rapport publié jeudi par le Wall Street Journal (WSJ).
L'incident a commencé le 16 octobre lorsque des étudiants en deuxième année de Westfield High se comportaient de manière « bizarre », a déclaré une mère (https://www.wsj.com/tech/fake-nudes-of-real-students-cause-an- tumulte-dans-un-lycée-du-new-jersey-df10f1bb) WSJ, partageant ce que sa fille lui avait transmis. Le 20 octobre, l'un des garçons a révélé : au moins un étudiant avait utilisé des outils en ligne alimentés par l'intelligence artificielle (IA) pour créer de fausses photos nues de leurs camarades de classe en utilisant des photos d'eux déjà présentes sur Internet, selon le WSJ.
Les photos et vidéos retouchées numériquement ou deepfake ont explosé ces dernières années. Une brève recherche en ligne mènera les utilisateurs à des dizaines d’outils offrant des capacités d’échange de visage et de « retrait de vêtements ». Le matériel pornographique constitue la majorité des deepfakes créés sur Internet, a rapporté le WSJ, citant la société de détection d'images Sensity AI.
[🧵 1/10] TikTok, l'une des plateformes de médias sociaux les plus populaires au monde, héberge désormais un flux constant de vidéos deepfake.
Nous avons vu tout le monde, de Tom Cruise à Barack Obama, être la star de ces vidéos, mais prennent-elles une tournure sinistre ? pic.twitter.com/S92ZMkPsf4
– TNW (@thenextweb) 21 juillet 2022
Westfield High School a confirmé l'incident dans un e-mail adressé aux parents, selon le WSJ. Un porte-parole de l'école a refusé de préciser exactement combien d'élèves étaient impliqués ou si l'école avait pris des mesures disciplinaires. L'école a également refusé de dire si les membres du personnel de Westfield avaient vu les images créées numériquement.
L'une des victimes, identifiée comme Francesca, a évoqué sa réaction aux images lors d'une réunion de groupe lundi chez elle. Des parents de Westfield High, des membres du conseil municipal et un membre du conseil scolaire étaient parmi les personnes présentes. Le WSJ s'est connecté via le téléphone.
"Au début, j'ai pleuré, puis j'ai décidé que je ne devais pas être triste", a déclaré Francesca. «Je devrais être en colère et défendre mes intérêts et ceux des autres victimes.»
Les victimes découvrent qu'elles ne disposent peut-être pas d'une voie juridique claire pour porter plainte contre les créateurs du deepfake, a rapporté le média. À l'échelle nationale, il n'y a pas de loi contre la création de deepfake porn. Quelques États, dont New York, le Minnesota et la Californie, ont des lois interdisant la distribution de deepfake porn.
Il est possible que les victimes dans cette affaire bénéficient des lois relatives au matériel d'abus sexuel sur des enfants, a rapporté le média, citant l'avocate spécialisée en propriété intellectuelle Natalie Elizaroff. Cependant, le seuil pour prouver sa culpabilité est plus élevé. La personne représentée doit être considérée comme mineure, le contenu doit être explicite et quelqu'un doit l'avoir créé, possédé ou distribué.
L'incident a amené les filles à repenser ce qu'elles publient en ligne, et certaines ont décidé de supprimer complètement les réseaux sociaux, selon le WSJ.
"Nous sommes conscients qu'il y a des types effrayants là-bas", a déclaré l'une des victimes, "mais vous n'auriez jamais pensé qu'un de vos camarades de classe vous violerait de cette façon."