Incidents associés
Une enquête est en cours après que des adolescentes d'un lycée du New Jersey ont découvert que leurs camarades de classe masculins avaient utilisé des sites Web d'intelligence artificielle pour créer de faux nus d'elles, que les adolescents ont ensuite partagés et diffusés.
Les parents du lycée de Westfield ont alerté les autorités de leur ville aisée après que leurs filles ont eu connaissance de ces « faux nus » le 20 octobre. Les filles soupçonnaient leurs camarades de classe de cacher quelque chose, mais ce n'est que lorsque l'un des camarades de deuxième année aurait admis avoir reçu les faux nus qu'elles ont réalisé l'ampleur de la situation.
« Je suis terrifié par la façon dont cela va faire surface et quand. Ma fille a un avenir brillant et personne ne peut garantir que cela n'aura pas d'impact sur elle professionnellement, académiquement ou socialement », a déclaré Dorota Mani, dont la photo de sa fille de 14 ans a été utilisée pour créer l'un des nus générés par l'IA. Wall Street Journal_](https://www.wsj.com/tech/fake-nudes-of-real-students-cause-an-uproar-at-a-new-jersey-high-school-df10f1bb?mod=tech_lead_story ).
Lors d'une conférence entre les législateurs locaux et les familles touchées par l'incident, la fille de Mme Mani a déclaré que les filles de sa classe se sentaient humiliées et certaines ont même choisi de supprimer leurs réseaux sociaux, rapporte le WSJ. Les étudiantes n'ont pas vu les photos que leurs camarades de classe ont partagées lors de discussions de groupe et le lycée a refusé de confirmer au WSJ si les administrateurs de l'école avaient examiné ces conversations.
The Independent a contacté le lycée Westfield et la police locale pour obtenir leurs commentaires.
"Nous sommes conscients qu'il y a des types effrayants là-bas", aurait déclaré la fille de Mme Mani lors de la réunion. "... mais tu n'aurais jamais pensé qu'un de tes camarades de classe te violerait comme ça."
On pense que les adolescents ont utilisé des outils en ligne basés sur l’IA pour créer de fausses informations. On ne sait toujours pas s’ils feront l’objet de mesures disciplinaires.
"Il s'agit d'un incident très grave", a déclaré la directrice Mary Asfendis dans un courriel adressé aux parents et obtenu par le WSJ. « Les nouvelles technologies ont rendu possible la falsification des images et les étudiants doivent connaître l’impact et les dommages que ces actions peuvent causer aux autres. »
Quatre familles ont déjà déposé plainte auprès de la police, mais le nombre d'élèves dont les photos ont été utilisées reste inconnu.
Ces dernières années, l’utilisation de l’IA a suscité des inquiétudes quant à la propagation de la désinformation. Le porno créé à l’aide de cette technologie représente désormais plus de 90 % des « deepfakes » circulant en ligne, selon la société de détection de drau Sensity AI.
Pourtant, la législation en place pour lutter contre l’utilisation abusive de l’IA est encore nouvelle et insuffisante. Jeudi, le Royaume-Uni a organisé un sommet de deux jours en présence de dirigeants internationaux, au cours duquel les responsables ont tenté de jeter les bases d'une législation sur la réglementation de l'IA.
Plus tôt cette année, TikTok a déclaré que tous les deepfakes ou contenus manipulés qui montrent des scènes réalistes doivent être étiquetés pour indiquer qu'ils sont faux ou modifiés et que les deepfakes de personnalités privées et de jeunes ne sont plus autorisés. Meta, ainsi que des sites pour adultes comme OnlyFans et Pornhub, ont également participé à un outil en ligne, appelé Take It Down, qui permet aux adolescents de signaler des images et des vidéos explicites d'eux-mêmes sur Internet.
Certains des générateurs d'images les plus utilisés ne permettent pas aux utilisateurs de créer des images pornographiques, selon le WSJ, mais des alternatives sont facilement disponibles en ligne.
Bien qu'il soit encore trop tôt pour déterminer quelles voies juridiques sont disponibles pour les étudiants de Westfield High School, l'avocate en propriété intellectuelle Natalie Elizarof a déclaré au WSJ que les lois sur les abus sexuels sur enfants peuvent s'appliquer dans cette situation.
"Il est difficile d'être témoin d'une situation où l'on voit des jeunes filles traumatisées à un stade vulnérable de leur vie", a déclaré la maire de Westfield, Shelley Brindle, au WSJ.