Incidents associés
Un lycée du New Jersey a été plongé dans la crise après que des étudiants de sexe masculin ont été surpris en train de partager des nus générés par l'IA de leurs camarades de classe.
Certains étudiants de sexe masculin de la deuxième classe du lycée Westfield, dans le New Jersey, ont utilisé un site Web alimenté par l'IA pour générer des images pornographiques de leurs camarades de classe à l'aide de photos de filles trouvées en ligne.
L'une des victimes, Francesca Mani, âgée de 14 ans seulement, a porté plainte.
« Au début, j'ai pleuré, puis j'ai décidé que je ne devrais pas être triste. Je devrais être en colère et je devrais défendre mes intérêts et ceux des autres victimes", Mani [a déclaré au Wall Street Journal](https://www.wsj.com/tech/fake-nudes-of-real-students-cause-an- tumulte-dans-un-lycée-du-new-jersey-df10f1bb).
Sa mère, Dorota Mani, a déclaré à la publication : « Je suis terrifiée par la façon dont cela va faire surface et quand. Ma fille a un avenir brillant et personne ne peut garantir que cela n'aura pas d'impact sur elle sur le plan professionnel, académique ou social.
Des étudiants de sexe masculin de la Westfield High School dans le New Jersey (photo) ont utilisé un site Web alimenté par l'IA pour générer des images pornographiques de leurs camarades de classe.
Mary Asfendis, directrice de l'école secondaire Westfield, a alerté les parents de la situation dans un e-mail du 20 octobre.
Une autre victime a déclaré : "Nous sommes conscients qu'il y a des types effrayants, mais vous ne penseriez jamais qu'un de vos camarades de classe vous violerait de cette façon."
Mary Asfendis, directrice du lycée Westfield, a alerté les parents de la situation dans un courrier électronique le 20 octobre.
"Il s'agit d'un incident très grave", a écrit Asfendis.
"Les nouvelles technologies ont rendu possible la falsification des images et les étudiants doivent connaître l'impact et les dommages que ces actions peuvent causer aux autres."
Asfendis a déclaré qu'elle pensait que les images avaient désormais été supprimées et ne circulaient plus.
Un porte-parole des écoles publiques de Westfield a déclaré au Journal qu'ils ne fourniraient pas de détails sur le nombre d'élèves impliqués ni ne confirmeraient si des mesures disciplinaires avaient été prises, en raison de la confidentialité des élèves.
"Il est difficile d'être témoin d'une situation où l'on voit des jeunes filles traumatisées à un stade vulnérable de leur vie", a déclaré la première femme maire de Westfield, Shelley Brindle, à la publication.
Plus de 90 % de ces fausses images, connues sous le nom de « deep fakes », sont du porno, selon la société de détection d'images Sensity AI.
Des États, dont la Virginie, la Californie, le Minnesota et New York, ont interdit la distribution de faux porno ou donné aux victimes le droit de poursuivre leurs créateurs devant un tribunal civil. Cependant, les experts estiment que la loi fédérale ne parvient pas à suivre les changements technologiques de ce type.
"Cela doit être un crime grave dans le New Jersey", a déclaré au Journal Jon Bramnick, un sénateur de l'État du New Jersey dont le district comprend Westfield.