Incidents associés
Les élèves d'un lycée du New Jersey(https://lawandcrime.com/tag/new-jersey/) sont terrifiés après avoir appris qu'un de leurs camarades de classe aurait utilisé l'IA pour créer des images sexuellement explicites d'eux sans leur permission.
Francesca Mani, élève du lycée de Westfield, a déclaré qu'elle avait appris qu'un élève avait utilisé une photo originale d'elle et une application d'intelligence artificielle pour créer les images pornographiques, WNYW, filiale de New York Fox rapporté. Les images auraient été créées au cours de l’été, mais les étudiants n’en ont eu connaissance qu’en octobre.
"Je n'aurais jamais pensé qu'être comme un étudiant, l'IA ne me venait même pas à l'esprit", a déclaré Mani à la station. "Je pensais juste que ce serait comme une chair de poule sur Internet."
Elle a signalé l'incident au directeur de l'école et a appris qu'il s'agissait d'un groupe de garçons utilisant une douzaine d'images de filles pour créer de la pornographie générée par l'IA, selon WNYW. Le garçon aurait été suspendu pendant quelques jours mais est depuis retourné à l'école.
"Toutes les autres filles sont d'accord avec moi, elles ne veulent pas de lui dans cette école", a déclaré Mani. "Ils ont très peur."
Dans un e-mail, le directeur de l'école a déclaré qu'une enquête était en cours, selon l'affilié de CBS New York [WCBS](https://www.cbsnews.com/newyork/news/westfield-high-school-ai-pornographic-images-students /).
"Pour le moment, nous pensons que toutes les images créées ont été supprimées et ne circulent pas", indique l'e-mail. « Il s’agit d’un incident très grave. Nous poursuivons notre enquête et informerons les individus et les familles des étudiants impliqués une fois l’enquête terminée.
L'école aurait mis à disposition des conseils et le service de police de Westfield serait également impliqué, indique l'e-mail. Le directeur a également inclus un avertissement aux parents.
« Je voulais vous faire prendre conscience de la situation, car en plus de nuire aux élèves concernés et de perturber la journée scolaire, il est extrêmement important de parler avec vos enfants de leur utilisation de la technologie et de ce qu'ils publient, sauvegardent et partagent. réseaux sociaux », indique l’e-mail. « Les nouvelles technologies ont rendu possible la falsification des images et les étudiants doivent connaître l’impact et les dommages que ces actions peuvent causer aux autres. »
CBS a également rapporté que le surintendant de Westfield, le Dr Raymond González, a publié une déclaration :
Tous les districts scolaires sont aux prises avec les défis et l'impact de l'intelligence artificielle et des autres technologies accessibles aux élèves à tout moment et en tout lieu. Le district scolaire public de Westfield a mis en place des mesures de protection pour empêcher que cela ne se produise sur notre réseau et sur les appareils fournis par l'école. Nous continuons de renforcer nos efforts en éduquant nos élèves et en établissant des lignes directrices claires pour garantir que ces nouvelles technologies sont utilisées de manière responsable dans nos écoles et au-delà.
La loi entourant les « deepfakes » pornographiques comme ceux rapportés par Mani n’est pas réglée. Représentant Joe Morelle, DN.Y., proposition de loi en mai qui rendrait illégal le partage non consensuel d’images explicites modifiées ou « deepfakes » en ligne et créerait des recours juridiques pour les victimes ciblées par de telles images.
Des responsables du ministère de la Justice ont déclaré que les images sexuellement explicites d'enfants générées par l'IA sont illégales. en vertu de la loi fédérale.
Ni les responsables de l’école ni les représentants de la police de Westfield n’ont immédiatement répondu à la demande de commentaires de Law&Crime.