Incidents associés
Francesca Mani, une élève du New Jersey Westfield High School, s'est manifestée avec sa mère, Dorota, pour dénoncer les images pornographiques générées par l'IA qui, selon elle, ont été manipulées et partagées d'elle et d'autres camarades de classe au cours de l'été.
Selon CNN, le jeune de 14 ans [appelle à une législation fédérale](https://www.cnn.com/2023/11/04/us/new-jersey-high-school-deepfake-porn/index. html) pour protéger les victimes de la pornographie générée par l’IA.
"Dans cette situation, il y avait des garçons ou un garçon – c'est à déterminer – qui ont créé, sans le consentement des filles, des images inappropriées", a déclaré Dorota au média le 4 novembre.
Le lycéen a déclaré que plus de 30 étudiantes avaient été victimes d’images générées par l’IA qui auraient été manipulées et rendues publiques.
L'élève et sa mère cherchent à ce que l'école et les responsables du gouvernement local et de l'État assument la responsabilité de la situation.
Depuis qu'elle a pris connaissance de l'affaire le 20 octobre, l'école a lancé une enquête, en consultation avec le Service de police de Westfield.
"Il y avait beaucoup d'inquiétude quant à savoir qui avait créé des images d'eux et si elles étaient partagées", a déclaré la directrice de Westfield, Mary Asfendis, dans une lettre aux étudiants et aux parents traitant de la question le 20 octobre.
« Pour le moment, nous pensons que toutes les images créées ont été supprimées et ne circulent pas. Il s’agit d’un incident très grave.
"Tous les districts scolaires sont aux prises avec les défis et l'impact de l'intelligence artificielle et des autres technologies disponibles pour les élèves à tout moment et en tout lieu", a déclaré le surintendant Dr Raymond González dans un communiqué.
Le 27 avril, NPR a rapporté que les décideurs politiques avaient déjà [résolu à leurs préoccupations](https://www.npr.org/2023/04/27/1172387911/how-can-people-spot-fake-images-created-by-artificial -intelligence) concernant la pornographie deepfake non consensuelle.
Selon le dictionnaire Merriam-Webster, un « deepfake » est « une image ou un enregistrement qui a été de modifié et manipulé pour déformer quelqu'un] (http://Définition de Merriam-Webster de "deepfake") comme faisant ou disant quelque chose qui était pas réellement fait ou dit.
"Les lois et la réglementation devront jouer un rôle, au moins dans certains des domaines les plus à risque", a déclaré Matthew Ferraro, avocat de WilmerHale, expert en questions juridiques liées à l'IA.
Dix États, dont le Texas et la Californie, ont déjà créé des politiques interdisant les deepfakes, en particulier la pornographie. L’Union européenne est déjà passée à l’action en créant la loi sur l’IA pour établir des règles et réglementations sur la manière dont l’IA peut être utilisée.