Problème 3278

Un étudiant d'un lycée du New Jersey demande une législation fédérale pour lutter contre les images pornographiques générées par l'IA après avoir déclaré que des photos d'elle et d'autres camarades de classe avaient été manipulées et éventuellement partagées en ligne au cours de l'été.

Francesca Mani, 14 ans, étudiante au lycée de Westfield, et sa mère, Dorota, ont exprimé leur frustration face à ce qu'elles considèrent comme un manque de recours juridiques en place pour protéger les victimes de la pornographie générée par l'IA.

"Dans cette situation, il y avait des garçons ou un garçon - cela reste à déterminer - qui ont créé, sans le consentement des filles, des images inappropriées", a déclaré Dorota, s'adressant à [Michael Smerconish de CNN](https://www.cnn .com/videos/tech/2023/11/04/smr-ai-nudes-of-hs-students.cnn) samedi.

Francesca, qui a déclaré qu'elle faisait partie de plus de 30 étudiantes du lycée Westfield dont les photos ont été manipulées et éventuellement partagées publiquement, exige des comptes de la part de l'école et des responsables locaux, étatiques et gouvernementaux.

Les administrateurs de l'école ont été informés de l'incident le 20 octobre lorsque les élèves les ont informés que les images avaient été créées et éventuellement partagées au cours de l'été.

"Il y avait beaucoup d'inquiétude quant à savoir qui avait créé des images d'eux et si elles étaient partagées", a écrit la directrice de Westfield, Mary Asfendis, dans une lettre aux étudiants et aux parents envoyée le 20 octobre. "À l'heure actuelle, nous pensons que toutes les images créées ont été supprimés et ne sont pas diffusés. Il s’agit d’un incident très grave.

L'école secondaire Westfield a depuis mené sa propre enquête et le service de police de Westfield et l'agent responsable désigné par l'école « ont été immédiatement informés et consultés tout au long de l'enquête », selon la porte-parole de l'école, Mary Ann McGann. CNN a contacté le service de police de Westfield pour commentaires.

McGann a déclaré à CNN que l'école n'était pas en mesure de « fournir des détails spécifiques sur le nombre d'élèves impliqués et sur les mesures disciplinaires imposées, car les questions impliquant les élèves sont confidentielles ».

L'école a fourni à CNN une déclaration du surintendant Dr Raymond González, qui a déclaré : « Tous les districts scolaires sont aux prises avec les défis et l'impact de l'intelligence artificielle et d'autres technologies disponibles pour les élèves à tout moment et en tout lieu.

González a ajouté : « Le district scolaire public de Westfield a mis en place des mesures de protection pour empêcher que cela ne se produise sur notre réseau et sur les appareils fournis par l'école. Nous continuons de renforcer nos efforts en éduquant nos élèves et en établissant des lignes directrices claires pour garantir que ces nouvelles technologies sont utilisées de manière responsable dans nos écoles et au-delà.

Dorota a déclaré qu'elle était fière de sa fille pour avoir pris la parole et défendu non seulement ses propres intérêts, mais également ceux d'autres jeunes filles qui ont également été victimes de contenus pornographiques deepfakes générés par l'IA.

"Je pense que cette question est plus complexe que le lycée Westfield, et c'est notre moment et notre opportunité de la traiter comme une plate-forme enseignable, pour faire la lumière sur cette question importante", a-t-elle déclaré.

Dorota a déclaré que sa fille l'avait exhortée à voir s'il existait dans le New Jersey des lois protégeant contre les images ou vidéos deepfakes et avait également écrit une lettre au président Joe Biden lui demandant d'exhorter les gouverneurs des États à s'assurer que des lois sont en place pour protéger les mineurs. les filles et les garçons.

CNN a contacté le bureau du procureur du comté de New Jersey Union et la Maison Blanche pour obtenir leurs commentaires.

Les responsables du renseignement aux États-Unis ont mis en garde contre la forte augmentation des vidéos deepfake, qui peuvent sembler réalistes de manière convaincante mais sont générées à l’aide de l’intelligence artificielle. En Californie, des projets de loi ont été rédigés pour lutter contre l'utilisation de [deepfakes dans la pornographie non consensuelle](https://www. dwt.com/insights/2019/10/california-deepfakes-law).

Samantha Beech de CNN a contribué à ce rapport.