Incidents associés
Des adolescents ont utilisé l'intelligence artificielle (IA) pour créer de fausses photos nues de leurs camarades de classe dans un lycée aux États-Unis.
Une enquête est actuellement en cours après que des adolescentes du lycée Westfield High School de Westfield, dans le New Jersey, ont découvert que leurs camarades de classe masculins avaient utilisé la technologie de l'IA pour créer de fausses images pornographiques d'elles, qui étaient ensuite partagées dans des discussions de groupe.
[Selon un rapport du The Washington Street Journal,](https://www.wsj.com/tech/fake-nudes-of-real-students-cause-an-uproar-at-a-new-jersey-high -school-df10f1bb), les filles du lycée soupçonnaient que leurs camarades de deuxième année se comportaient « bizarrement » le 18 octobre.
Plusieurs filles ont commencé à poser des questions et finalement, le 20 octobre, un garçon a révélé qu'un étudiant avait utilisé les photos en ligne des filles pour créer de fausses images nues d'elles générées par l'IA qui ont été diffusées auprès d'autres lycéens.
Le lycée a confirmé l'incident dans un e-mail adressé aux parents à la publication, mais une porte-parole des écoles publiques de Westfield a refusé de fournir des détails sur le nombre d'élèves impliqués ou de confirmer si des mesures disciplinaires avaient été prises, invoquant la confidentialité des élèves.
« Je suis terrifié par la façon dont cela va faire surface »
Le Washington Street Journal rapporte que le manque de clarté sur la légalité de ces images générées par l'IA et sur la manière ou l'opportunité de punir les créateurs des photos falsifiées fait que les parents, les écoles et les forces de l'ordre ont du mal à gérer la technologie.
Plusieurs parents ont déclaré que leurs filles se sentaient humiliées et impuissantes après l'incident. Ils ont exprimé leur inquiétude quant aux dommages causés aux filles si les images faisaient surface plus tard et étaient contrariés par le fait qu'aucune résolution ne soit apportée. Deux des quatre parents ont déposé plainte auprès de la police locale.
"Je suis terrifiée par la façon dont cela va faire surface et quand", a déclaré à la publication Dorota Mani, dont la photo de la fille de 14 ans a été utilisée pour créer l'un des nus générés par l'IA.
« Ma fille a un avenir brillant et personne ne peut garantir que cela n’aura pas d’impact sur elle sur le plan professionnel, académique ou social. »
La police de Westfield enquête actuellement sur l'incident et un sénateur de l'État a demandé aux procureurs du comté de se pencher sur l'affaire.
Le mois dernier, une agence de surveillance d'Internet a averti que [l'augmentation des images d'abus sexuels sur des enfants en ligne générées par l'IA](https://petapixel.com/2023/10/25/internet-watchdog-warn-of-nightmare-rise-of -ai-child-sex-abuse-images/) pourrait être encore pire – si des contrôles ne sont pas mis sur la technologie qui génère de fausses photos.
Plus tôt cette année, une ville endormie d'Espagne a été secouée par un scandale d'image d'IA qui voyait circuler des photos d'enfants nus.
Crédits image : Photo d'en-tête sous licence via Depositphotos.