Incidents associés
WESTFIELD, NJ — Les élèves de la Westfield High School ont créé et distribué de fausses images pornographiques d'autres étudiantes de l'école, suscitant l'inquiétude de certains parents et incitant les autorités à enquêter sur ces allégations, selon des responsables et des rapports.
Des filles du lycée ont récemment découvert que des garçons partageaient des photos nues d'elles dans des discussions de groupe après qu'un ou plusieurs autres étudiants ont utilisé un outil en ligne alimenté par l'intelligence artificielle pour créer les images, [a rapporté le Wall Street Journal](https://www. wsj.com/tech/fake-nudes-of-real-students-cause-an-uproar-at-a-new-jersey-high-school-df10f1bb).
Dorota Mani a déclaré au Journal que sa fille de 14 ans faisait partie des élèves dont les photos ont été utilisées.
"Je suis terrifiée par la façon dont cela va faire surface et quand. Ma fille a un avenir brillant et personne ne peut garantir que cela n'aura pas d'impact sur elle professionnellement, académiquement ou socialement", a déclaré Mani à la publication.
Dans une déclaration fournie à Patch, un porte-parole du district a confirmé que l'incident s'était produit au cours de l'été et avait été porté à l'attention des responsables de l'école le mois dernier. Le district a mené une « enquête immédiate », selon le porte-parole, et a informé la police de Westfield.
Le porte-parole du district a refusé de fournir des détails sur le nombre d'étudiants impliqués ou de confirmer si des mesures disciplinaires avaient été prises, invoquant des raisons de confidentialité.
Un parent a déclaré au Wall Street Journal que certains des garçons de deuxième année se comportaient « bizarrement » dans les jours qui ont précédé la découverte des photos par les responsables de l'école. Le 20 octobre, un garçon a parlé des photos à certaines filles, qui en ont ensuite parlé aux administrateurs.
Mary Asfendis, directrice du lycée de Westfield, a adressé les photos dans un e-mail envoyé aux parents le même jour.
"Il s'agit d'un incident très grave", a écrit Asfendis dans l'e-mail obtenu par Patch. "Les nouvelles technologies ont rendu possible la falsification des images et les étudiants doivent connaître l'impact et les dommages que ces actions peuvent causer aux autres."
Dans l'e-mail, Asfendis a déclaré aux parents qu'elle pensait que les images avaient été supprimées et ne circulaient plus.
Elle a ajouté : "Nous continuerons à éduquer vos enfants sur l'importance d'une utilisation responsable de la technologie et espérons que vous renforcerez ces messages à la maison."
Au moins deux familles ont déposé un rapport auprès du service de police de Westfield, selon le Journal. Un porte-parole de la police n'a pas répondu à la demande de commentaires de Patch.
Selon une étude menée par l'Université de Pennsylvanie. Le deepfake porn est un contenu visuel créé à l’aide de la technologie de l’IA, auquel tout le monde peut accéder via des applications et des sites Web.
Selon Sophie Maddocks, chercheuse à l'UPenn, la technologie utilise des algorithmes entraînés pour retirer les vêtements des images de femmes et les remplacer par des images de parties du corps nues.
Selon un rapport de NBC News, 96 % des images deepfakes sont sexuellement explicites et mettent en scène des femmes qui n’ont pas consenti à la création du contenu.
Au niveau national, le président Joe Biden a signé lundi un décret ciblant l'intelligence artificielle qui cherche à équilibrer les besoins des entreprises technologiques avec la sécurité nationale et les droits des consommateurs.
Avant de signer la commande, Biden a déclaré que l'IA conduisait le changement à une « vitesse fulgurante » et comportait un énorme potentiel ainsi que des périls.
"L'IA est partout autour de nous", a déclaré Biden. "Pour réaliser les promesses de l'IA et éviter les risques, nous devons gouverner cette technologie."
Cette ordonnance est une première étape pour garantir que l’IA est digne de confiance et utile plutôt que trompeuse et destructrice. L’ordonnance – qui devra probablement être renforcée par une action du Congrès – vise à orienter la manière dont l’IA est développée afin que les entreprises puissent en tirer profit sans mettre en danger la sécurité publique.