Problème 3292

WESTFIELD, N.J. (WCBS) – Certains lycéens du New Jersey sont accusés d’avoir partagé des photos nues de leurs camarades de classe générées par l’IA.

L'incident s'est produit au cours de l'été, mais a récemment été porté à l'attention des administrateurs de la Westfield High School.

Dorota Mani envisage de défendre les intérêts de sa fille, une lycéenne victime de ces deepfakes.

"Ma fille m'a envoyé un texto : 'Maman, des photos de moi nue sont distribuées.' «Je me dirige vers le bureau du directeur», a déclaré Mani.

Mani a déclaré que sa fille avait commencé à pleurer et avait vu des camarades de classe marcher dans les couloirs qui pleuraient également.

Les parents ont ensuite reçu un e-mail du directeur, lisant en partie :

« Des étudiants ont attiré notre attention sur le fait que certains de nos étudiants avaient utilisé l'intelligence artificielle pour créer des images pornographiques à partir de photos originales. Le genre d’images modifiées connues en ligne sous le nom de deepfakes. »

Le courriel du directeur avertissait ensuite les parents :

« Les nouvelles technologies ont permis de falsifier les images et les étudiants doivent connaître l'impact et les dangers que ces actions peuvent causer sur autrui. »

L'e-mail encourageait également les victimes à contacter la police, et Mani a déclaré qu'elle avait déposé un rapport de police.

Le district scolaire a déclaré qu’il ne pouvait pas commenter le nombre d’élèves concernés ni les mesures disciplinaires prises.

Le Congrès examine un projet de loi présenté par le représentant Joe Morelle de New York cela rendrait illégal le partage en ligne d’images deepfakes non consensuelles.

Mani et sa fille envisagent de plaider en faveur de lois visant à protéger les gens contre les deepfakes.

"C'est quelque chose que nous devrons apprendre, nos enfants devront en être conscients", a déclaré Mani.

Copyright 2023 WCBS via CNN Newsource. Tous droits réservés.