Problème 3303

WESTFIELD, N.J. (WCBS/CNN/CNN Newsource/WKRC) – Des lycéens ont été accusés d'avoir fait circuler des photos explicites de leurs camarades de classe générées par l'IA.

L'incident s'est produit au cours de l'été à Westfield, dans le New Jersey, mais n'a été porté que récemment à l'attention des administrateurs scolaires. Les journalistes du WCBS se sont entretenus avec un parent de l'école, qui prévoyait de plaider avec sa fille en faveur de lois visant à protéger les gens contre les soi-disant « deepfakes ».

Dorota Mani, propriétaire d'une garderie de la ville du New Jersey, a déclaré à la station qu'elle était préoccupée par l'impact potentiel de l'intelligence artificielle sur les enfants.

"Un problème d'IA ? J'appellerais cela une pandémie d'IA à ce stade", a déclaré Mani au WCBS.

Mani a déclaré au média qu'elle était plus inquiète maintenant que sa fille, une lycéenne, était devenue une victime.

"Ma fille m'a envoyé un texto : 'Maman, des photos de moi nue sont distribuées.' C'est tout. En route vers le bureau du directeur", a déclaré Mani à la station.

Selon WCBS, les parents ont reçu un e-mail du directeur qui disait notamment : « Les étudiants ont attiré notre attention sur le fait que certains de nos étudiants avaient utilisé l'intelligence artificielle pour créer des images pornographiques à partir de photos originales. Le genre d'images modifiées connues en ligne sous le nom de deepfakes. »

"Elle a commencé à pleurer et elle a vu d'autres filles du lycée de Westfield pleurer, certaines d'entre elles étant des victimes et d'autres simplement des amies des victimes qui compatissaient pour elles", a déclaré Mani à la station.

Le directeur a ensuite averti les parents que "les nouvelles technologies ont rendu possible la falsification des images et que les élèves doivent connaître l'impact et les dangers que ces actions peuvent entraîner pour les autres".

L'e-mail encourageait les parents des victimes à contacter la police et Mani a déclaré au WCBS qu'elle avait déposé un rapport. La police a déclaré au commissariat qu'elle n'avait aucun commentaire à faire.

"C'est quelque chose que nous devrons apprendre, nos enfants devront en être conscients", a expliqué Mani aux journalistes du WCBS.

Le Congrès examine un projet de loi, présenté par le représentant Joe Morelle de New York, qui rendrait illégal le partage en ligne d'images deepfakes non consensuelles.

Le district scolaire a déclaré au WCBS qu'il ne pouvait commenter les mesures disciplinaires prises. Mani et sa fille ont déclaré au média qu'elles prévoyaient de plaider en faveur de meilleures lois pour protéger les gens contre les deepfakes.