Incidents associés
Une adolescente et sa mère s'expriment après qu'un lycéen aurait utilisé l'intelligence artificielle pour créer des images nues d'elle et d'autres filles, qui ont ensuite été partagées avec un groupe de camarades de classe.
Francesca Mani, 14 ans, a découvert ces images en octobre, lorsqu'elle a été appelée dans le bureau de son directeur du lycée Westfield et lui a dit qu'elle était l'une des victimes de fausses photos de nu générées par l'intelligence artificielle et créées par un camarade de classe.
"J'ai réalisé que je ne devrais pas être triste, mais que je devrais être en colère. Alors, je suis rentré à la maison et je l'ai dit à ma mère, et je lui ai dit que nous devions faire quelque chose à ce sujet parce que c'est injuste envers les filles, et ce n'est tout simplement pas le cas. c'est vrai", a déclaré Francesca, une étudiante en deuxième année, à "Good Morning America".
Dorota Mani, la mère de Francesca, a déclaré à "GMA" qu'elle avait été choquée lorsqu'elle a entendu parler de l'incident pour la première fois, mais qu'elle est ensuite passée à l'action.
"Mon premier sentiment, évidemment, a été le choc d'entendre une telle chose de la part de votre fille", se souvient Mani.
Westfield High School à Westfield, NJ
Mani a déclaré qu'elle avait déposé une plainte à la police et contacté un responsable de l'école de Francesca, qui l'a informée que les photos avaient été distribuées via Snapchat.
"[Le responsable] a également mentionné que je ne devrais pas m'inquiéter car Snapchat ne dure que trois à cinq secondes, et nous savons tous que vous pouvez le sauvegarder, vous pouvez en faire une capture d'écran, quelqu'un d'autre peut prendre une photo de cette photo", Mani dit.
Mani a déclaré qu'elle pensait que les fausses images générées par l'IA auraient été partagées au cours de l'été entre plusieurs garçons, étudiants de Westfield, mais a déclaré que l'école n'en avait eu connaissance que récemment.
Mary Asfendis, directrice du lycée de Westfield, a récemment envoyé une lettre aux parents, écrivant notamment : « Les étudiants ont attiré notre attention sur le fait que certains de nos étudiants avaient utilisé l'intelligence artificielle pour créer des images pornographiques à partir de photos originales… À l'heure actuelle, nous pensons que toutes les images créées " ont été supprimés et ne circulent pas. Il s'agit d'un incident très grave. Nous poursuivons notre enquête. "
Selon Dorota et Francesca Mani, un seul camarade de classe a purgé une courte suspension liée à l'incident, et elles affirment qu'il est depuis retourné à l'école.
"Je me sens très mal à l'aise et très effrayée", a déclaré Francesca. "Beaucoup d'autres filles sont d'accord avec moi. Nous ne pensons tout simplement pas que ce soit juste qu'il marche dans les couloirs."
Les Manis affirment qu'ils n'ont pas vu les fausses images générées par l'IA et qu'ils ne connaissent aucune autre victime présumée qui les aurait vues. ABC News n'a pas été en mesure de confirmer si ces images existent.
Le New Jersey a des lois strictes contre les représentations sexuellement explicites de mineurs, y compris les fausses images, selon les experts.
"Le fait que les auteurs soient mineurs pourrait signifier qu'il y a ici de la clémence ou certains types de tentatives pour les maintenir à l'écart du système d'incarcération, mais cela ne signifierait pas qu'ils ne pourraient pas être punis du tout", a déclaré Mary Anne Franks, une loi professeur à l'Université George Washington, a déclaré à "GMA".
Mani a déclaré que cet incident est un rappel de parler aux enfants.
"C'est un moment où nous devrions enseigner à nos filles et à Westfield High School qu'elles valent la peine de se battre. Ce qui s'est passé n'est pas acceptable, et nous devrions apprendre à nos garçons qu'il y aura des conséquences", a-t-il ajouté. " dit Mani.
Westfield High School encourage également les parents à parler aux enfants de ce qu'ils publient, sauvegardent et partagent sur les réseaux sociaux.