Incidents associés
WESTFIELD, N.J. - Des rapports indiquent que des étudiants de sexe masculin de Westfield High School ont utilisé l'[Intelligence artificielle](https : //www.fox5ny.com/tag/technology/artificial-intelligence) pour produire des images explicites d'étudiantes en utilisant leurs photos originales pendant l'été.
"Nous étions tellement en colère. Beaucoup de filles pleuraient."
—Francesca Mani
Avant le 20 octobre, Francesca Mani, étudiante à Westfield, n'aurait jamais pensé que sa photo apparaîtrait en ligne dans une fausse image d'IA, mais c'est arrivé.
"Je n'aurais jamais pensé qu'en étant comme un étudiant, l'IA ne me venait même pas à l'esprit. Je pensais juste que ce serait comme une chair de poule sur Internet", a déclaré Mani.
Un des gars l'a dit à une des filles et le lendemain, la fille l'a dit à toutes les filles.
Mani ne savait pas quoi faire, alors elle s'est rendue au bureau du directeur.
La directrice Mary Asfendis a déclaré pour le moment qu'elle pensait que toutes les images créées avaient été supprimées et ne circulaient pas.
Aujourd'hui, une semaine et demie plus tard, le garçon qui aurait réalisé les images a été temporairement suspendu pendant quelques jours, mais il est désormais de retour à l'école.
Mani a appris qu'il ne s'agissait pas seulement d'un enfant, mais d'un groupe de garçons utilisant plus d'une douzaine d'images de filles pour créer de la pornographie IA.
"Le simple fait de le voir dans le couloir me fait peur."
—Francesca Mani
"Toutes les autres filles sont d'accord avec moi, elles ne veulent pas de lui dans cette école. Elles ont très peur", a déclaré Mani.
C'est une situation si préoccupante que la mère de Mani n'aurait jamais pensé qu'une telle chose arriverait à sa petite fille.
Le président Joe Biden a signé un décret ambitieux pour guider le développement de l’intelligence artificielle.
Elle plaide désormais pour un changement dans la politique de l'école et pour que ce garçon soit retiré de l'école.
"Je ne pense pas que ma fille, les autres victimes et les filles du lycée de Westfield devraient être punies par encore deux ans et demi de lui en classe", a déclaré la mère de Mani, Dorota.
La question est de savoir comment une telle chose se produit et comment peut-elle être évitée ?
"Le défi de cette technologie est que lorsqu'elle crée une fausse image de vous, parce qu'il ne s'agit pas réellement de vous, votre vie privée n'est pas vraiment violée, même si votre image a été échangée et modifiée et qu'une autre image est attachée à la vôtre pour créer ces images. situations très traumatisantes", a déclaré Renee Cummings, éthicienne en IA des données.
Nous avons contacté le directeur des écoles publiques de Westfield qui a envoyé à FOX 5 une déclaration disant :
"Tous les districts scolaires sont aux prises avec les défis et l'impact de l'intelligence artificielle et des autres technologies disponibles pour les élèves à tout moment et en tout lieu. Le district scolaire public de Westfield a mis en place des mesures de protection pour empêcher que cela ne se produise sur notre réseau et sur les appareils fournis par l'école. Nous continuer à renforcer nos efforts en éduquant nos élèves et en établissant des lignes directrices claires pour garantir que ces nouvelles technologies sont utilisées de manière responsable dans nos écoles et au-delà.
L'enquête policière se poursuit.
Si un parent ou un tuteur pense que son enfant est victime d'un acte criminel en relation avec cet incident, veuillez signaler l'affaire à la police de Westfield.