Incidents associés
NEW YORK (1010 WINS/WCBS 880) – Des garçons du lycée Westfield du New Jersey ont partagé de fausses photos nues générées par l'IA de camarades de classe lors de discussions de groupe au cours de l'été, a confirmé 1010 WINS/WCBS 880.
Selon les étudiants, un ou plusieurs de leurs camarades de classe masculins ont utilisé un outil d'intelligence artificielle en ligne pour créer des images obscènes avant de les faire circuler dans la communauté du lycée.
L'administration des écoles publiques de Westfield n'était au courant des images que le 20 octobre, selon un e-mail envoyé par le district au 1010 WINS/WCBS 880.
Une fois la situation découverte, la Westfield High School a mené une enquête immédiate sur la base du code de conduite des étudiants du district et a informé le service de police de Westfield, a confirmé le district.
Le même jour où les responsables du lycée ont découvert l'incident, Mary Asfendis, directrice de Westfield High School, a envoyé un e-mail aux parents.
L'e-mail informait les familles de la situation et encourageait les parents à contacter le service de police de Westfield s'ils pensaient que leur enfant était victime d'un acte criminel en relation avec l'incident.
« Je voulais vous faire prendre conscience de la situation, car en plus de nuire aux élèves concernés et de perturber la journée scolaire, il est extrêmement important de parler avec vos enfants de leur utilisation de la technologie et de ce qu'ils publient, sauvegardent et partagent. réseaux sociaux », a écrit Asfendis dans l’e-mail.
« Les nouvelles technologies ont rendu possible la falsification des images et les étudiants doivent connaître l'impact et les dommages que ces actions peuvent causer aux autres », a-t-elle poursuivi.
Le district a confirmé que le service de conseil de Westfield High School avait rencontré individuellement les étudiants en quête de soutien, en plus de rencontrer l'ensemble du niveau scolaire en petits groupes pour discuter de l'incident et détailler les politiques technologiques du district.
Selon Dorota Mani, la mère d'une des victimes, une jeune fille de 14 ans, ces manifestations de soutien ne suffisent pas.
« Leur population féminine, leurs étudiantes, sont très bouleversées et mal à l’aise. Et ils ne font rien pour qu’ils se sentent mieux », a déclaré Mani à 1010 WINS/WCBS 880.
Mani a déclaré que 34 filles avaient été convoquées au bureau en relation avec cet incident et que le principal Asfendis lui avait dit qu'il y avait un garçon soupçonné d'avoir créé les images.
Le district a refusé de fournir des détails précis concernant le nombre d'étudiants impliqués et les éventuelles mesures disciplinaires imposées, invoquant la confidentialité des étudiants.
"Tous les districts scolaires sont aux prises avec les défis et l'impact de l'intelligence artificielle et des autres technologies disponibles pour les élèves à tout moment et en tout lieu", a écrit le surintendant des écoles publiques de Westfield, le Dr Raymond González, dans un courrier électronique adressé au 1010 WINS/WCBS 880.
« Nous continuons à renforcer nos efforts en éduquant nos élèves et en établissant des lignes directrices claires pour garantir que ces nouvelles technologies soient utilisées de manière responsable dans nos écoles et au-delà », a déclaré González.
L'essor des outils d'IA gratuits a entraîné une diffusion accrue d'images deepfake sur les réseaux sociaux, avec la société de renseignement visuel sur les menaces Sensity rapportant que plus de 90% de ces images sont pornographiques.
Le précédent en matière d’options législatives concernant les personnes touchées par les fausses images alimentées par l’IA n’existe pas encore, laissant les législateurs déterminés à définir des règles concernant l’IA.
1010 WINS/WCBS 880 s'est entretenu avec le sénateur de l'État du New Jersey, John Bramnick, qui a déclaré : « Nous voulons nous assurer que nos statuts en font une infraction grave, pour le moment, cela pourrait se limiter à une sorte de harcèlement. »
Alors que les étudiantes tentent de se remettre de cette situation, Dorota Mani offre un peu d'espoir.
"Dans les circonstances, elle se porte très bien", a déclaré Mani à propos de sa fille. «J'ai un pétard à la maison. Elle est opiniâtre, elle est forte, elle est indépendante.