Incidents associés
WESTFIELD, N.J. -- Les parents et les élèves de la Westfield High School, dans le New Jersey, affirment que les élèves ont utilisé une application ou un site Web pour créer des images pornographiques de leurs camarades de classe générées par l'IA.
Les parents ont récemment reçu un e-mail du directeur, les avertissant des dangers de l'intelligence artificielle et affirmant que les plaintes des élèves avaient déclenché une enquête. Certains parents se sont tournés vers le service de police de Westfield.
Dorota Mani, propriétaire d'une garderie à Jersey City, s'inquiétait déjà de l'impact que l'intelligence artificielle pourrait avoir sur les enfants.
"Problème d'IA. Je l'appellerais 'pandémie d'IA' à ce stade", a-t-elle déclaré.
Elle dit qu'elle est encore plus inquiète maintenant que sa fille, une élève du lycée de Westfield, est devenue une victime.
"Ma fille m'a envoyé un texto : 'Maman, des photos de moi nue sont distribuées.' C'est tout. Je me dirige vers le bureau du directeur", a déclaré Mani.
Les parents ont ensuite reçu l'e-mail suivant du directeur :
"Je vous écris pour vous informer d'une situation qui a donné lieu à une désinformation généralisée et a suscité d'importantes inquiétudes et inquiétudes parmi le corps étudiant de Westfield High School. Plus tôt dans la journée, des étudiants ont attiré notre attention sur le fait que certains de nos étudiants avaient utilisé des armes artificielles. Intelligence pour créer des images pornographiques à partir de photos originales. Il y avait beaucoup d'inquiétude quant à savoir qui avait créé les images d'elles et si elles avaient été partagées. À l'heure actuelle, nous pensons que toutes les images créées ont été supprimées et ne sont pas diffusées. Ceci est un incident très grave. Nous poursuivons notre enquête et informerons les personnes et les familles des élèves impliqués une fois l'enquête terminée. Cela se produira avant le week-end. Nous avons mis des conseils à la disposition de tous les élèves concernés et les avons encouragés à retourner en classe lorsqu'ils se sentent en mesure de le faire. De plus, notre responsable des ressources scolaires et le service de police de Westfield ont été informés de notre enquête. Si un parent/tuteur pense que son enfant est victime d'un acte criminel en relation avec cet incident, veuillez signaler l'affaire à la police de Westfield. .
"Je voulais vous sensibiliser à la situation car, en plus de nuire aux élèves concernés et de perturber la journée scolaire, il est extrêmement important de parler avec vos enfants de leur utilisation de la technologie et de ce qu'ils publient, sauvegardent et partage sur les réseaux sociaux. Les nouvelles technologies ont rendu possible la falsification d'images et les étudiants doivent connaître l'impact et les dommages que ces actions peuvent causer aux autres.
"Nous continuerons à éduquer vos enfants sur l'importance d'une utilisation responsable de la technologie et espérons que vous renforcerez ces messages à la maison."
Ces types d’images modifiées sont connus en ligne sous le nom de « deepfakes ».
"Elle a commencé à pleurer, puis elle a marché dans les couloirs et a vu d'autres filles du lycée de Westfield pleurer, certaines d'entre elles étaient des victimes et d'autres simplement des amies des victimes qui compatissaient pour elles", a déclaré Mani.
Mani dit qu'elle a déposé un rapport à la police.
La police a déclaré à CBS New York qu'elle n'avait aucun commentaire.
"C'est quelque chose que nous devrons apprendre, nos enfants devront en être conscients", a déclaré Mani.
Le Congrès examine un projet de loi présenté par le représentant Joe Morelle, de New York, qui rendrait illégal le partage en ligne d'images « deepfakes » non consensuelles.
Mani et sa fille envisagent de plaider en faveur de lois visant à protéger les gens contre les deepfakes.
"Ses paroles : 'Nous ne voulons pas attendre qu'une tragédie se produise, nous devrions faire quelque chose de manière proactive'", a déclaré Mani.
Un porte-parole du district a déclaré à CBS New York que l'incident s'était produit au cours de l'été, mais avait été porté à l'attention des administrateurs scolaires le 20 octobre.
Le directeur de l'école, le Dr Raymond González, a publié la déclaration suivante :
_"Tous les districts scolaires sont aux prises avec les défis et l'impact de l'intelligence artificielle et des autres technologies disponibles pour les élèves à tout moment et en tout lieu. Le district scolaire public de Westfield a mis en place des mesures de protection pour empêcher que cela ne se produise sur notre réseau et sur les appareils fournis par l'école. Nous continuons de renforcer nos efforts en éduquant nos élèves et en établissant des lignes directrices claires pour garantir que ces nouvelles technologies sont utilisées de manière responsable dans nos écoles et au-delà.
Le district dit également qu'il ne peut pas commenter le nombre d'élèves concernés ni les éventuelles mesures disciplinaires.