Incidents associés
RADNOR, Pennsylvanie (WPVI) – Le lycée de Radnor et la police municipale de Radnor enquêtent sur une vidéo générée par intelligence artificielle qui montrerait plusieurs élèves de manière inappropriée, selon un courriel adressé aux familles par le proviseur, le Dr Joseph MacNamara.
« Je vous écris pour répondre aux inquiétudes et dissiper les rumeurs concernant une vidéo générée par intelligence artificielle qui montrerait plusieurs de nos élèves de manière inappropriée », a écrit M. MacNamara. « Nous comprenons à quel point cette situation est grave et perturbante, et nous tenons à vous assurer que nous la traitons avec la plus grande diligence et le plus grand soin. »
Le proviseur a indiqué que les familles des élèves concernés ont été contactées et qu'un soutien leur a été apporté. Le courriel précise également que l'établissement a immédiatement ouvert une enquête interne et a informé la police municipale de Radnor.
« La police de Radnor est pleinement impliquée et nous continuons de collaborer étroitement avec elle afin de recueillir des informations », a écrit M. MacNamara.
Le district scolaire n'a pas souhaité faire d'autres commentaires et la police municipale de Radnor a seulement déclaré que l'incident faisait l'objet d'une enquête.
Action News s'est entretenu avec une mère de deux enfants scolarisés au lycée de Radnor, qui a souhaité garder l'anonymat.
« Ce qui nous inquiète le plus, c'est la sécurité psychologique de nos filles qui vont à l'école tous les jours et qui, désormais, vivent dans la crainte constante d'être observées. Elles se demandent si elles doivent publier quelque chose sur les réseaux sociaux », a-t-elle déclaré.
Des membres de la communauté ont exprimé leur inquiétude quant aux implications plus larges de cette technologie.
« Si nous ne faisons rien pour y mettre un terme, cela va se reproduire. Quant à savoir où cela nous mènera dans quelques années, qui sait ? », a déclaré Frank McHugh, dont un proche est élève au lycée de Radnor.
« C'est répugnant, et surtout pour les jeunes femmes, c'est extrêmement dangereux que cela se produise », a déclaré Meredith Criswell.
Bien que les principales plateformes d'IA telles que ChatGPT et Gemini disposent de mesures de protection pour empêcher la création d'images à caractère sexuel explicite, le Dr Robert D'Ovidio, professeur de criminologie à l'université Drexel et expert en cybersécurité, a indiqué que des applications non réglementées restent largement disponibles.
« Et tout un marché s'est développé autour de ça en ligne », a déclaré D'Ovidio. « Ces outils malveillants permettent à des criminels de se faire payer pour créer des images à caractère sexuel à partir de ce qui semble être un simple selfie, par exemple. »
Les législateurs se sont efforcés de rattraper leur retard face à l'évolution rapide de cette technologie. L'année dernière, le gouverneur Josh Shapiro a promulgué une loi interdisant la pornographie truquée (deepfake) impliquant des mineurs et des adultes non consentants.
« Nous savons que ce qui s'est passé à Radnor Township n'est pas un cas isolé », a déclaré D'Ovidio à Action News. « Les parents doivent en prendre conscience. Ce n'est pas un problème local. Certes, cela se produit ici, mais partout dans le pays. »
Il a exhorté les parents à parler des risques avec leurs enfants.
« C'est le moment d'en discuter avec leurs enfants, car ils ont désormais le pouvoir de faire cela », a conclu D'Ovidio. « Vous savez, faites attention à qui vous laissez entrer dans vos cercles sociaux sur les différentes plateformes de médias sociaux que vous utilisez. Assurez-vous de pouvoir faire confiance à ces personnes car, encore une fois, vous leur donnez accès à des photos et des vidéos qu'elles peuvent facilement utiliser contre vous. »