Incidents associés
GOFFSTOWN, NH — Les parents de trois collégiennes affirment que des élèves de troisième ont utilisé l'intelligence artificielle pour créer des photos et des vidéos truquées de leurs enfants, les montrant nues. Selon eux, les élèves ont utilisé une application pour créer ce contenu et le partager.
« C'est très perturbant, vraiment dévastateur et révoltant », a déclaré une mère. « Ma fille refuse toujours d'aller à l'école. Elle traverse une période très difficile. »
Les mères ont confié à Boston 25 News que le principal du collège de Goffstown les avait rappelées début octobre pour les informer de l'existence de ces photos. Elles expliquent qu'un élève s'est manifesté après avoir entendu parler de la diffusion de ces images parmi ses camarades. Les parents précisent que l'application utilisée nécessite simplement une photo pour « déshabiller » la personne grâce à l'IA.
« Imaginez si c'était le visage de votre enfant, votre fille ou votre fils, modifié, exploité et diffusé, ayant peur d'aller à l'école ou de prendre le bus. »
Les parents affirment que les garçons de 4e, âgés de 13 ou 14 ans, étaient des camarades de classe de leurs filles.
« Elle se demande pourquoi cela lui est arrivé », a déclaré une autre mère. « Elle est très nerveuse à l'idée de revoir ces camarades. »
Ces parents étaient également en colère contre la façon dont le district scolaire a géré l'incident. Une mère a déclaré qu'il avait fallu un mois au district pour informer les parents d'un problème d'IA à l'école. Voici le courriel envoyé par Brian Balke, surintendant du SAU n° 19 :
« Je souhaite profiter de cette occasion pour m'adresser directement à nos familles et à notre communauté concernant des informations diffusées sur les réseaux sociaux au sujet d'un incident récent survenu au collège Mountain View. Lorsque vous voyez ou entendez des choses en ligne concernant nos écoles, les messages partagés peuvent parfois être inquiétants, surtout lorsque les informations partagées sont incomplètes ou inexactes.
La publication d'informations sur les réseaux sociaux peut parfois donner lieu à des rumeurs, des spéculations ou des questions susceptibles de causer involontairement du tort ou de l'anxiété à nos élèves et à leurs familles.
En tant que district, nous sommes confrontés à un défi dans des moments comme celui-ci. » Nous attachons une grande importance à la transparence. Cependant, nous sommes tenus, légalement et éthiquement, au respect de la confidentialité. Nous ne pouvons donc pas divulguer de détails précis concernant la discipline des élèves, les enquêtes et leurs conclusions. Je comprends votre frustration.
La sécurité des élèves demeure notre priorité absolue. Notre établissement s'engage à développer en permanence les compétences du XXIe siècle grâce à notre initiative de Soutien et d'Interventions Comportementales Positives (SICPP), au programme Second Step et à l'organisation de prochaines assemblées avec des conférenciers de renom. Nous vous remercions de votre compréhension, de votre confiance et de votre collaboration continue, qui nous permettent de soutenir au mieux nos élèves.
Boston 25 a contacté le district vendredi, mais n'a pas reçu de réponse.
Les mères qui se sont entretenues avec Boston 25 estiment que le district a tardé à informer les autres familles. Elles souhaitent également que le district sensibilise les élèves aux dangers de l'IA et à ses conséquences potentielles.
« Ces filles n'ont rien fait de mal. » « Elles ont écouté leurs parents et pourtant, elles sont toujours victimes », a déclaré une mère. « Franchement, c'est déchirant. »
Ces mères souhaitent que les garçons soient tenus responsables de la création et du partage de ces contenus, qui ont traumatisé les jeunes filles. Elles encouragent les parents à parler à leurs enfants du caractère inacceptable de ces photos explicites.
« Tout commence à la maison, et j'aimerais vraiment que les enfants demandent des comptes à leurs parents », a ajouté une autre mère. « N'ayez pas peur de regarder leurs téléphones et de vous assurer de ce qui s'y passe réellement. L'IA est là pour rester. Il nous faut donc apprendre à la maîtriser et à éviter qu'elle n'ait un impact négatif sur nous et nos enfants. »
D'autres cas d'adolescents utilisant des applications et l'IA pour créer des contenus inappropriés ont également été signalés dans d'autres États.
Article en cours de développement. Revenez consulter cette page pour obtenir des mises à jour.