Incidents associés
- En bref : Un parent a qualifié de « révoltantes » les fausses images explicites d'élèves de Bacchus Marsh Grammar diffusées en ligne.
- Un adolescent a été arrêté et libéré dans l'attente d'une enquête plus approfondie après que des plaintes ont été déposées au sujet des images d'IA.
- Quelle est la prochaine étape ? Les experts en cybersécurité souhaitent que davantage d'efforts soient déployés dans les écoles pour sensibiliser les enfants à la cybersécurité.
Une femme dont la fille fréquente Bacchus Marsh Grammar a déclaré qu'elle était écœurée par de fausses images nues d'élèves qui circulaient en ligne.
Un adolescent a été arrêté après la découverte d'une série d'images explicites générées par l'IA d'élèves de l'école, au nord-ouest de Melbourne.
La police de Victoria a déclaré que le garçon a été libéré dans l'attente d'une enquête plus approfondie et que son enquête est en cours.
La directrice de l'école a déclaré qu'il semblait que les images d'environ 50 filles de l'école avaient été prises sur les réseaux sociaux et manipulées avec l'IA pour créer des images obscènes.
La Première ministre de Victoria, Jacinta Allan, a déclaré que ses pensées allaient aux jeunes femmes et à leurs familles et qu'il n'y avait « pas de place pour cette conduite honteuse et misogyne à Victoria ».
« Les femmes et les filles méritent le respect en classe, en ligne et partout ailleurs dans notre communauté, c'est pourquoi nous avons fait des lois contre ce comportement et nous enseignons des relations respectueuses dans les écoles pour arrêter la violence avant qu'elle ne commence. »
La mère de famille, Emily, a déclaré avoir vu les images pendant le week-end et les a décrites comme « incroyablement explicites ».
Elle a déclaré à ABC Radio Melbourne que sa fille était très bouleversée et vomissait en réponse aux images.
« C'était tellement explicite que j'ai presque vomi quand je l'ai vu. C'était vraiment, vraiment horrible », a-t-elle déclaré.
« Quel genre d'esprit veut faire ça ? »
Emily a déclaré que les filles de l'école étaient interrogées par la police après que les images ont été révélées et que l'incident avait eu un impact significatif sur sa fille.
"C'est tout simplement trop. C'est trop d'intensité avec toutes ces images et l'IA devient incontrôlable et nous en voyons évidemment les conséquences.
"Il y a juste ce sentiment de se demander si cela va se reproduire, si cela va se reproduire. C'est très traumatisant."
Dans une déclaration mercredi matin, l'école a déclaré que les élèves concernés se voyaient offrir un soutien.
"Au nom des personnes et des familles concernées, Bacchus Marsh Grammar prend cette affaire très au sérieux et a contacté la police de Victoria.
"Le bien-être des élèves de Bacchus Marsh Grammar et de leurs familles est d'une importance primordiale pour l'école et est pris en compte."
L'imagerie par IA se répand
Susan McLean, experte en sécurité numérique chez Cyber Safety Solutions, a déclaré qu'il devenait de plus en plus facile de manipuler des images en ligne à l'aide de la technologie de l'IA.
"Les personnes qui les créent, les jeunes, deviennent de plus en plus effrontées et c'est facile - si vous allez dans l'App Store, vous trouverez un certain nombre d'applications que vous pouvez télécharger et qui créent ces images très crédibles presque instantanément", a-t-elle déclaré.
« Ces images sont souvent indiscernables à l'œil nu, elles sont très, très bonnes et même si, dans un cas comme celui-ci, il y a beaucoup de publicité et que tout le monde sait qu'elles sont fausses, cela ne répare pas le mal. »
Certains experts du numérique souhaitent que les écoles soient davantage sensibilisées à la cybersécurité. (Adam Berry/Getty Images)
Elle a appelé les écoles à intensifier les programmes éducatifs sur la cybersécurité, mais a également déclaré que les parents doivent être vigilants quant à ce que font leurs enfants en ligne.
« Quiconque a créé toutes ces images, je suggérerais qu'il l'ait fait à la maison sous la surveillance d'un parent », a-t-elle déclaré.
Emily van der Nagel, qui enseigne les médias sociaux à l'université Monash, a déclaré que la technologie elle-même n'était pas le principal sujet de préoccupation.
« Je pense qu'il s'agit simplement d'une mise à jour d'un comportement que nous comprenons depuis longtemps comme faisant partie de relations de genre vraiment profondément troublantes impliquant des adultes et des enfants », a-t-elle déclaré.
« J'ai l'impression que l'éducation pour aborder correctement ce genre de problème ne concerne pas nécessairement la technologie et le deepfake, mais la façon dont les garçons et les filles, les hommes et les femmes se comportent les uns avec les autres. »
Ce que fait le gouvernement de l'État contre le deepfake porn
En 2022, le gouvernement de Victoria a adopté de nouvelles lois ciblant les délits sexuels, y compris les délits sexuels basés sur des images, pour lutter contre le problème croissant du deepfake porn.
Créer une image intime contraire aux normes communautaires constitue déjà une infraction, et partager ou menacer de partager l'image constitue une infraction distincte.
Le gouvernement a déclaré que toutes les écoles publiques de Victoria s'engagent dans l'initiative Respectful Relationships de 82 millions de dollars, qui aide les écoles à modéliser le respect, à promouvoir des attitudes et des comportements positifs et à aider les élèves à établir des relations saines, la résilience et la confiance.
Une formation et un soutien intensifs pour le personnel sont également en cours dans environ 1 200 écoles, le gouvernement prévoyant d'inviter toutes les autres écoles non gouvernementales à y adhérer.