Incidents associés
Un adolescent a été arrêté après que des fausses images nues de 50 filles d'une école privée régionale de Victoria ont été partagées sur les réseaux sociaux.
Les visages des filles, des années 9 à 12 de Bacchus Marsh Grammar, ont été utilisés dans des images de nus générées par l'intelligence artificielle et mises sur Instagram, puis partagées par les élèves sur Snapchat, a confirmé l'école.
Le directeur par intérim Kevin Richardson a déclaré que l'école avait été informée par les parents de la création massive de fausses images nues de leurs filles, et que les rapports avaient été transmis à la police.
La police de Victoria a confirmé qu'elle enquêtait sur des rapports d'images explicites circulant en ligne et que les agents avaient été informés qu'un certain nombre d'entre elles avaient été envoyées à une personne de la région de Melton via une plateforme en ligne le 7 juin.
Dans un communiqué publié mardi soir, la police a déclaré qu'un adolescent avait été arrêté pour l'incident et libéré en attendant de plus amples enquêtes.
Richardson a déclaré que l'école ne savait pas encore si les images présentant les visages d'un « grand nombre d'élèves » sur des corps générés par l'IA avaient été créées par des élèves de l'école, ou si quelqu'un d'autre les avait faites.
"Il se pourrait bien que ce soient des élèves", a-t-il dit, ajoutant que les élèves visés ressentaient "tout un éventail d'émotions".
L'école a appris lundi que les images des filles avaient été récupérées sur leurs comptes de réseaux sociaux et que leurs fausses photos dénudées étaient partagées.
L'experte en cybersécurité et ancienne policière Susan McLean a déclaré que le ciblage des filles était dégoûtant et pourrait causer des dommages à long terme.
Elle a déclaré que la police devrait envisager d'inculper les responsables : "Une tape sur les doigts ne suffira pas", a déclaré McLean.
"Il ne se passe pas une semaine sans que nous ayons des gros titres comme celui-ci. Ce sont toujours des femmes qui sont ciblées de cette façon. Le niveau de manque de respect envers les jeunes femmes est épouvantable".
Un élève de 15 ans de l'école catholique Salesian College de Chadstone a été expulsé la semaine dernière pour avoir produit des images deepfake et explicites d'un enseignant de l'école, en utilisant l'IA, a rapporté le Herald Sun.
Un deepfake est une image ou une vidéo dans laquelle le visage ou le corps d'une personne a été modifié numériquement pour faire croire qu'il s'agit de quelqu'un d'autre, ou qu'elle fait ou dit quelque chose qui n'a jamais eu lieu en réalité.
La création de deepfakes à partir d'autres élèves est considérée comme une nouvelle forme de harcèlement, et a été constatée pour la première fois en Australie l'année dernière. En octobre, le bureau national de la sécurité électronique a averti les écoles de revoir leurs politiques de sécurité après l'arrivée du phénomène dans les écoles australiennes en provenance des États-Unis.
La commissaire à la sécurité électronique, Julie Inman-Grant, a averti que les premiers cas signalés n'étaient que la pointe de l'iceberg.
Dans un communiqué publié mardi, Bacchus Marsh Grammar a déclaré que du contenu vidéo comprenant des images d'élèves de l'école avait été produit et diffusé, et que l'école prenait l'affaire très au sérieux. "Le bien-être des élèves de Bacchus Marsh Grammar et de leurs familles est d'une importance primordiale pour l'école et est pris en compte".
Richardson a déclaré que l'école offrait un soutien aux filles et à leurs familles, et que si les élèves de Bacchus Marsh Grammar étaient découverts comme étant à l'origine des images, des mesures appropriées seraient prises.
McLean a déclaré que les parents de jeunes créant des images explicites deepfake devaient assumer la responsabilité des actes de leurs enfants.
"Vous avez la responsabilité de vous assurer que votre enfant ne fait de mal à personne d'autre", a-t-elle déclaré.
Le partage d'images pornographiques deepfake modifiées numériquement pourrait entraîner une peine de prison allant jusqu'à six ans, ou sept ans pour ceux qui les ont également créées, en vertu de nouvelles lois annoncées par le procureur général fédéral Mark Dreyfus ce mois-ci.
Dreyfus avait déclaré à l'époque que les contenus sexuellement explicites créés et modifiés numériquement constituaient une forme d'abus profondément affligeante, en particulier contre les femmes et les filles.
McLean a déclaré que des conséquences aussi graves devraient être envisagées pour ceux qui avaient créé les fausses images nues des filles de Bacchus Marsh, affirmant que « le partage d'images d'abus sur mineurs peut être un délit passible de prison ».
Avec Lachlan Abbott