Incidents associés
Les signalements d'abus liés à des images deepfake ont doublé dans le pays au cours des 18 derniers mois, avec au moins un incident survenant dans des écoles australiennes chaque semaine.
Ces chiffres ont été révélés vendredi par le Commissaire australien à la sécurité informatique, après la révélation par ABC d'une enquête policière concernant des élèves d'un lycée du nord de Sydney prises pour cible.
La commissaire Julie Inman Grant a confirmé que leurs enquêteurs étaient en pourparlers avec la police et le ministère de l'Éducation de Nouvelle-Galles du Sud au sujet de la diffusion d'images explicites retouchées numériquement sur des groupes en ligne.
« Nous avons mis en place un outil de gestion des incidents d'abus basés sur des images truquées pour les écoles, afin qu'elles sachent quand contacter la police et quand nous contacter pour faire supprimer le contenu », a déclaré Mme Inman Grant à ABC.
L'ABC a appris que plusieurs familles de l'école se sont présentées au commissariat d'Eastwood mercredi soir.
Mme Inman Grant a indiqué que le nombre d'incidents en milieu scolaire ne représentait qu'une faible proportion du total des signalements reçus.
« Nous constatons des incidents d'abus basés sur des images truquées au moins une fois par semaine dans les écoles australiennes. »
« C'est une réelle source d'inquiétude. » Cela accentue véritablement les dangers potentiels en ligne.
Elle a averti que ce n'était que la partie émergée de l'iceberg suite au récent lancement de Sora d'OpenAI.
« [Il s'agit] d'une application de médias sociaux générée par l'IA qui permet de collecter des images d'autrui et de créer une vidéo deepfake hyperréaliste en quelques secondes », a-t-elle déclaré.
Impact mondial de la flambée des deepfakes aux États-Unis
Colm Gannon, directeur général du Centre international pour les enfants disparus et exploités, a déclaré que le problème prenait de l'ampleur non seulement en Australie, mais aussi aux États-Unis et dans le monde entier.
Il a ajouté que les rapports des plateformes de médias sociaux révélaient une tendance inquiétante aux États-Unis.
« Ils ont constaté une augmentation de 1 325 % des contenus générés par l'IA et des deepfakes, qui touchent effectivement les enfants du monde entier », a-t-il déclaré.
« Cette escalade est telle que le gouvernement fédéral a adopté une loi. »
Le gouvernement de Nouvelle-Galles du Sud a également déposé un projet de loi au Parlement de Nouvelle-Galles du Sud, et d'autres États et territoires adoptent des lois pour lutter contre les préjudices causés aux enfants.
Mme Inman Grant estime que l'Australie est à l'avant-garde de cette lutte contre cette tendance et poursuit ses discussions avec ses homologues internationaux sur la mise en œuvre de restrictions.
« Nous prenons des mesures aujourd'hui contre certains services de "nudification" et, en l'occurrence, contre une entreprise qui développe probablement certaines des applications de déshabillage les plus populaires, utilisées par au moins 100 000 personnes en Australie », a-t-elle déclaré.
En collaboration avec l'Ofcom, l'organisme de réglementation britannique, Mme Inman Grant a indiqué que le taux de réussite de ces images deepfakes des plateformes était de 98 %.
Les étudiantes « craignent que cela ne leur arrive »
Hannah Tonkin, commissaire à la sécurité des femmes de Nouvelle-Galles du Sud, a déclaré avoir discuté avec des lycéennes terrifiées à l'idée d'être ciblées.
« Beaucoup voient cela arriver à leurs amis et ont vraiment peur que cela leur arrive », a déclaré le Dr Tonkin.
Elle a déclaré que les applications de « nudification » sont une « technologie répugnante »](https://www.abc.net.au/news/2025-09-02/child-safety-expert-warns-of-ai-generated-child-abuse/105724916) conçues pour cibler, déshumaniser et dégrader intrinsèquement les femmes.
« Ce type d'incidents peut avoir des conséquences dévastatrices, en particulier sur les femmes et les filles, qui en sont majoritairement les cibles. »
La ministre de l'Éducation par intérim de Nouvelle-Galles du Sud, Courtney Houssos, a déclaré avoir eu des échanges constructifs sur le sujet.
« Nous devons travailler ensemble pour lutter contre ce fléau pour nos élèves et, malheureusement, pour certains de nos enseignants », a déclaré Mme Houssos.
Elle a déclaré que le ministère de l'Éducation de Nouvelle-Galles du Sud travaillait désormais avec le commissaire à la sécurité électronique pour développer une éducation à la littératie numérique pour les étudiants afin de mieux les équiper sur la manière d'utiliser Internet et l'IA de manière appropriée.