Incidents associés
La police municipale enquête sur des rapports selon lesquels des photos de mineurs nus générées par l’IA circulent dans une école secondaire locale.
Des membres du Service de police de Winnipeg se sont rendus mercredi au Collège Béliveau, une école secondaire de la 7e à la 12e année à Windsor Park, dans le cadre d’une enquête sur la pornographie juvénile.
Aucune accusation criminelle n’a été portée à ce jour.
« C’est une enquête préliminaire et l’IA est compliquée. Il y a toutes sortes de nuances qui sont en cours d’élaboration dans la loi », a déclaré l’agent Dani McKinnon du bureau d’information publique du Service de police de Winnipeg.
McKinnon a refusé de fournir d’autres commentaires jeudi, invoquant la nature sensible de la situation et les inquiétudes concernant les victimes impliquées.
Dani McKinnon, agent d’information publique du Service de police de Winnipeg.
Les administrateurs de l’école secondaire ont écrit une lettre aux familles pour les avertir qu’ils avaient été informés pour la première fois de photos truquées d’élèves partagées en ligne tard lundi.
« Les photos originales semblent avoir été recueillies à partir des médias sociaux accessibles au public et explicitement modifiées », indique une note signée par la directrice Andrea Kolody et la directrice adjointe Jennifer Oldfield.
Dans leur déclaration commune, Kolody et Oldfield ont déclaré qu’ils étaient reconnaissants et fiers des élèves qui ont dénoncé ce grave problème qui contrevient aux politiques de la division scolaire Louis Riel en matière d’utilisation appropriée d’Internet et de comportement des élèves.
L’équipe administrative a déclaré que l’enquête qui a suivi a impliqué des sources internes et externes.
Le premier groupe comprend le bureau du surintendant, le département des systèmes d’information et le personnel des services cliniques. Le second groupe comprend l’unité d’exploitation des enfants sur Internet du WPS et une ligne d’information nationale gérée par le Centre canadien de protection de l’enfance.
« Toutes les images reçues par l’école seront téléchargées en toute sécurité sur Cybertip, par l’intermédiaire du projet Arachnid, qui se spécialise dans la suppression de ce type d’images en ligne », ont écrit les directeurs dans la lettre.
« C’est une enquête préliminaire et l’IA est compliquée. Il y a toutes sortes de nuances qui sont en train d’être élaborées dans la loi » – Const. Dani McKinnon
« Dans de nombreux cas, je ne pense pas que (les auteurs) comprennent la gravité de ce qu’ils font. « Les images qu’ils diffusent sont techniquement du matériel d’abus sexuel sur enfant », a déclaré Lloyd Richardson, directeur des technologies de l’information de l’organisation basée à Winnipeg qui gère Cybertip et Project Arachnid.
Richardson a noté que les applications qui créent ce que l’on appelle des deep fakes – du contenu modifié numériquement généralement créé à des fins malveillantes, y compris, mais sans s’y limiter, la diffusion de fausses informations – sont devenues de plus en plus avancées et accessibles au cours des deux dernières années.
L’essor des générateurs d’images IA a créé une « ramification » du partage traditionnel non consensuel d’images intimes, qu’il soit motivé par le rire ou par des objectifs néfastes, et ses implications ne sont pas moins dommageables pour les victimes, a-t-il déclaré.
« Peu importe que l’image soit réelle ou non – vous êtes toujours exposé de la même manière », a déclaré Richardson, ajoutant que la technologie a progressé au point qu’il est souvent difficile de distinguer une vraie image d’un deep fake.
Il sera essentiel de renforcer l’éducation du public sur les illégalités des nus générés par l’IA à mesure que ces outils continuent d’être perfectionnés et rendus plus largement disponibles, a ajouté le directeur informatique.
Un groupe d’élèves de 10e année qui ont vu des policiers en uniforme arriver à leur école secondaire mercredi ont décrit les conséquences de la visite de mi-journée comme étant émouvantes.
Les jours de match des Jets de Winnipeg, les journalistes de hockey Mike McIntyre et Ken Wiebe envoient des nouvelles, des notes et des citations de l’entraînement matinal, ainsi que des mises à jour sur les blessures et les décisions de l’équipe. Arrive quelques heures avant la mise au jeu.
Les adolescents ont rapporté avoir vu des camarades de classe pleurer dans les couloirs tandis que d’autres ont exprimé leur colère à propos des premiers rapports, qui, selon eux, ont été initialement relayés aux membres de la communauté par des enseignants et des victimes bavards.
« Partout où nous allions, tous ceux que nous croisions en parlaient », a déclaré un élève.
Un autre a qualifié la création d’images falsifiées de pairs mineurs de « très bizarre et dégueulasse ».
Les élèves du secondaire ont indiqué que plus de 300 photos auraient été créées avec des dizaines de visages d’adolescentes locales.
La division scolaire Louis Riel a indiqué jeudi qu’elle ne pouvait pas confirmer comment les images ont été modifiées ni combien ont été publiées au total.
Les dirigeants de Béliveau ont reconnu la nécessité d’une éducation supplémentaire sur la citoyenneté numérique à l’école secondaire et ont indiqué qu’ils étaient en train d’organiser des possibilités d’apprentissage pour compléter les programmes existants.
Bien que les directeurs aient déclaré que « les sentiments de colère, de tristesse et de violation sont normaux », ils ont également averti que le vigilantisme et les menaces de représailles violentes ne seront pas tolérés.
« Notre responsabilité en tant qu’école est d’assurer la sécurité de tous les élèves. L’administration scolaire, en consultation avec les responsables de la division, prend les mesures nécessaires pour répondre aux actions des personnes identifiées qui ont partagé ces images. »
Des travailleurs sociaux et d’autres professionnels des services aux étudiants sont dépêchés pour aider les élèves touchés par la situation.