Incidents associés
THIBODAUX, Louisiane (AP) — Les moqueries étaient incessantes. Des photos dénudées d'une jeune fille de 13 ans et de ses amies, générées par intelligence artificielle, circulaient sur les réseaux sociaux et faisaient la une des journaux dans un collège de Louisiane.
Les filles ont imploré de l'aide, d'abord auprès d'une conseillère d'orientation, puis auprès d'un adjoint du shérif affecté à leur établissement. Mais les images avaient été partagées sur Snapchat, une application qui efface les messages quelques secondes après leur consultation, et les adultes ne parvenaient pas à les retrouver. Le principal doutait même de leur existence.
Parmi les élèves, les photos continuaient de circuler. En fin de journée, alors que la jeune fille de 13 ans montait dans le bus scolaire de la paroisse de Lafourche, une camarade de classe en montrait une à une amie.
« C'est là que je me suis mise en colère », a raconté l'élève de troisième lors de son audience disciplinaire.
Exaspérée, elle a agressé un garçon dans le bus, incitant d'autres à se joindre à elle. Elle a été renvoyée du collège Sixth Ward pendant plus de dix semaines et placée dans un établissement alternatif. Elle a déclaré que le garçon qu'elle et ses amis soupçonnaient d'avoir créé les images n'avait pas été scolarisé dans cet établissement avec elle. Les avocats de la jeune fille de 13 ans affirment qu'il a échappé à toute sanction disciplinaire.
Lorsque le bureau du shérif a enquêté sur l'affaire, il a pris des mesures inverses. Deux des garçons accusés d'avoir partagé des images explicites ont été inculpés, mais pas la jeune fille.
Cet épisode en Louisiane met en lumière le potentiel cauchemardesque des deepfakes générés par l'IA. Ces derniers peuvent bouleverser, et bouleversent effectivement, la vie des enfants, à l'école comme à la maison. Alors que les établissements scolaires s'efforcent d'intégrer l'intelligence artificielle dans l'enseignement, ils se préparent souvent mal aux conséquences de ces nouvelles technologies sur le cyberharcèlement.
Une fois de plus, alors que les jeunes utilisent de plus en plus les nouvelles technologies pour se nuire mutuellement, les adultes sont à la traîne, déplore Sergio Alexander, chercheur associé à l'Université chrétienne du Texas, spécialisé dans les technologies émergentes.
« Si nous ignorons les dommages numériques, nous ne prenons conscience du problème que lorsque la victime craque », explique Alexander.
Dans la paroisse de Lafourche, le district scolaire a respecté tous ses protocoles en matière de signalement des inconduites, a déclaré le surintendant Jarod Martin dans un communiqué. Il a ajouté qu'une version partiale des faits avait été présentée, ne reflétant ni la complexité ni la gravité de l'affaire.
Le cauchemar d'une jeune fille commence par des rumeurs
Après avoir entendu des rumeurs concernant des photos d'elle nue, la jeune fille de 13 ans a déclaré s'être rendue avec deux amies – dont l'une était presque en larmes – chez la conseillère d'orientation vers 7 heures du matin le 26 août. L'Associated Press ne divulgue pas son nom car elle est mineure et que l'AP ne nomme généralement pas les victimes de crimes sexuels.
Elle était là pour un soutien moral, ignorant initialement que des photos d'elle circulaient également, selon les témoignages recueillis lors de son audience disciplinaire.
L'enquête menée pendant plusieurs semaines dans un établissement scolaire de Thibodaux, à environ 72 kilomètres au sud-ouest de La Nouvelle-Orléans, a finalement permis de découvrir des images de nus générées par intelligence artificielle, représentant huit collégiennes et deux adultes, ont indiqué le district scolaire et le bureau du shérif dans un communiqué conjoint.
« Des photos de nus intégraux avec son visage incrusté dessus », a déclaré le père de la jeune fille, Joseph Daniels. Ce dernier s'est exprimé publiquement auprès de plusieurs médias pour dénoncer la manière dont l'affaire a été gérée.
Jusqu'à récemment, la création de deepfakes réalistes nécessitait des compétences techniques. Désormais, la technologie permet de récupérer facilement une photo sur les réseaux sociaux, de la dénuder et de créer un véritable cauchemar viral pour une camarade de classe sans méfiance.
La plupart des écoles « font l'autruche, espérant que le problème ne se pose pas », a déclaré Sameer Hinduja, codirecteur du Centre de recherche sur la cyberintimidation et professeur de criminologie à l'Universit é Florida Atlantic.
Le district scolaire de la paroisse de Lafourche commençait tout juste à élaborer des politiques sur l'intelligence artificielle. Les directives relatives à l'IA au niveau scolaire portaient principalement sur les aspects académiques, selon des documents obtenus suite à une demande d'accès à l'information. Le district n'avait pas non plus mis à jour sa formation sur la cyberintimidation pour tenir compte de la menace que représentent les images à caractère sexuel générées par l'IA. Le programme scolaire utilisé datait de 2018.
Une enquête scolaire se heurte à des obstacles
Bien que les élèves du collège Sixth Ward n'aient pas vu les images directement, elles en ont entendu parler par des garçons de l'établissement. Se basant sur ces conversations, elles ont accusé une camarade de classe et deux élèves d'autres écoles d'avoir créé et diffusé ces images dénudées sur Snapchat et peut-être TikTok.
La principale, Danielle Coriell, a déclaré que l'enquête n'avait rien donné ce jour-là, aucun élève n'ayant assumé la responsabilité. Selon l'enregistrement de l'audience disciplinaire, le policier affecté à l'établissement a cherché les images sur les réseaux sociaux, sans succès.
« On m'avait laissé entendre qu'il ne s'agissait que de rumeurs », a déclaré le père de la jeune fille, relatant une conversation qu'il avait eue le matin même avec la conseillère d'orientation.
Mais la jeune fille était désespérée, et un rapport de police a révélé que d'autres filles déclaraient également être victimes. L'adolescente de 13 ans est retournée voir la conseillère dans l'après-midi, demandant à appeler son père. On le lui a refusé.
Son père raconte qu'elle lui a envoyé un SMS disant simplement « Papa ». Ils n'ont pas échangé un mot. Face aux moqueries incessantes, la jeune fille a envoyé un SMS à sa sœur : « On ne prend pas les choses en main. »
À la fin de la journée, le principal restait sceptique. Lors de l'audience disciplinaire, l'avocat de la jeune fille a demandé pourquoi le policier n'avait pas vérifié le téléphone du garçon accusé par les filles et pourquoi il était autorisé à prendre le même bus que la jeune fille.
« Les enfants mentent beaucoup », a répondu Coriell, le principal. « Ils mentent sur tout et n'importe quoi. Ils exagèrent constamment les choses. En 17 ans, ils le font tout le temps. Donc, à ma connaissance, à 14 heures, quand j'ai vérifié à nouveau, il n'y avait aucune photo. »
Une bagarre éclate dans le bus scolaire
Quinze minutes plus tard, lorsque la jeune fille est montée dans le bus, le garçon montrait les images générées par l'IA à un ami. Des photos de ses amies dénudées, truquées, étaient visibles sur le téléphone du garçon, a-t-elle déclaré, une affirmation corroborée par une photo prise dans le bus. Une vidéo prise dans le bus scolaire montrait au moins une demi-douzaine d'élèves faisant circuler les images, a déclaré Martin, le directeur académique, lors d'une réunion du conseil scolaire.
« J'ai passé toute la journée à me faire harceler et à me faire moquer de mon physique », a déclaré la jeune fille lors de son audition. En montant dans le bus, a-t-elle dit, la colère montait en elle.
Après avoir aperçu le garçon et son téléphone, elle l'a giflé, a déclaré Coriell, le principal. Le garçon a ignoré la gifle, comme le montre une vidéo.
Elle l'a frappé une seconde fois. Puis, selon le principal, la jeune fille a demandé à voix haute : « Pourquoi suis-je la seule à faire ça ? » Deux camarades de classe ont frappé le garçon, a précisé le principal, avant que l'adolescente de 13 ans n'enjambe un siège et ne le frappe à coups de poing et de pied.
La vidéo de la bagarre a été publiée sur Facebook. « Sur les réseaux sociaux, l'indignation était générale et l'on exigeait que les élèves impliqués dans la bagarre soient tenus responsables », ont déclaré le district et le bureau du shérif dans un communiqué conjoint publié en novembre.
La jeune fille n'avait aucun antécédent disciplinaire, mais elle a été affectée à un établissement alternatif, le district ayant décidé de l'exclure pour un semestre complet, soit 89 jours d'école.
Quelques semaines plus tard, un garçon est inculpé.
C'est le jour de l'audience disciplinaire de la jeune fille, trois semaines après la bagarre, que le premier des garçons a été inculpé.
L'élève a été inculpé de dix chefs d'accusation de diffusion illégale d'images créées par intelligence artificielle, en vertu d'une nouvelle loi de l'État de Louisiane, s'inscrivant dans une vague de législations similaires à travers le pays. Un deuxième garçon a été inculpé en décembre pour les mêmes chefs d'accusation, a indiqué le bureau du shérif. Les autorités n'ont pas divulgué leur identité en raison de leur âge.
La jeune fille ne sera pas poursuivie en raison de ce que le bureau du shérif a qualifié de « l'ensemble des circonstances ».
Lors de l'audience disciplinaire, le principal a refusé de répondre aux questions des avocats de la jeune fille concernant les sanctions scolaires qui pourraient être infligées au garçon.
Le district a déclaré dans un communiqué que les lois fédérales sur la protection de la vie privée des élèves lui interdisent de divulguer les dossiers disciplinaires individuels. Gregory Miller, l'avocat de la jeune fille, a affirmé n'avoir connaissance d'aucune sanction scolaire à l'encontre du camarade de classe accusé d'avoir partagé les images.
Finalement, le conseil a exclu la jeune fille de 13 ans. Elle a pleuré, a confié son père.
« Elle se sentait victime à plusieurs reprises : à cause des photos, parce que l'école ne l'a pas crue, parce qu'ils l'ont mise dans un bus puis exclue pour ses actes », a-t-il déclaré lors d'une interview.
Les conséquences perturbent une élève
Après son placement dans un établissement spécialisé, la jeune fille a commencé à sauter des repas, a expliqué son père. Incapable de se concentrer, elle n'a effectué aucun travail scolaire en ligne pendant plusieurs jours avant que son père ne l'inscrive à une thérapie pour dépression et anxiété.
Personne ne s'est aperçu au début qu'elle avait cessé de faire ses devoirs, a déclaré son père.
« Elle a été un peu laissée pour compte », a-t-il dit.
Ses avocats ont fait appel auprès du conseil scolaire, et une nouvelle audience a été fixée sept semaines plus tard.
À ce moment-là, le temps avait tellement passé qu'elle aurait pu retourner dans son ancien établissement sous probation. Mais comme elle avait manqué des devoirs avant d'être soignée pour sa dépression, le district souhaitait qu'elle reste dans l'établissement alternatif pendant douze semaines supplémentaires.
Pour les élèves suspendus ou exclus, les conséquences peuvent durer des années. Ils sont plus susceptibles d'être suspendus à nouveau. Ils se coupent de leurs camarades et sont plus susceptibles de se désengager de l'école. Ils ont également plus de chances d'avoir de moins bonnes notes et un taux de réussite au baccalauréat plus faible.
« Elle a déjà été suffisamment déscolarisée », a déclaré Matt Ory, l'un des avocats de la jeune fille, au conseil scolaire le 5 novembre. « C'est une victime. »
« C'est une victime », a-t-il répété.
Martin, le directeur d'académie, a rétorqué : « Parfois, dans la vie, on peut être à la fois victime et bourreau. »
Mais le conseil a fini par se laisser convaincre. Un de ses membres, Henry Lafont, a déclaré : « Il y a beaucoup de choses dans cette vidéo qui me déplaisent. » Mais j'essaie aussi de relativiser ce qu'elle a vécu toute la journée. Ils l'ont autorisée à retourner immédiatement sur le campus. Son premier jour de retour à l'école était le 7 novembre, même si elle restera en période probatoire jusqu'au 29 janvier.
Cela signifie pas de bals, pas de sport et pas d'activités extrascolaires. Elle a déjà raté les sélections de basket, ce qui signifie qu'elle ne pourra pas jouer cette saison, a déclaré son père. Il trouve la situation « déchirante ».
« J'espérais qu'elle se ferait de bons amis, qu'ils iraient au lycée ensemble et que, vous savez, cela les empêcherait de faire des bêtises et les maintiendrait sur le droit chemin », a déclaré son père. « Je pense qu'ils ont tout gâché. »