Problème 4092

Elliston Berry s'est réveillée un lundi matin en octobre dernier avec des SMS alarmants. Des amis lui demandaient si elle avait vu des photos d'elle nue qui circulaient parmi les élèves de son lycée du Texas.

L'une d'elles a envoyé une capture d'écran. Elle a été choquée. L'image montrait son visage... mais ce n'était pas son corps.

Un camarade de classe, apprendra-t-elle plus tard, avait pris au moins deux photos de son compte Instagram privé et l'avait rendue nue à l'aide d'un logiciel de suppression de vêtements alimenté par l'intelligence artificielle. Deux de ses amis ont également été victimes de la manipulation des photos.

À l'aide de comptes anonymes Snapchat, le garçon a partagé les photos avec d'autres élèves du lycée Aledo, dans une petite ville à l'extérieur de Fort Worth. Au fil de la journée, il aurait créé et partagé de faux nus de six autres filles du groupe d'amis de Berry.

« Je n'avais même jamais pensé que quelqu'un ferait quelque chose comme ça », dit Berry, aujourd'hui âgée de 15 ans. « Se réveiller face à cela était surréaliste. »

Les adolescentes de tout le pays font face aux conséquences de cette nouvelle tendance inquiétante. Berry et sa famille tentent d'empêcher d'autres personnes de vivre l'embarras et l'inquiétude que de telles images, parfois appelées deepfakes, peuvent créer. Ils ont partagé leur histoire avec le sénateur Ted Cruz (R., Texas).

Mardi, Cruz, avec la sénatrice Amy Klobuchar (D., Minn.) et un groupe bipartisan de sénateurs, ont présenté un projet de loi qui criminaliserait la publication d'images de nu non consensuelles, réelles ou fausses. Il obligerait également les sociétés de médias sociaux et autres sites Web à supprimer les images dans les 48 heures suivant la réception de la notification de la victime.

Le projet de loi s'ajoute à un ensemble croissant de propositions de lois d'État et fédérales visant à mettre un terme à cette nouvelle forme de harcèlement.

« Je n'arrivais pas à me concentrer »

Berry affirme que les photos semblaient convaincantes. Une image de Berry a été rendue à partir d'une vraie photo prise d'elle debout sur un bateau de croisière. Certaines photos originales de ses amis avaient été prises sur une plage. Le seul indice que les versions nues étaient trafiquées était que les sujets n'auraient jamais été sans vêtements dans de tels lieux publics.

Un nouveau logiciel de génération d'images par IA permet de produire facilement des photos crédibles. Google et Apple ont supprimé de leurs boutiques d'applications les applications IA générant des nus.

Berry et d'autres victimes de faux nus disent qu'elles s'inquiètent des conséquences à long terme de la diffusion de telles images lorsqu'elles postulent à l'université ou à un emploi. Elles s'inquiètent également dans l'immédiat. Berry dit qu'elle craignait de le dire à sa mère et à son beau-père.

"C'est tellement difficile d'admettre à ses parents que les photos ne sont pas réelles", dit-elle.

Ses parents l'ont soutenue et ont juré de faire tout ce qu'ils pouvaient pour mettre fin à son cauchemar. Berry est restée à la maison pendant quelques jours, mais a dû y retourner ce vendredi pour assister à un entraînement de volley-ball.

« J'étais tellement dans ma tête à propos de ces images que je n'arrivais pas à me concentrer », dit-elle.

Lorsqu'elle marchait dans les couloirs de l'école, elle se demandait qui avait vu les images et si les gens croiraient que les photos étaient fausses. « Je me sentais honteuse et effrayée », dit-elle.

Code de conduite des étudiants contre loi de l'État

Anna McAdams, la mère de Berry, a signalé l'incident aux administrateurs de l'école, qui, selon elle, ont mené une enquête qui a révélé que l'agresseur était un camarade de première année. L'adolescent, dit McAdams, a terminé le semestre dans un bâtiment séparé sur le campus où les étudiants sont en retenue, et a quitté l'école après les vacances d'hiver.

Jeff Swain, procureur de district du comté de Parker, au Texas, dit que le garçon a été sanctionné dans le cadre du système de justice pour mineurs.

Même si Berry n'avait plus à voir le garçon, elle avait du mal à s'impliquer pleinement à l'école.

« Cela m'a déstabilisée et a créé beaucoup d'anxiété », dit-elle. « Je suis une personne sociable, mais j'ai pris du recul et je suis devenue plus fermée. »

Une porte-parole du district scolaire indépendant d'Aledo a déclaré que le district avait aidé le département du shérif du comté dans son enquête et avait sanctionné le garçon conformément au code de conduite des élèves et à la loi de l'État.

« Le district révise son code de conduite des élèves en tenant compte de l'utilisation possible de l'IA par les élèves », a déclaré la porte-parole. Des conséquences plus sévères pour la mauvaise conduite des élèves sont établies par la loi de l'État et s'appliquent à toutes les écoles publiques du Texas, ajoute-t-elle, il appartient donc à l'État de réviser ces lois.

« Je pense qu'il y a beaucoup de confusion dans la communauté des forces de l'ordre au sujet des cas impliquant des deepfakes », déclare Swain, le procureur de district. Deux lois d'État les couvrent potentiellement, dont une qui a été mise à jour pour criminaliser les images d'abus d'enfants manipulées avec des logiciels conventionnels ou alimentés par l'IA. Étant donné que les lois sont nouvelles, leur application est en cours, ajoute-t-il.

La loi TAKE IT DOWN

McAdams a contacté Dorota Mani, la mère d'une autre adolescente victime de faux nus, après que j'ai écrit sur une situation similaire qui s'est produite à peu près au même moment à Westfield, dans le New Jersey.

Mani s'est entretenue avec des législateurs locaux et fédéraux et a joué un rôle déterminant pour amener le représentant Joseph Morelle (D., N.Y.) à réintroduire la « Preventing Deepfakes of Intimate Images Act » en janvier. Une porte-parole de Morelle a déclaré que le projet de loi compte désormais plus de 50 co-sponsors et attend d'être examiné par la commission judiciaire de la Chambre.

McAdams a commencé à appeler des responsables de l'État et du gouvernement fédéral, dont Cruz. Il l'a récemment rappelée. Elle et sa fille étaient avec lui à Washington, D.C., mardi, lorsqu'il a présenté son projet de loi : « Outils pour lutter contre l'exploitation connue en immobilisant les deepfakes technologiques sur les sites Web et les réseaux », autrement dit TAKE IT DOWN.

Après que les fausses photos nues de Berry ont été partagées, elle a supprimé toutes ses publications Instagram pendant quelques mois et a éliminé ses abonnés. L'agresseur était une connaissance qui avait demandé à suivre son compte privé sur Instagram l'année précédente. Elle dit qu'elle n'accepte désormais que les personnes qu'elle connaît bien.

Berry dit que l'expérience l'a rendue moins confiante et plus cynique.

« J'ai appris à être prête à tout », dit-elle.