Incidents associés
Après que des nus d'adolescentes générés par l'IA ont commencé à circuler dans un lycée du New Jersey, ni les parents, ni les responsables de l'école, ni même les forces de l'ordre locales n'ont été en mesure de comprendre comment y faire face.
Comme le Wall Street Journal le rapporte, des filles d'une école de Westfield, une banlieue aisée de New York, ont appris il y a quelques semaines en octobre que des images d'elles manipulées par l'IA étaient partagées dans des discussions de groupe par des garçons de leur école. Mais jusqu'à présent, il n'y a pas eu beaucoup de sanctions – et on ne sait toujours pas qui a créé les faux nus.
Lorsqu'il a été contacté par le WSJ, un porte-parole de la Westfield High School a confirmé que l'incident avait eu lieu, mais a refusé de nommer les étudiants impliqués pour protéger la confidentialité. Dans un courriel envoyé le 20 octobre, la directrice de l'école, Mary Asfendis, a qualifié la débâcle d'« incident très grave » et a déclaré qu'elle pensait que les images avaient été supprimées et n'étaient plus en circulation.
Les parents des filles impliquées ont également signalé la situation à la police locale et même au sénateur de leur État, mais ils ne semblent pas non plus savoir quoi faire. C'est probablement parce que, comme le reconnaît le WSJ, le côté obscur de l'IA — qui permet désormais aux gens de « déshabiller » numériquement des sujets à leur insu ou de créer de faux nus d'eux avec à peine plus qu'un iPhone — a [progressé beaucoup plus vite que la loi](https ://www.refinery29.com/en-us/2023/02/11283094/deepfake-porn-laws-atrioc).
Roulement lent
Jusqu'à présent, il existe [seulement une poignée d'États](https://www.law.com/legaltechnews/2023/08/10/states-are-targeting-deepfake-pornography-but-not-in-a-uniform -way/?slreturn=20231002131800#:~:text=Illinois%20isn't%20the%20first,passed%20legislation%20targeting%20pornographic%20deepfakes.), y compris [New York](https://www.nysenate.gov /newsroom/press-releases/2023/michelle-hinchey/hinchey-bill-ban-non-consensual-deepfake-images), qui ont promulgué des lois interdisant la distribution de faux porno ou donnant aux personnes qui y sont représentées le droit à des poursuites civiles . La Maison Blanche et [l'État du New Jersey](https://www.nj.gov/governor/news/news/ 562023/20231010b.shtml) ont annoncé ces dernières semaines la création de groupes de travail sur l'IA en général, mais ceux-ci sont de nature plus exploratoire et les lois qui en découleront prendront beaucoup de temps à être promulguées.
Pour les filles de Westfield, dont le sort ressemble étrangement à une situation survenue en Espagne en septembre, il n'est pas clair s'il y a sera n'importe quelle résolution et à quoi elle pourrait ressembler. Certains d’entre eux ne sont pas à l’aise à l’idée de devoir fréquenter l’école avec les personnes qu’ils soupçonnent d’avoir créé et partagé les images, et qui ne semblent pas encore avoir subi de conséquences.
"Nous sommes conscients qu'il y a des gars effrayants là-bas", a déclaré l'une des victimes lors d'une réunion de filles touchées et de leurs parents à laquelle le WSJ avait accès, "mais vous n'auriez jamais pensé qu'un de vos camarades de classe vous violerait. comme ça."