Incidents associés
Un lycée du New Jersey a été secoué par un scandale après que des étudiants auraient utilisé l'IA pour créer de fausses photos nues d'étudiantes.
Le mois dernier, des adolescentes du Westfield High School ont appris que de fausses images nues d'elles avaient circulé parmi d'autres étudiants au cours de l'été, [a rapporté le Wall Street Journal](https://www.wsj.com/tech/fake-nudes -de-vrais-étudiants-causent-un-tumule-dans-un-lycée-du-new-jersey-df10f1bb?mod=wknd_pos1). Dans un e-mail adressé aux parents, la directrice de l'école, Mary Asfendis, a qualifié la débâcle d'« incident très grave », affirmant qu'elle pensait que les images avaient été supprimées et n'étaient plus en circulation, [selon Ars Technica](https://arstechnica.com/ tech-policy/2023/11/deepfake-nudes-of-high-schoolers-spark-police-probe-in-nj/).
Mais jusqu’à présent, il n’y a pas eu beaucoup de résolution. L’école, invoquant la confidentialité, ne divulguera pas le nombre de personnes concernées. Il n’a pas non plus révélé si les étudiants à l’origine des deepfakes ont été arrêtés et feront l’objet de mesures disciplinaires.
Ce n’est pas un incident isolé. Quelque chose de similaire s'est produit en Espagne en septembre. En outre, des personnalités publiques, dont la députée Alexandria Ocasio-Cortez, [la star hollywoodienne Scarlett Johansson](https://www.washingtonpost.com/technology/2018/12/31/scarlett-johansson-fake-ai-generated-sex-videos -rien-ne-peut-arrêter-quelqu'un-coupe-coller-mon-image/?itid=lk_interstitial_manual_23), et plusieurs YouTubers et [streamers Twitch](https://kotaku.com/twitch-deepfake-statement-atrioc-qtcinderella- pokimane-1850199352), se sont retrouvés pris dans des scandales de pornographie deepfake.
Pendant ce temps, le New Jersey n’a pas de loi pour pénaliser les fabricants et les distributeurs de nus générés par l’IA. Le 10 octobre, le gouverneur Phil Murphy a annoncé la création d'un groupe de travail sur l'IA, affirmant que cela « ne servira pas seulement à comprendre les avantages » de l’IA, mais aussi analyser sa croissance et ses risques potentiels. Cependant, l’État voisin de New York ne dispose pas d’une loi dénonçant les contrevenants.
Instantané : Pas de loi fédérale contre les deepfakes nus
Le décret exécutif étendu du président américain Joe Biden sur la réglementation de l'IA, publié le 30 octobre, prévoit des lignes directrices pour la surveillance et la détection, la mise en place de garde-fous et l’investissement dans des outils technologiques, mais ne met pas en œuvre de loi à l’échelle nationale.
Citable : la législation fédérale sur les deepfakes est compliquée
« Si une législation fédérale sur les deepfakes est adoptée qui cible spécifiquement les deepfakes pornographiques, alors, pour être constitutionnelles, les deepfakes pornographiques devront peut-être s'inscrire dans l'exception catégorique du premier amendement selon laquelle il s'agit d'une catégorie distincte comme la pornographie enfantine....[T ]il n’y a pas de solution claire. À tout le moins, avant l’adoption d’une législation fédérale substantielle, les chercheurs doivent mener davantage d’études pour connaître l’impact des deepfakes pornographiques sur les victimes et les internautes.
—Bradley Waldstreicher, rédacteur associé, [Cardozo Law Review](https://cardozolawreview.com/deeply-fake-deeply-disturbing-deeply-constitutional-why-the-first-amendment-likely-protects-the- création-de-deepfakes-pornographiques/), mai 2021
Faux nus générés par l'IA, en chiffres
290 %** :** Combien de faux nus ont a explosé depuis 2018 dans le top 10 des sites Web hébergeant des photos pornographiques générées par l'IA, a rapporté le Washington Post, citant l'analyste du secteur Geneviève Oh.
143 000** :** Ajout de vidéos pornographiques générées par l'IA en 2023 sur les 40 sites Web de vidéos truquées les plus populaires – un chiffre qui dépasse toutes les nouvelles vidéos de ce type de 2016 à 2022
4,2 milliards** :** Les vues de ces 143 000 vidéos ont généré
[54 % :](https://www.wired.com/story/deepfake-porn-is-out-of-control/#:~:text=%E2%80%9CThere%20has%20been %20croissance%20significative,Université%2C%20Australie%2C%20qui%20 se concentre%20sur) Augmentation du nombre de vidéos pornographiques deepfakes téléchargées sur des hébergeurs de sites Web de janvier à septembre 2023 par rapport à l'ensemble de 2022
90-95%** :** Part de vidéos deepfake qui sont du porno non consensuel impliquant des femmes, selon Sensity AI, une société qui suit les vidéos deepfake en ligne depuis décembre 2018.
26 800 : Les victimes américaines de campagnes de « sextorsion » cette année à travers Septembre, selon le FBI. Cela représente une augmentation de 149 % par rapport à 2019.
Une liste non exhaustive des États américains où la distribution de nus générés par l'IA est un crime (ou pourrait bientôt l'être)
Californie. Depuis 2019, le Golden State [autorise les gens à poursuivre en justice](https://thenextweb.com/news/california-makes-deepfakes-illegal-to-curb-revenge-porn-and-doctored- vidéos politiques) toute personne qui met son image dans une vidéo pornographique deepfake. En vertu du projet de loi, la création, la distribution intentionnelle et l'exposition de deepfakes pornographiques seraient criminalisées.
Virginie. En vertu de sa loi sur la « vengeance pornographique », qui interdit la diffusion d'images ou de vidéos de nus « dans l'intention de contraindre, de harceler ou d'intimider » une autre personne, Virginie [couvre les deepfakes](https://www.theverge. com/2019/7/1/20677800/virginia-revenge-porn-deepfakes-nonconsensual-photos-videos-ban-goes-into-effect). Enfreindre la loi pourrait entraîner une peine de 12 mois de prison et jusqu'à 2 500 $ d'amende.
Minnesota. Une nouvelle loi promulguée en juillet en fait un crime d'utiliser des deepfakes pour influencer une élection ou pour diffuser des images à caractère sexuel sans le consentement du sujet. La peine pour la création de deepfake porn peut aller jusqu'à [trois ans de prison et/ou une amende de 5 000 $](https://www.cbsnews.com/minnesota/news/now-illegal-in-mn-using-deepfakes-to- diffuser-des-élections-d'influence-porno-non-consensuelles/).
New York. Un récent venu, l'État a officiellement rendu le mois dernier « illégal la diffusion d'images explicites générées par l'IA ou de « deepfakes » d'une personne sans son consentement. Enfreindre la loi peut entraîner un an de prison et une amende de 1 000 dollars, et les victimes ont le droit d'intenter une action en justice contre les auteurs.