Incidents associés
Le porno deepfake est endémique et un lycée du New Jersey est l'un des derniers épicentres.
La police [enquête](https://www.wsj.com/tech/fake-nudes-of-real-students-cause-an-uproar-at-a-new-jersey-high-school-df10f1bb?mod= hp_trending_now_article_pos1) après que des garçons du lycée de Westfield aient diffusé des images générées par l'IA montrant les visages de leurs camarades de classe sur des corps nus. Il n’est pas clair si les auteurs seront punis en raison de questions concernant la légalité de leur transgression : ni la loi fédérale ni la plupart des lois des États ne contiennent quoi que ce soit sur la pornographie deepfake. De plus, ils ne peuvent pas être divulgués s’ils sont punis en raison de la confidentialité des étudiants. Entre-temps, un sénateur de l’État du New Jersey a demandé aux procureurs du comté d’en prendre note.
Répandu et en hausse : Plus de 90 % des deepfakes en ligne sont pornographiques, selon la société de détection d'images Sensity AI. En septembre, les creeps avaient déjà mis en ligne [54 % de plus](https://www.wired.com/story/deepfake-porn-is-out-of-control/#:~:text=%E2%80%9CThere %20a%20été%20une croissance%20significative, l'Université%2C%20Australie%2C%20qui%20se concentre%20sur) les vidéos pornographiques deepfakes cette année que pendant toute l'année 2022, a rapporté Wired.
Dans d'autres cas récents, un inconnu a pratiquement déshabillé l'Instagram d'une femme [selfie miroir](https://www.dailymail.co.uk/news/article-12698255/EXCLUSIVE-Womans-horror-stranger-turned-mirror-selfie-sick -AI-generated-deepfake-nude-taunted-it.html), un homme du Wisconsin [menacé](https://www.wbay.com/2023/10/05/wi-middle-school-students-targeted-ai -generated-nude-photo-exploitation/) mineures avec des deepfakes nus, et plus de 30 filles en Espagne ont été [ciblées](https://abcnews.go.com/US/mobile-apps-fueling-ai-generated-nudes -young-girls/story?id=103563734) par des camarades de classe avec de faux nus.
Comment cela se produit-il ? Bien que les générateurs d'images de renom comme Dall-E d'OpenAI et Firefly d'Adobe disposent de garde-fous qui empêchent les utilisateurs de créer du porno, d'innombrables outils d'échange de visage et de déshabillage en ligne qui utilisent des logiciels accessibles au public sont toujours disponibles, ce qui rend difficile de les arrêter.—ML
Morning Brew propose des mises à jour rapides et perspicaces sur le monde des affaires chaque jour de la semaine, de Wall St. à la Silicon Valley.