Incidentes Asociados
El porno deepfake está proliferando y una escuela secundaria de Nueva Jersey es uno de los epicentros más recientes.
La policía está [investigando] (https://www.wsj.com/tech/fake-nudes-of-real-students-cause-an-uproar-at-a-new-jersey-high-school-df10f1bb?mod= hp_trending_now_article_pos1) después de que los niños de Westfield High School circularan imágenes generadas por IA que mostraban los rostros de sus compañeras de clase en cuerpos desnudos. No está claro si los perpetradores serán castigados debido a dudas sobre la legalidad de su transgresión: ni la ley federal ni la mayoría de las leyes estatales tienen nada sobre la pornografía deepfake. Además, no podrá divulgarse si son sancionados por confidencialidad del estudiante. Mientras tanto, un senador del estado de Nueva Jersey pidió a los fiscales del condado que tomaran nota.
Generalizado y en aumento: Más del 90% de los deepfakes en línea son pornográficos, según la firma de detección de imágenes Sensity AI. Hasta septiembre, ya habían subido creeps [54% más](https://www.wired.com/story/deepfake-porn-is-out-of-control/#:~:text=%E2%80%9CThere %20has%20been%20significant%20growth,University%2C%20Australia%2C%20who%20focuses%20on) videos porno deepfake este año que en todo 2022, informó Wired.
En otros casos recientes, un extraño prácticamente desnudó el Instagram de una mujer [selfie en el espejo] (https://www.dailymail.co.uk/news/article-12698255/EXCLUSIVE-Womans-horror-stranger-turned-mirror-selfie-sick -AI-generated-deepfake-nude-taunted-it.html), un hombre de Wisconsin [amenazado](https://www.wbay.com/2023/10/05/wi-middle-school-students-targeted-ai -generated-nude-photo-exploitation/) menores con deepfakes desnudos, y más de 30 chicas en España fueron [el objetivo](https://abcnews.go.com/US/mobile-apps-fueling-ai-generated-nudes -young-girls/story?id=103563734) por compañeros de clase con desnudos falsos.
¿Cómo está sucediendo esto? Aunque generadores de imágenes de renombre como Dall-E de OpenAI y Firefly de Adobe tienen barreras de seguridad que impiden a los usuarios hacer pornografía, todavía existen innumerables herramientas en línea para intercambiar rostros y desvestirse que utilizan software disponible públicamente. haciendo que sea difícil apagarlos.—ML
Morning Brew ofrece actualizaciones rápidas y detalladas sobre el mundo empresarial todos los días de la semana, desde Wall St. hasta Silicon Valley.