Incidentes Asociados
Una escuela secundaria de Nueva Jersey se vio sacudida por un escándalo después de que, según se informó, estudiantes varones utilizaron inteligencia artificial para crear fotografías falsas de desnudos de estudiantes.
El mes pasado, algunas adolescentes de Westfield High School se enteraron de que durante el verano habían circulado imágenes falsas de ellas desnudas entre otros estudiantes, [informó el Wall Street Journal](https://www.wsj.com/tech/fake-nudes -de-estudiantes-reales-causan-un-alboroto-en-una-escuela-secundaria-de-nueva-jersey-df10f1bb?mod=wknd_pos1). En un correo electrónico a los padres, la directora de la escuela, Mary Asfendis, calificó la debacle como un “incidente muy grave”, diciendo que creía que las imágenes habían sido eliminadas y ya no estaban en circulación, [según Ars Technica](https://arstechnica.com/ tech-policy/2023/11/deepfake-nudes-of-high-schoolers-spark-police-probe-in-nj/).
Pero hasta ahora no ha habido mucha solución. La escuela, alegando confidencialidad, no revelará cuántas personas están afectadas. Tampoco ha revelado si los estudiantes detrás de los deepfakes han sido capturados y se enfrentarán a medidas disciplinarias.
Este no es un incidente aislado. Algo parecido ocurrió [en España en septiembre](https://futurism.com/the-byte/parents-furious-deepfakes- Daughters-school). Además, personalidades públicas, incluida la congresista Alexandria Ocasio-Cortez, [la estrella de Hollywood Scarlett Johansson](https://www.washingtonpost.com/technology/2018/12/31/scarlett-johansson-fake-ai-generated-sex-videos -nada-puede-parar-alguien-cortar-pegar-mi-imagen/?itid=lk_interstitial_manual_23), y varios YouTubers y [streamers de Twitch](https://kotaku.com/twitch-deepfake-statement-atrioc-qtcinderella- pokimane-1850199352), se han visto atrapados en escándalos de pornografía deepfake.
Mientras tanto, Nueva Jersey no tiene ninguna ley que penalice a los creadores y distribuidores de desnudos generados por IA. El 10 de octubre, el gobernador Phil Murphy anunció un grupo de trabajo sobre IA, diciendo que “no sólo trabajará para comprender los beneficios de la IA, sino también analizar su crecimiento y riesgos potenciales”. Sin embargo, en el estado vecino de Nueva York no existe una ley que castigue a los infractores.
Instantánea: No hay ley federal contra los desnudos deepfake
La [orden ejecutiva expansiva] (https://qz.com/does-anyone-not-like-bidens-new-guidelines-on-ai-1850974346) del presidente estadounidense Joe Biden sobre la regulación de la IA, emitida el 30 de octubre, establece directrices para el seguimiento y la detección, el establecimiento de barreras de seguridad y la inversión en herramientas tecnológicas, pero no implementa una ley a nivel nacional.
Citable: La legislación federal sobre deepfakes es complicada
“Si se aprueba una legislación federal sobre deepfakes que se dirige específicamente a los deepfakes pornográficos, entonces, para ser constitucionales, es posible que los deepfakes pornográficos deban encajar en la excepción categórica de la Primera Enmienda de ser una categoría separada como la pornografía infantil...[T ]aquí no hay una solución clara. Como mínimo, antes de que se apruebe una legislación federal sustancial, los investigadores deben realizar más estudios para conocer el impacto que tienen los deepfakes pornográficos en las víctimas y los usuarios de Internet”.
—Bradley Waldstreicher, editor asociado, [Cardozo Law Review](https://cardozolawreview.com/deeply-fake-deeply-disturbing-deeply-constitutional-why-the-first-amendment-likely-protects-the- creación-de-deepfakes-pornográficos/), mayo de 2021
Desnudos falsos generados por IA, por dígitos
290%: ¿Cuánto tienen los desnudos falsos? se ha disparado desde 2018 entre los 10 principales sitios web que albergan fotografías pornográficas generadas por IA, informó el Washington Post, citando a la analista de la industria Genevieve Oh.
143,000: Se agregaron videos porno generados por IA en 2023 en los 40 sitios web más populares de videos falsificados, una cifra que supera todos los videos nuevos de este tipo entre 2016 y 2022.
4,2 mil millones: Vistas que tienen esos 143,000 videos generado
[54%:](https://www.wired.com/story/deepfake-porn-is-out-of-control/#:~:text=%E2%80%9CAllí%20has%20ha %20significant%20growth,University%2C%20Australia%2C%20who%20focuses%20on) Aumento de videos pornográficos deepfake subidos a servidores de sitios web entre enero y septiembre de 2023 en comparación con todo 2022
90-95%: Proporción de videos deepfake que son pornografía no consensuada que involucra a mujeres, según Sensity AI, una compañía que rastrea videos deepfake en línea desde diciembre de 2018.
26,800: Víctimas estadounidenses de campañas de “sextorsión” este año a través de Septiembre, según el FBI. Eso es un aumento del 149% en comparación con 2019.
Una lista no exhaustiva de estados de EE. UU. donde distribuir desnudos generados por IA es un delito (o pronto podría serlo)
California. Desde 2019, el Estado Dorado ha [permitido a las personas demandar](https://thenextweb.com/news/california-makes-deepfakes-illegal-to-curb-revenge-porn-and-doctored- videos-políticos) cualquiera que ponga su imagen en un video pornográfico deepfake. Según la legislación propuesta, la creación, distribución intencional y exhibición de deepfakes pornográficos estarían tipificadas como delito.
Virginia. Según su ley de “pornografía de venganza”, que prohíbe la difusión de imágenes o vídeos de desnudos “con la intención de coaccionar, acosar o intimidar” a otra persona, Virginia [cubre deepfakes](https://www.theverge. com/2019/7/1/20677800/virginia-revenge-porn-deepfakes-nonconsensual-photos-videos-ban-goes-into-effect). Violar la ley podría resultar en una sentencia de prisión de 12 meses y hasta $2,500 en multas.
Minnesota. Una nueva ley promulgada en julio la convierte en una delito utilizar deepfakes para influir en una elección o difundir imágenes sexuales sin el consentimiento del sujeto. El castigo por crear pornografía deepfake es de hasta [tres años de prisión y/o una multa de 5.000 dólares](https://www.cbsnews.com/minnesota/news/now-illegal-in-mn-using-deepfakes-to- difundir-porno-no-consensual-influir-en-elecciones/).
Nueva York. El mes pasado, el estado, recién ingresado, declaró oficialmente “ilegal la difusión de imágenes explícitas generadas por IA o ‘deepfakes’ de una persona sin su consentimiento”. Violar la ley podría resultar en un año de cárcel y una multa de $1,000, y las víctimas tienen derecho a emprender acciones legales contra los perpetradores.