Incidentes Asociados
A principios de esta semana, un [informe] de NBC (https://www.nbcnews.com/tech/social-media/emma-watson-deep-fake-scarlett-johansson-face-swap-app-rcna73624) descubrió el rostro de una celebridad -aplicación de intercambio, Facemega, con el potencial de crear fácilmente pornografía ultrafalsa que represente a mujeres famosas o de cara al público. Deepfake porn se refiere a imágenes pornográficas y sexuales falsas pero muy realistas, a menudo generadas por IA, de personas sin su consentimiento. Como era de esperar, normalmente se dirige a mujeres y especialmente a celebridades femeninas; Hasta ahora, las víctimas han incluido [transmisoras femeninas de Twitch] populares (https://jezebel.com/atrioc-twitch-deepfake-ai-porn-1850055648?rev=1675203259281) y, ya en 2018, [Gal Gadot] (https: //www.vice.com/en/article/gydydm/gal-gadot-fake-ai-porn).
Según el informe de NBC, Facemega publicó cientos de anuncios diferentes en Facebook, Instagram y otras aplicaciones de Meta, anunciando la facilidad con la que los usuarios podían intercambiar caras con personas como Emma Watson o Scarlet Johansson, acompañados de ejemplos de videos muy realistas y sexualmente sugerentes. (Esto, por supuesto, es a pesar de que Meta prohibió la mayoría del contenido falso profundo en 2020). La aplicación también colocó anuncios en la tienda de Apple, donde estuvo disponible por primera vez en algún momento del año pasado. El martes por la noche, Kat Tenbarge de NBC informó que la tienda de aplicaciones de Apple había eliminado la aplicación de intercambio de rostros y Meta dejó de publicar anuncios poco después. Informe original de NBC. Pero la aplicación permanece en Google Play.
El informe de NBC señala que "no se mostraron actos sexuales en los videos", pero "su naturaleza sugerente" deja en claro que al menos un propósito de la aplicación es "generar contenido sexual falso". NBC también descubrió que "algunos de los anuncios mostraban lo que parecía el comienzo de videos pornográficos con el conocido sonido de la pista de introducción de la plataforma pornográfica Pornhub".
“Reemplace la cara con cualquiera”, dicen los subtítulos en algunos de los Meta anuncios. "Diviértete con la tecnología de cambio de cara de IA". Facemega también ofrece a los usuarios la oportunidad de intercambiar rostros de diferentes celebridades en videos preestablecidos y, entre otras categorías, incluye una categoría "Caliente" que "presenta videos de mujeres y hombres con poca ropa bailando y posando".
A pesar de que Meta y Apple parecen haber tomado medidas para frenar a Facemega, con o sin la aplicación, la pornografía falsa es una crisis que crece rápidamente. Según un investigador de transmisión que habló con NBC, el mes pasado se subió el mayor volumen de videos porno falsos. Estos números alarmantes, y un reciente [escándalo] de Twitch (https://jezebel.com/atrioc-twitch-deepfake-ai-porn-1850055648?rev=1675203259281) que involucra a un popular streamer masculino denunciado por ver pornografía deepfake de streamers femeninas en Enero: deja claro que nada de esto es hipotético. Y el problema está empeorando a medida que las herramientas deepfake se vuelven más accesibles.
Las aplicaciones de intercambio de rostros y otras tecnologías de inteligencia artificial se pueden usar para crear pornografía falsa dirigida no solo a celebridades, sino también a amigos, compañeros de trabajo e incluso conocidos casuales. Los expertos dicen que las aplicaciones de imágenes generadas por IA cada vez más populares, como Lensa AI, han sido una [gran ayuda para el contenido de abuso sexual infantil] (https://jezebel.com/lensa-ai-images-beauty-trap-1849875644). Una investigadora escribió en Wired el año pasado que al subir fotos de ella misma de la infancia a Lensa, "lo que resultó fueron fotos completamente desnudas de una rostro adolescente y, a veces, infantil, pero un cuerpo claramente adulto”.
Y, especialmente preocupante, nuestras leyes no están preparadas para proteger a las personas. Si bien la mayoría de los estados tienen [varias leyes contra la explotación cibernética] (https://www.technologyreview.com/2021/02/12/1018222/deepfake-revenge-porn-coming-ban/) para controlar la "pornografía de venganza" (imágenes de desnudos no consensuales de personas compartidas por exparejas o acosadores), los únicos estados que prohíben explícitamente el contenido sexual falso profundo no consensuado son California, Virginia y Texas. A medida que proliferan aplicaciones como Facemega, probablemente con la ayuda de plataformas sociales como Meta, simplemente no estamos preparados para el alcance del daño que esto podría causar.