Incidentes Asociados
Según una organización nacional que combate la desinformación en línea, las mujeres en el Congreso tienen más probabilidades de ser víctimas de pornografía deepfake que sus homólogos masculinos.
Las deepfakes, también conocidas como imágenes íntimas no consensuadas generadas por IA, utilizan inteligencia artificial o aprendizaje automático para crear imágenes, audio y texto creíbles de eventos que nunca sucedieron, según el Departamento de Seguridad Nacional.
Las imágenes también se denominan pornografía deepfake, según el Proyecto American Sunlight, o ASP, la organización de Washington D.C. responsable del estudio.
Combatir la desinformación:Cómo evitar caer en los vídeos de noticias falsas
Los deepfakes se dirigían principalmente a las mujeres
Los investigadores encontraron 35.239 menciones a legisladores estadounidenses en 11 sitios web que se centran en contenido deepfake sexual. Durante el análisis, el equipo descubrió que las mujeres tenían 70 veces más probabilidades de aparecer en imágenes deepfake que los hombres.
Los hallazgos se publicaron en The 19th, una sala de prensa sin fines de lucro con sede en Texas.
"El informe subraya la necesidad urgente de una acción legislativa para abordar el aumento de la tecnología de inteligencia artificial maliciosa", escribió el American Sunlight Project en un comunicado de prensa el miércoles.
Se encontraron deepfakes en sitios web conocidos
El equipo de ASP utilizó un motor de búsqueda personalizado para recopilar sus datos buscando el nombre y apellido de cada miembro en 11 sitios web deepfake conocidos.
El equipo encontró los sitios web buscando en Google términos como "pornografía deepfake", "celebridades deepfake" y "congreso deepfake". A partir de ahí, registraron la cantidad de visitas o menciones que recibió cada miembro.
El equipo de investigación de ASP buscó el nombre de cada miembro en el motor de búsqueda personalizado, incluidos sus nombres formales, abreviaturas y apodos.
Según el equipo, buscaron legisladores en cada región, incluidos Nueva York, Virginia, Ohio y California.
¿Qué más encontraron los investigadores?
El American Sunlight Project descubrió que 26 miembros del Congreso y senadores (25 mujeres y un hombre) estaban actualmente o anteriormente en estos sitios web.
"Esta no es una diferencia pequeña", escribió la ASP en su informe. "Es una disparidad enorme".
Mientras los investigadores rastreaban la frecuencia con la que el nombre de cada funcionario aparecía en sitios web conocidos de deepfakes, también analizaron factores como la edad, el partido político, la representación estatal y la etnia autoidentificada.
Según la ASP, los miembros mayores del Congreso tienen una probabilidad ligeramente menor de aparecer en esas imágenes. El equipo no encontró ningún vínculo entre el partido o los miembros del estado representados.
Se eliminaron deepfakes de las legisladoras en 48 horas
La ASP informó a los miembros del Congreso sobre el contenido deepfake que contenía sus imágenes y, menos de 48 horas después, se había eliminado el contenido dirigido a 14 miembros.
Aún así, los resultados aparecieron para al menos nueve miembros en las páginas de destino o de resultados de búsqueda, así como en los enlaces indexados en Google.
"Esto resalta una gran disparidad de privilegios", escribió la ASP, y agregó que no todas las mujeres tienen los recursos para lograr que se elimine el contenido tan rápidamente.
El hecho de que la gente esté creando estas imágenes de mujeres en el Congreso es un síntoma de un problema mayor, dijo la ASP, argumentando que la desinformación y el acoso de género como este hacen que la vida sea más difícil para las mujeres en todas partes.
¿Son ilegales los deepfakes?
Si bien el Congreso aún no ha aprobado proyectos de ley que apunten a la pornografía deepfake, algunos estados como California, Florida y Georgia han aprobado leyes que hacen que las imágenes deepfake sexuales [sean punibles por ley] (https://www.usatoday.com/story/news/nation/2024/01/26/was-deepfake-taylor-swift-pornography-illegal-can-she-sue/72359653007/).
Los legisladores han presentado proyectos de ley de este tipo a nivel federal.
La congresista Yvette Clarke (demócrata por Nueva York) presentó la Ley de Responsabilidad de los Deepfakes (https://www.congress.gov/bill/118th-congress/house-bill/5586/text) en la Cámara de Representantes en septiembre de 2023, solicitando sanciones civiles de hasta 150.000 dólares para los condenados por crear deepfakes para acosar a otros.
Las representantes estadounidenses Madeleine Dean (demócrata por Pensilvania) y María Elvira Salazar (republicana por Florida) también presentaron este año una legislación para "proteger a nivel federal a las personas de los deepfakes generados por IA", y la llamaron Ley para fomentar los originales, fomentar el arte y mantener el entretenimiento seguro (NO FAKES).
"A medida que aumenta la prevalencia de la IA, la ley federal debe ponerse al día", dijo Dean en un comunicado de prensa en septiembre. "Al otorgarle a todos un derecho federal claro a controlar las réplicas digitales de su propia voz e imagen, la Ley NO FAKES empoderará a las víctimas de deepfakes".
Si se convierte en ley, la Ley NO FAKES habría creado "una solución nacional a un mosaico de leyes y regulaciones estatales para el 2 de enero de 2025".
Los senadores estadounidenses Chris Coons (demócrata por Delaware), Marsha Blackburn (republicana por Tennessee), Amy Klobuchar (demócrata por Minnesota) y Thom Tillis (republicano por Carolina del Norte) también presentaron una legislación en el Senado.
En su informe, los investigadores de la ASP dijeron que el estudio llega en un momento en el que el Congreso está considerando proyectos de ley para regular la creación de pornografía deepfake, y animan a "los legisladores a actuar rápidamente para aprobar estas medidas antes de la conclusión del 118.º Congreso".
¿Cuáles son las limitaciones del estudio?
Según los investigadores de la ASP, algunas de las limitaciones del estudio afectan su capacidad para generalizar sus hallazgos.
Señalan que los resultados representan solo "una instantánea de un momento en el tiempo", o principios de noviembre de 2024. La cantidad de contenido deepfake publicado cambiará a medida que se agreguen y eliminen algunos, dijo la ASP.
Otra limitación es el hecho de que sus datos analizan la frecuencia con la que aparece el nombre de cada miembro en los vídeos de los sitios web deepfake, pero no incluyen detalles sobre el contexto.
"Factores como la frecuencia con la que el nombre de una persona aparece en la población general también podrían dar lugar a recuentos inflados o asociaciones incorrectas", escribieron los investigadores.
Para limitar la cantidad de resultados no relacionados, como los resultados con nombres similares, los investigadores buscaron nombres entre comillas. El uso de comillas en las búsquedas reduce la probabilidad de referencias parciales o no relacionadas, pero no elimina los falsos positivos por completo, dijo el equipo.
Por último, el equipo dijo que sus métodos estadísticos les ayudaron a reconocer asociaciones, pero no causalidad. Esto significa que no es tan fácil decir que un factor causa, aumenta o disminuye el otro.
Los investigadores reiteraron que la eliminación del contenido deepfake en 48 horas, como hicieron los funcionarios en su estudio, es un privilegio, y no es uno que se les haya concedido a muchas mujeres.
"ASP insta al 118º Congreso a priorizar la aprobación de proyectos de ley que tienen como objetivo proteger a las víctimas de (deepfakes), que incluyen no solo a miembros del Congreso y otras mujeres en la vida pública, sino también a menores y ciudadanos privados que carecen de recursos del Congreso", escribió la organización.