Incidentes Asociados
Imagina que tu cara hubiera sido editada digitalmente en un video porno sin tu consentimiento y luego compartida en Internet. Una mujer revela el horror de lo que le pasó.
Una noche, mientras navegaba por su cuenta de Twitter, Kate Isaacs se topó con un video perturbador entre sus notificaciones.
"Me invadió el pánico", dice Kate, hablando públicamente por primera vez sobre lo que sucedió. "Alguien había tomado mi cara, la había puesto en un video porno y la había hecho parecer mía".
Kate había sido sometida a un deepfake. Alguien había usado inteligencia artificial para manipular digitalmente su cara y ponerla en la de otra persona, en este caso una actriz porno.
El video deepfake en Twitter, con Kate, que hace campaña contra la pornografía no consentida, fue etiquetado, se había hecho usando imágenes de entrevistas de televisión que había dado durante la campaña. Parecía mostrarla teniendo sexo.
"Se me hundió el corazón. No podía pensar con claridad", dice. "Recuerdo que sentí que este video iba a llegar a todas partes, fue horrible".
En el pasado, los políticos y las celebridades de alto perfil eran los objetivos más comunes de los deepfakes: los videos no siempre eran pornográficos, algunos se hacían con fines cómicos. Pero con los años eso ha cambiado: según la empresa de ciberseguridad Deeptrace, el 96% de todos los deepfakes son porno no consensuado.
Al igual que el porno vengativo, la pornografía deepfake es lo que se conoce como abuso sexual basado en imágenes, un término general que abarca la toma, creación y/o intercambio de imágenes íntimas sin consentimiento.
En Escocia ya es un delito compartir imágenes o videos que muestren a otra persona en una situación íntima sin su consentimiento. Pero en otras partes del Reino Unido, solo es un delito si se puede demostrar que tales acciones tenían la intención de causar angustia a la víctima, una laguna jurídica que significa que los creadores de videos a menudo no enfrentan consecuencias legales.
Los planes del gobierno para un esperado proyecto de ley de seguridad en línea para todo el Reino Unido han sido objeto de interminables revisiones y archivados repetidamente. Las nuevas leyes darían al regulador, Ofcom, el poder de tomar medidas contra cualquier sitio web que se considere que permite causar daño a los usuarios del Reino Unido, sin importar en qué parte del mundo se encuentren. Sin embargo, a principios de este mes, la secretaria de Cultura, Michelle Donelan, dijo que ella y su equipo estaban ahora "trabajando a toda máquina" para garantizar que se aprobara el proyecto de ley.
Por lo tanto, Kate asumió que quienquiera que estuviera detrás de la falsificación profunda de su identidad se había sentido molesto por su campaña. Ella les había "quitado su pornografía".
Pero no tenía idea de quién era esa persona o quién podría haber visto el video. Y aunque podía ver que su rostro había sido superpuesto a imágenes de un actor porno, el video era lo suficientemente convincente como para que le preocupara que otros no se dieran cuenta del engaño.
"Fue una violación: mi identidad fue utilizada de una manera que yo no consentí".
Debajo del vídeo, la gente empezó a dejar un torrente de comentarios abusivos, diciendo que iban a seguir a Kate a su casa, violarla, filmar el ataque y publicar las imágenes en Internet.
"Empiezas a pensar en tu familia", dice, conteniendo las lágrimas. "¿Cómo se sentirían si vieran este contenido?".
La amenaza se intensificó cuando las direcciones de la casa y el trabajo de Kate se publicaron debajo del vídeo, una práctica conocida como doxing.
"Me volví completamente paranoica: '¿Quién sabe mi dirección? ¿Es alguien que conozco que ha hecho esto?'
"Pensé: 'Estoy en serios problemas, no se trata de gente que habla por Internet, sino de un peligro real'".
Por su experiencia ayudando a otras personas en situaciones similares, Kate sabía exactamente qué hacer si alguien se convertía en víctima, pero en ese momento se quedó paralizada.
"No seguí ninguno de mis propios consejos", dice. "Kate, la activista, era muy fuerte y no mostraba ninguna vulnerabilidad, y luego estaba yo, Kate, que estaba realmente asustada".
Un colega denunció el vídeo, los comentarios maliciosos y el doxing a Twitter, y todos fueron eliminados de la plataforma. Pero una vez que se publica y comparte un deepfake en Internet, es difícil eliminarlo de circulación por completo.
"Solo quería que ese vídeo saliera de Internet", dice Kate, "pero no había nada que pudiera hacer al respecto".
Existe un mercado para los deepfakes en los foros en línea. La gente publica solicitudes de que se hagan vídeos de sus esposas, vecinos y compañeros de trabajo y, por inimaginable que parezca, incluso Sus madres, hijas y primas.
Los creadores de contenido responden con instrucciones paso a paso: qué material de origen necesitarán, consejos sobre qué ángulos de filmación funcionan mejor y precios por el trabajo.
Gorkem, un creador de contenido deepfake afincado en el sureste de Inglaterra, habló con la BBC de forma anónima. Comenzó a crear deepfakes de celebridades para su propia satisfacción: dice que permiten a las personas "hacer realidad sus fantasías de formas que antes realmente no eran posibles".
Más tarde, Gorkem pasó a hacer deepfakes de mujeres que le atraían, incluidas compañeras de su trabajo diario a las que apenas conocía.
Las imágenes inofensivas se están convirtiendo en pornografía dura y se utilizan para acosar a las mujeres. Jess Davies explora el costo emocional y psicológico que tiene el "deepfake" en las víctimas desprevenidas.
"Uno estaba casado, el otro tenía una relación", dice. "Entrar al trabajo después de haberles hecho deepfakes a estas mujeres me hizo sentir extraño, pero controlé mis nervios. Puedo actuar como si no pasara nada, nadie sospecharía".
Al darse cuenta de que podía ganar dinero con lo que él llama su "hobby", Gorkem comenzó a aceptar encargos por deepfakes personalizados. Recopilar imágenes de los perfiles de las redes sociales de las mujeres le proporciona mucho material de origen. Dice que incluso recientemente hizo deepfakes a una mujer usando una grabación de una llamada de Zoom.
"Con una buena cantidad de video, mirando directamente a la cámara, esos son buenos datos para mí. Luego, el algoritmo puede extrapolarlos y hacer una buena reconstrucción del rostro en el video de destino".
Acepta que "algunas mujeres" podrían resultar psicológicamente dañadas por ser deepfakes, pero parece indiferente sobre el impacto potencial de la forma en que las está objetivando.
"Pueden simplemente decir: 'No soy yo, esto ha sido falsificado'". Deberían reconocerlo y seguir con su día.
"Desde un punto de vista moral, no creo que haya nada que me detenga", dice. "Si voy a ganar dinero con una comisión, lo haría, es una obviedad".
El estándar de los deepfakes puede variar enormemente y depende tanto de la experiencia de la persona que hizo el video como de la sofisticación de la tecnología utilizada.
Pero el hombre detrás del sitio web de pornografía deepfake más grande admite que ya no es fácil saber con certeza si estás viendo imágenes manipuladas o no. Su sitio atrae a unos 13 millones de visitantes al mes y alberga aproximadamente 20.000 videos en cualquier momento. Tiene su base en los EE. UU. y rara vez habla con los medios, pero aceptó hablar con la BBC de forma anónima.
Hacer deepfakes a mujeres "comunes" es una línea roja para él, dice, pero en su opinión, albergar videos pornográficos deepfake de celebridades, influencers de las redes sociales y políticos es justificable.
"Están acostumbrados a los medios negativos, su contenido está disponible en los medios de comunicación convencionales. Son diferentes a los ciudadanos normales", dice.
"Tal como yo lo veo, son capaces de lidiar con ello de una manera diferente, pueden simplemente ignorarlo. Realmente no creo que se requiera el consentimiento, es una fantasía, no es real".
¿Cree que lo que está haciendo está mal? Una parte de él "niega el impacto en las mujeres", admite, y notablemente, revela que su esposa no sabe a qué se dedica.
"No se lo he dicho a mi esposa. "Tengo miedo de cómo podría afectarla".
Hasta hace relativamente poco, el software de deepfake no estaba fácilmente disponible y la persona promedio no habría tenido las habilidades para crearlos. Pero ahora, cualquier persona mayor de 12 años puede descargar legalmente docenas de aplicaciones y crear deepfakes convincentes con unos pocos clics.
Para Kate, eso es preocupante y "realmente aterrador".
"No es la red oscura, está en las tiendas de aplicaciones, justo delante de nuestras narices".
También teme que el esperado proyecto de ley de seguridad en línea no se mantenga al día con la tecnología. Hace tres años, cuando se redactó por primera vez el proyecto de ley, la creación de deepfakes se consideraba una habilidad profesional en la que alguien tendría que recibir formación, no simplemente descargar una aplicación.
"Han pasado años y el contenido del proyecto de ley está desactualizado; faltan muchas cosas", dice.
Pero para el creador Gorkem, penalizar el deepfaking cambiaría las cosas.
"Si pudieran rastrearme en línea, me quedaría ahí "Y probablemente encuentre otro pasatiempo", dice.
El hecho de que le hicieran deepfakes y que revelaran su identidad afectó a la salud de Kate y a su capacidad de confiar en otras personas. Ella cree que quienes estaban detrás de los ataques no solo estaban tratando de intimidarla y humillarla, sino también de silenciarla. Durante un tiempo, se alejó de la campaña, preguntándose si podría seguir hablando sobre la misoginia.
Pero ahora está aún más enojada. Se dio cuenta de que le importaba demasiado como para alejarse.
"No voy a dejar que ganen".
Los deepfakes se pueden usar para controlar a las mujeres, y se debería alentar a las empresas tecnológicas, incluidas las que crean aplicaciones que permiten el intercambio de rostros, a que implementen salvaguardas, dice.
"Cualquier aplicación debería poder detectar contenido sexual".
"Si las empresas no han invertido dinero, recursos y tiempo en garantizar que su aplicación no se use como un lugar para crear contenido de abuso sexual, están siendo deliberadamente irresponsables. Son culpables".
No se sabe que Gorkem ni el hombre detrás del sitio web de deepfakes más grande hayan estado involucrados en la falsificación de Kate Isaacs.
- Recopila pruebas - Puede parecer contradictorio que quieras borrar todo, pero es importante descargar videos y capturar las fechas de captura de pantalla, las marcas de tiempo, los nombres de usuario y las URL. Colócalos en una carpeta segura y protégela con contraseña.
- Denuncia cuentas - Una vez que hayas recopilado las pruebas, informa lo que sucedió en cualquier plataforma en la que haya aparecido.
- Contacta a la policía - Es importante registrar lo que sucedió y compartir las pruebas que hayas recopilado. Llama al número que no es de emergencia, 101
- Pide ayuda y asesoramiento - La línea de ayuda de Revenge Porn está abierta de 10:00 a 16:00 de lunes a viernes (excepto festivos) en el 0345 6000 459 o en help@revengepornhelpline.org.uk
Fuente: Campaña #NotYourPorn