Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 2768

Incidentes Asociados

Incidente 48015 Reportes
Non-Consensual Deepfake Porn Targeted Female Content Creators

Un escándalo porno falso ha sacudido a Twitch
buzzfeednews.com · 2023

El artículo informó que los streamers populares Pokimane, Maya Higa y QTCinderella se encontraban entre los que aparecieron como deepfakes. Anita, que ganó notoriedad en Twitch por abrazar su síndrome de Tourette y educar a su audiencia al respecto, no fue mencionada, pero decidió investigar un poco. “Escribí mi nombre y el nombre del sitio web, y me encontré con algunas cosas. ”, dijo Anita, quien no comparte su nombre real, a BuzzFeed News. “Estaba deseando blanqueador de ojos. Me vi en posiciones en las que nunca estaría de acuerdo, haciendo cosas que nunca querría hacer. Y fue bastante horrible”.

Posteriormente, Anita denunció al creador de los deepfakes, cuya identidad no se conoce públicamente, ante sus casi 380.000 seguidores en Twitter. "Literalmente, elijo dejar pasar millones al no dedicarme al trabajo sexual y, en cambio, un adicto al porno con incrustaciones de cheeto al azar solicita mi cuerpo sin mi consentimiento", [twitteó] (https://twitter.com/sweetanita/status/1620143205282103297). “No sé si llorar, romper cosas o reír en este momento”.

Mientras tanto, otras mujeres cuyas imágenes aparecieron en la página, que está alojada en la imitación Fan-Topia de OnlyFans, compartieron su disgusto en las redes sociales.

“Dejen de sexualizar a las personas sin su consentimiento”, tuiteó Imane “Pokimane'' Anys, una de las transmisoras femeninas más populares en Twitch, que juega juegos como League of Legends y Valorant para sus 9,3 millones de seguidores. Maya Higa, ecologista que tiene 729.000 seguidores en Twitch, publicó en Twitter un comunicado en el que comparaba los deepfakes con ser violada en 2018. “Esta situación hace me siento repugnante, con náuseas, vulnerable y violada, y todos estos sentimientos me son demasiado familiares”, decía el comunicado.

QTCinderella, una streamer de League of Legends con 830 000 seguidores, publicó una denuncia entre lágrimas de los deepfakes en su [transmisión de Twitch] (https://www.twitch.tv/videos/1723309941). "Si eres capaz de mirar a las mujeres que no se venden o se benefician de ser vistas sexualmente", dijo, "si puedes mirar eso, tú eres el problema, ves a las mujeres como un objeto".

Higa le dijo a BuzzFeed News que "no quiere participar en más discursos públicos sobre este tema". Ewing, Anys y QTCinderella no respondieron a las solicitudes de comentarios de BuzzFeed News.

Deepfakes, que se crean con herramientas de inteligencia artificial, han ganado popularidad en los últimos años. Según [Sensity.ai](https://www.technologyreview.com/2021/02/12/1018222/deepfake-revenge-porn-coming-ban/#:~:text=While%20deepfakes%20have%20received% 20enorme,de%20ellos%20son%20pornografía%20noconsensuada), una compañía de investigación que rastrea falsificaciones profundas, del 90% al 95% de ellos son pornografía no consensuada. Afecta no solo a las personas cuyos rostros aparecen en las imágenes, sino también a aquellas cuyos cuerpos han sido utilizados.

El creador original de los deepfakes en cuestión eliminó el contenido ofensivo de su página y publicó una disculpa a los involucrados. "Si bien esto no es ilegal, sigue siendo inmoral", escribieron. Agregaron: "Para ser honesto, si quisiera continuar con esto, lo que obtuve fue el mejor anuncio que jamás podría pedir, pero después de ver la situación de esa pareja disculpándose y las reacciones de algunas serpentinas a las que pensé que 'no les importaba' , me siento como el pedazo de mierda total que soy".

Ni el usuario que creó los deepfakes ni Fan-Topia respondieron a las solicitudes de comentarios de BuzzFeed News.

Anita dijo que la disculpa se sintió como una forma de que el creador anónimo evitara cualquier repercusión legal. (El contenido falso profundo se encuentra en un área gris legal en la mayoría de los estados, con [solo Virginia y California] (https://www.technologyreview.com/2021/02/12/1018222/deepfake-revenge-porn-coming-ban/ ) prohibirlo por completo. En el Reino Unido, donde vive Anita, un proyecto de ley de seguridad en línea se está abriendo paso en la Cámara de los Lores. Esa legislación incluiría protección contra el contenido deepfake).

"No creo que lo absuelva de ningún delito simplemente porque necesitaba ver llorar a los streamers antes de darse cuenta de que les importaría", dijo Anita sobre la disculpa del creador. "Creo que es demasiado tarde para disculparse porque el daño ya está hecho. Una vez que se produce algo como esto para Internet, en realidad nunca se puede eliminar".

Twitch, que se dedica en gran medida a las transmisiones de juegos, "es un espacio dominado por hombres", dijo Anita. Según StreamScheme, el 78,4 % de los usuarios de Twitch son hombres y el 19,6 % % son mujeres. Las mujeres también son una pequeña minoría de los creadores de contenido con mayores ingresos de Twitch. Según una filtración de 2021 que contenía las ganancias de los mejores de la plataforma, solo el 3 % del top 100 eran mujeres.

Anita dijo que ha sido objeto de "tributos cum", videos en los que los hombres eyaculan sobre imágenes de ella, y recopilaciones de sus secuencias editadas de manera lasciva. "Si dejara de hacer cosas con las que la gente se masturba, no saldría de mi casa", dijo Anita. "Dejé de tratar de lidiar con eso y solo traté de concentrarme en lo que amo de mi trabajo".

Aún así, Anita dijo que está "investigando" acciones legales por las falsificaciones de ella. Mientras tanto, otros streamers que aparecen en los deepfakes contrataron al abogado Ryan Morrison, cuya firma con sede en Los Ángeles envió avisos de eliminación a los sitios donde se alojaba el contenido. (No está claro si el creador original eliminó su contenido antes o después de que se emitieran estos retiros).

“No existe una forma apropiada de usar el contenido o la imagen de alguien sin su consentimiento”, dijo Morrison a BuzzFeed News. "Los deepfakes en sí mismos son más nuevos en el ecosistema de la pornografía. La tecnología deepfake está llegando a un punto en el que parece real, puede parecer legítimo". Morrison se negó a revelar a las mujeres que representa para no generar más acoso en su camino, pero dijo que también estaban considerando emprender acciones legales.

En una segunda disculpa, publicada en Twitlonger el 1 de febrero, Ewing dijo que "se está alejando de la creación de contenido" y "trabajando para cubrir el costo financiero del retiro, así como todos los honorarios legales para todas las mujeres afectadas por usar los servicios [de Morrison] para eliminar su contenido no deseado de la web".

En cuanto a Anita, dijo que encontró "realmente difícil estar enojada con Atrioc específicamente porque muchas personas que conozco personalmente usan este tipo de sitios". Ella agregó: "Así que creo que si yo fuera el tipo de persona que se estresa por este tipo de cosas, probablemente odiaría a la mayoría de las personas".

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 1420c8e