Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 2696

Incidentes Asociados

Incidente 48015 Reportes
Non-Consensual Deepfake Porn Targeted Female Content Creators

Loading...
Descubrió un video de ella desnuda en línea, pero no era ella: el trauma de la pornografía profunda
usatoday.com · 2023

Su bandeja de entrada estaba inundada de capturas de pantalla explícitas, aparentemente de un video pornográfico. Reconoció su rostro, pero no su cuerpo. Por solo un segundo, cuestionó si las imágenes podrían ser reales. Ciertamente se veía así, aunque sabía que nunca se había filmado desnuda.

Era un deepfake, tan realista que incluso la mujer que aparecía en él fue engañada momentáneamente.

QTCinderella es un streamer de Twitch favorito de los fanáticos que es conocido por su contenido saludable de juegos y repostería. Pero a finales del mes pasado, el 30 de enero, un compañero streamer mostró brevemente una ventana del navegador que mostraba un sitio web que crea contenido explícito de mujeres generado por IA, incluidas las streamers femeninas. En el sitio, se podía encontrar pornografía falsa de la joven de 28 años y, desde entonces, dice que su nombre, su rostro y su marca se han asociado con la pornografía.

Abrumada por la conmoción, la confusión, el pánico y el dolor, la transmisora decidió compartir sus sentimientos en una transmisión en vivo improvisada con sus 800 000 seguidores.

Esto, dice ella, es cómo se ve el trauma sexual.

"Quería mostrar que esto es un gran problema", dice QT, quien pidió que nos refiriéramos a ella usando su nombre de usuario por razones de privacidad. "Que todas las mujeres en ese sitio web, así es como se sienten. Mírame sollozando y dime que todavía piensas que esto está bien".

Deepfake porno vive en capturas de pantalla

Deepfake, o videos que usan inteligencia artificial combinar imágenes o videos en un material de origen, no es nuevo. El proceso se puede utilizar para que parezca que las personas dijeron o hicieron cosas que no dijeron. Sin embargo, a los expertos les preocupa que la tecnología pueda hacer más daño que bien, especialmente para las mujeres que están a la vista del público.

Plataformas como Reddit han prohibido la pornografía deepfake, pero todavía existen sitios más pequeños, como el que compartía imágenes falsas de QT. E incluso si una persona logra que se elimine un video explícito, como pudo hacer QT, las capturas de pantalla continúan circulando.

Junto con el acoso, el acecho y la misoginia que las streamers femeninas suelen enfrentar en línea, esta forma moderna de sexualización, dice QT, la hizo sentir explotada y "puramente como un objeto".

El porno puede ser falso. Pero el trauma no lo es.

Aunque los fanáticos y otras mujeres en público expresan su apoyo, QT dice que también recibió una avalancha de mensajes de odio y culpabilización de las víctimas, en su mayoría de hombres que no entienden cómo las imágenes falsas pueden causar un daño real. U otros que creen que ese es el precio que pagan las mujeres por la fama en Internet.

"Esto no es nada que yo haya hecho. No he hecho nada malo. Eso es lo loco de todo esto: nosotras (como mujeres) no hemos hecho nada malo. Simplemente existimos", dice QT.

También ha luchado con el dolor de que le envíen estas fotos a su familia, la incomodidad de tener que explicar las fotos una y otra vez. Es una conversación humillante que nunca pensó que tendría que tener.

Contrariamente a la creencia popular, la trabajadora social clínica licenciada  Jessica Klein dice que una imagen, alterada o no, es suficiente para crear un trauma real y tangible y, para algunos, un trastorno de estrés postraumático diagnosticable. . [La investigación] (https://fightthenewdrug.org/revenge-porn-survivors-suffer-similar-trauma-assault-survivors/) ha respaldado que los efectos en la salud mental de la agresión sexual y el abuso no consensuado basado en imágenes (como la pornografía de venganza) ) son similares.

"No es necesario que algo le suceda físicamente a tu cuerpo para que sea traumatizante", dice Klein, que trabaja con víctimas de la pornografía vengativa. "Es una violación. Una sensación de impotencia, miedo y vergüenza. Tu sensación de seguridad se aniquila por completo cuando tu cuerpo se retrata de esta manera no consensuada para que lo vean millones".

Para QT, la objetivación de su cuerpo, en contra de su voluntad, era demasiado familiar y le provocó recuerdos de su experiencia de agresión sexual.

"Minutos después de ver esa foto, sentí lo mismo", recuerda. "El mismo sentimiento de culpa, con el mismo sentimiento de ser utilizado. Y es porque es otra cosa con la que no acepté. Otra cosa que no quería hacer. Otra versión de mí que no quería que se viera ni se tocara". o mirado".

Maya Higa, una compañera streamer que crea contenido conservacionista y también fue víctima de pornografía falsa, compartió el mismo sentimiento.

“Hoy, he sido utilizada por cientos de hombres para gratificación sexual sin mi consentimiento. El mundo llama violación a mi experiencia de 2018. El mundo está debatiendo sobre la validez de mi experiencia hoy", Higa [escribió en una declaración de Twitter] (https://twitter.com/mayahiga/status/1620586546083803136?cxt=HHwWgMDR8ZO4vf0sAAAA) el 31 de enero.

'Soy una chica normal'

QTCinderella tenía mucho que perder al decidir si quería o no hablar públicamente sobre el incidente. Ella quiere dejar atrás la controversia.

Pero la razón por la que está haciendo esto es "para las mujeres que realmente no pueden permitirse el lujo de tener esto allí".

"Necesitamos leyes federales", dice QT. Expertos como Klein están de acuerdo: Si bien muchos estados de EE. UU. tienen leyes contra la "pornografía de venganza" y las imágenes de desnudos no consentidas, solo tres estados ( California, Virginia y Texas) incluyen específicamente deepfakes.

"Necesitamos que le suceda algo a la gente que se aprovecha de los demás", continúa QT. "Ese es fundamentalmente un cambio con el que esperamos que todos podamos estar de acuerdo, y si no puedes verlo de esa manera, ruego a cada persona que imagine ver este tipo de fotos o videos de alguien que les importa, en contra de su voluntad".

Más allá de esta controversia y sus cuerpos, mujeres como QT merecen ser conocidas por su humanidad. Por ejemplo, sus contribuciones en el espacio de Twitch. Encabezó los Premios Streamer anuales, una oportunidad para reunir a los jugadores y celebrarse unos a otros como comunidad. En su tiempo libre, recauda dinero para el Santuario de animales Alveus.

"Soy una chica normal", dice ella. "Me gusta Taylor Swift. Me gusta hornear galletas. Me gusta ir a Disneylandia".

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd