Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 2774

Incidentes Asociados

Incidente 48015 Reportes
Non-Consensual Deepfake Porn Targeted Female Content Creators

El creador de Deepfake Porn elimina su presencia en Internet después de la llorosa disculpa de 'Atrioc'
vice.com · 2023

El lunes, el streamer de Twitch Brandon Ewing, que se hace llamar Atrioc en línea, admitió haber comprado y visto deepfakes desde una cuenta que hace videos no consensuados, sexualmente explícitos generados por IA de sus colegas en el mundo de la transmisión.

En una transmisión en vivo el lunes, Ewing sin darse cuenta mostró las ventanas del navegador abiertas en un sitio web que aloja imágenes no consensuadas generadas por IA. La ventana mostraba que estaba viendo imágenes en la cuenta de alguien que se especializaba en hacer deepfakes de streamers populares. Los espectadores de la transmisión captaron la filtración y tomaron capturas de pantalla del sitio, luego compartieron el sitio, las imágenes y los nombres de las mujeres que fueron falsificadas.

Como informó por primera vez Dextero, Ewing dijo durante su transmisión del lunes, en una disculpa entre lágrimas y ahora viral, que hizo clic en un anuncio de pornografía falsa mientras navegaba por Pornhub. Ese anuncio lo llevó a otro sitio web solo para suscriptores, dijo, donde pagó para ver las imágenes de serpentinas femeninas populares. Dijo que lo impulsaba la "curiosidad morbosa" y que ver pornografía no consensuada no es un "patrón de comportamiento". Su esposa, la cosplayer Arianna Ewing, se sentó en el fondo del arroyo y lloró.

En el momento de escribir este artículo, la página del creador de deepfakes en el sitio que usó Ewing ha sido eliminada de deepfakes y ahora presenta una larga disculpa a los streamers que describe las cintas sexuales falsas no consensuadas como "inmorales".

“Para ser honesto, si quisiera continuar con esto, lo que obtuve fue el mejor anuncio que podría pedir, pero después de ver la situación de esa pareja disculpándose y las reacciones de algunos streamers que pensaron [I] 'No me importaba ', me siento como el pedazo de mierda total que soy”, escribieron. “El mejor curso de acción que he entendido es simplemente borrar mi parte de Internet y ayudar a disminuir la cantidad de videos futuros de los involucrados. No me verás aparecer de nuevo.

Ewing afirmó en el chat de la transmisión de disculpas que no estaba viendo videos de nadie que conozca, según las capturas de pantalla. Pero sus acciones, el descuido en la transmisión y la disculpa pública han atraído más atención no deseada a los transmisores que se ven en las capturas de pantalla filtradas. Muchos observadores describieron su disculpa entre lágrimas y toda la situación como extraña y absurda, y algunos incluso se preguntaron cuál era el problema en primer lugar. El incidente refleja un problema en la raíz de la invención de los deepfakes: la pornografía no consentida de personas reales, principalmente mujeres.

Deepfakes: imágenes generadas por algoritmos de aprendizaje automático para cambiar la cara de una persona por el cuerpo de otra persona, [se utilizan principalmente] (https://www.vice.com/en/article/7x57v9/most-deepfakes-are-porn-hostigamiento- not-fake-news) para hacer cintas de sexo falsas y no consensuadas dirigidas a las mujeres y acosadas por ellas. Desde su creación en 2018, los deepfakes se han utilizado como una forma de [controlar el cuerpo de las mujeres](https ://www.vice.com/en/article/nekqmd/deepfake-porn-origins-sexism-reddit-v25n2) en línea. Los objetivos de deepfakes sexualmente explícitos y no consensuados informan que estos videos tienen efectos reales y devastadores en su bienestar mental y su capacidad de existir en línea, y cuando les sucede a personalidades en línea como streamers y cosplayers, desconectarse y abandonar sus medios de vida no es a menudo una opción razonable. Las streamers femeninas ya se enfrentan al sexismo, la cosificación y la falta de respeto como parte de estar en línea; cosplayers informan de manera similar acoso desenfrenado de deepfake que dificulta la existencia en línea y traumatizante.

Ewing conoce personalmente a varias de las mujeres que supuestamente son el objetivo del creador de deepfakes, como la streamer QTCinderella. Algunas de esas mujeres han hablado sobre cómo las acciones y la admisión de Ewing las afectan. En [una transmisión en vivo el 30 de enero] (https://www.twitch.tv/videos/1723309941), QTCinderella dijo que aunque sus confidentes podrían decirle que no transmita en vivo, quería que la gente viera el costo que ha tenido esta situación. sobre su. “Esto es lo que parece sentirse violado, esto es lo que parece sentirse aprovechado. Esto es lo que parece verte desnuda en contra de tu voluntad difundida por todo Internet”, dijo.

“Que se joda Atrioc por mostrárselo a miles de personas. Que se jodan las personas que me envían fotos mías desde mi sitio web. Que se jodan todos Así es como se ve, así es como se ve el dolor”, dijo. “No debería ser parte de mi trabajo tener que pagar dinero para que retiren estas cosas. No debería ser parte de mi trabajo ser acosada, ver fotos de mí 'desnuda' esparcidas por ahí”.

Luego se dirigió a la persona que creó el sitio web que vende los deepfakes y prometió demandarlos. "Te prometo que. Con cada parte de mi alma, voy a demandarte”, dijo. "Eso es todo lo que tengo que decir."

La mayoría de los estados de EE. UU.. tienen leyes contra el material sexual no consentido, pero solo California, Virginia y Texas nombran específicamente las falsificaciones profundas. Incluso con leyes vigentes que penalizan a las personas que crean y difunden deepfakes maliciosos, obtener un recurso como víctima [puede ser extremadamente difícil] (https://www.vice.com/en/article/59kzx3/targets-of-fake-porn -deepfakes-están-a-merced-de-las-grandes-plataformas).

Otra transmisora que aparece en las capturas de pantalla, Sweet Anita, twitteó que la cobertura de noticias de la disculpa de Ewing es cómo descubrió que hay videos falsos de ella. "Literalmente, elijo dejar pasar millones al no dedicarme al trabajo sexual y, en cambio, un adicto al porno con incrustaciones de cheeto al azar solicita mi cuerpo sin mi consentimiento", escribió. “No sé si llorar, romper cosas o reír en este momento”.

Adept, otro streamer popular, habló sobre la situación el lunes: “Desafortunadamente nos encontramos atrapados entre la espada y la pared al dejar que estas imágenes y las personas que las hacen/consumen ocupen nuestros pensamientos o renuncien a cualquier sentimiento de vergüenza y vergüenza al recordar que esto es la perversión de otra persona y no es culpa nuestra”, escribió.

Ewing, QTCinderella, Sweet Anita y Adept no respondieron de inmediato a las solicitudes de comentarios.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • a9df9cf