Incidents associés
Lundi, le streamer Twitch Brandon Ewing, qui passe par Atrioc en ligne, a admis avoir acheté et regardé des deepfakes à partir d'un compte qui fait des vidéos non consensuelles et sexuellement explicites générées par l'IA de ses collègues dans le monde du streaming.
Dans un flux en direct lundi, Ewing a montré par inadvertance des fenêtres de navigateur ouvertes sur un site Web qui héberge des images non consensuelles générées par l'IA. La fenêtre montrait qu'il regardait des images sur le compte d'une personne spécialisée dans la fabrication de deepfakes de streamers populaires. Les téléspectateurs du flux ont capté la fuite et ont capturé le site, puis ont partagé le site, des images de celui-ci et les noms des femmes qui ont été falsifiées.
Comme indiqué pour la première fois par Dextero, Ewing a déclaré lors de son stream du lundi, dans des excuses larmoyantes et désormais virales, qu'il avait cliqué sur une publicité pour du deepfake porn tout en naviguant sur Pornhub. Cette publicité l'a amené sur un autre site Web réservé aux abonnés, a-t-il dit, où il a payé pour voir les images de streamers féminines populaires. Il a dit qu'il était motivé par une "curiosité morbide" et que regarder de la pornographie non consensuelle n'était pas un "modèle de comportement". Sa femme, la cosplayeuse Arianna Ewing, s'est assise au fond du ruisseau et a pleuré.
Au moment de la rédaction de cet article, la page du créateur de deepfake sur le site utilisé par Ewing a été nettoyée des deepfakes et héberge désormais de longues excuses aux streamers qui décrivent les fausses sex tapes non consensuelles comme «immorales».
"Pour être tout à fait honnête, si je voulais continuer, ce que j'ai eu était la meilleure publicité que je pouvais demander, mais après avoir vu la situation de ce couple s'excuser et quelques réactions de streamers qui pensaient que [I] 'm'en fichait ', Je me sens comme la merde totale que je suis", ont-ils écrit. "Le meilleur plan d'action que j'ai compris est de simplement effacer ma part d'Internet et d'aider à réduire le nombre de futures vidéos des personnes impliquées. Vous ne me verrez plus apparaître.
Ewing a affirmé dans le chat du flux d'excuses qu'il ne regardait pas les vidéos de quelqu'un qu'il connaissait, selon des captures d'écran. Mais ses actions, sa négligence en streaming et ses excuses publiques ont attiré une attention plus indésirable sur les streamers vus dans les captures d'écran divulguées. De nombreux observateurs ont décrit ses excuses en larmes et toute la situation comme étranges et absurdes, certains se demandant même quel était le problème en premier lieu. L'incident reflète un problème à l'origine de l'invention des deepfakes : la pornographie non consensuelle de personnes réelles, principalement des femmes.
Deepfakes - des images générées par des algorithmes d'apprentissage automatique pour échanger le visage d'une personne sur le corps d'une autre personne - [sont principalement utilisés] (https://www.vice.com/en/article/7x57v9/most-deepfakes-are-porn-harassment- not-fake-news) pour réaliser de fausses bandes sexuelles non consensuelles qui ciblent et harcèlent les femmes. Depuis leur création en 2018, les deepfakes ont été utilisés comme moyen de [contrôler le corps des femmes](https ://www.vice.com/en/article/nekqmd/deepfake-porn-origins-sexism-reddit-v25n2) en ligne. Les cibles de deepfakes non consensuels et sexuellement explicites rapportent que ces vidéos ont des effets réels et dévastateurs sur leur bien-être mental et leur capacité à exister en ligne, et quand cela arrive à des personnalités en ligne comme des streamers et des cosplayers, se déconnecter et abandonner leurs moyens de subsistance n'est pas souvent une option raisonnable. Les streameuses sont déjà confrontées au sexisme, à l'objectivation et au manque de respect dans le cadre de leur présence en ligne ; les cosplayers signalent de la même manière un harcèlement rampant qui rend difficile l'existence en ligne et traumatisante.
Ewing connaît personnellement plusieurs des femmes qui seraient ciblées par le créateur de deepfakes, comme le streamer QTCinderella. Certaines de ces femmes ont parlé de la façon dont les actions et l'admission d'Ewing les affectent. Dans [une diffusion en direct le 30 janvier] (https://www.twitch.tv/videos/1723309941), QTCinderella a déclaré que bien que des confidentes puissent lui dire de ne pas aller en direct, elle voulait que les gens voient les conséquences de cette situation. sur elle. "Voilà à quoi ça ressemble de se sentir violé, voilà à quoi ça ressemble de se sentir exploité. C'est à ça que ça ressemble de se voir nu contre son gré se répandre partout sur Internet », a-t-elle déclaré.
« Fuck Atrioc pour l'avoir montré à des milliers de personnes. J'emmerde les gens qui m'envoient des photos de moi sur mon site Web. Va te faire foutre. Voilà à quoi ça ressemble, voilà à quoi ressemble la douleur », a-t-elle déclaré. «Cela ne devrait pas faire partie de mon travail d'avoir à payer de l'argent pour faire retirer ce matériel. Cela ne devrait pas faire partie de mon travail d'être harcelé, de voir des photos de moi « nue » se répandre.
Elle s'est ensuite adressée à la personne qui a créé le site Web vendant les deepfakes, jurant de les poursuivre en justice. "Je vous promets. Avec chaque partie de mon âme, je vais vous poursuivre en justice », a-t-elle déclaré. "C'est tout ce que j'ai à dire."
[La plupart des États des États-Unis] (https://www.technologyreview.com/2021/02/12/1018222/deepfake-revenge-porn-coming-ban/). ont des lois contre le matériel sexuel non consensuel, mais seules la Californie, la Virginie et le Texas nomment spécifiquement les deepfakes. Même avec des lois en place qui pénalisent les personnes qui fabriquent et diffusent des deepfakes malveillants, obtenir un recours en tant que victime [peut être extrêmement difficile](https://www.vice.com/en/article/59kzx3/targets-of-fake-porn -les-deepfakes-sont-à-la-merci-des-grandes-plateformes).
Un autre streamer qui est répertorié dans les captures d'écran, Sweet Anita, [tweeted] (https://twitter.com/sweetanita/status/1620143205282103297) que la couverture médiatique des excuses d'Ewing est la façon dont elle a découvert que des vidéos deepfake d'elle sont là-bas. "Je choisis littéralement de laisser passer des millions en ne me livrant pas au travail du sexe et un accro au porno incrusté de cheeto au hasard sollicite mon corps sans mon consentement à la place", a-t-elle écrit. "Je ne sais pas s'il faut pleurer, casser des trucs ou rire à ce stade."
Adept, un autre streamer populaire, s'est exprimé sur la situation lundi : "Malheureusement, nous nous retrouvons pris entre le marteau et l'enclume de laisser ces images et les personnes qui les fabriquent/les consommer occuper nos pensées ou de renoncer à tout sentiment de honte et l'embarras en se souvenant que c'est la perversion de quelqu'un d'autre sans que ce soit de notre faute », a-t-elle écrit.
Ewing, QTCinderella, Sweet Anita et Adept n'ont pas immédiatement répondu aux demandes de commentaires.