Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Incident 480: Non-Consensual Deepfake Porn Targeted Female Content Creators

Description: Unauthorized, non-consensual deepfake pornography showing faces of high-profile female streamers and content creators was published on a subscription-based website, which gained notoriety after a male streamer was caught accessing the site.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique

Entités

Voir toutes les entités
Présumé : Un système d'IA développé et mis en œuvre par unknown, a endommagé Maya Higa , female streamers , female content creators , @Sweet Anita , @QTCinderella et @Pokimane.

Statistiques d'incidents

ID
480
Nombre de rapports
15
Date de l'incident
2023-01-30
Editeurs
Khoa Lam, Daniel Atherton
Applied Taxonomies
MIT

Classifications de taxonomie MIT

Machine-Classified
Détails de la taxonomie

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

1.2. Exposure to toxic content

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Discrimination and Toxicity

Entity

Which, if any, entity is presented as the main cause of the risk
 

Human

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Intentional

Rapports d'incidents

Chronologie du rapport

+2
Des streameuses Twitch populaires ciblées dans le scandale de la pornographie Deepfake
Deepfake Porn Creator supprime sa présence sur Internet après des excuses larmoyantes "Atrioc"+1
Un scandale porno Deepfake a secoué Twitch
+2
Le porno AI est facile à faire maintenant. Pour les femmes, c'est un cauchemar.
+3
QTCinderella découvre qu'elle ne peut pas poursuivre le créateur du site Deepfake
J'étais dans le deepfake porn, les fans pensent que c'est réel - ça peut arriver à n'importe quiThe Debate on Deepfake Porn Misses the PointTwitch aborde enfin le scandale Deepfake du porno plus d'un mois plus tard
Des streameuses Twitch populaires ciblées dans le scandale de la pornographie Deepfake

Des streameuses Twitch populaires ciblées dans le scandale de la pornographie Deepfake

kotaku.com

QTCinderella s'engage à poursuivre le site Web deepfake Atrioc a été surpris en train de regarder

QTCinderella s'engage à poursuivre le site Web deepfake Atrioc a été surpris en train de regarder

dotesports.com

Deepfake Porn Creator supprime sa présence sur Internet après des excuses larmoyantes "Atrioc"

Deepfake Porn Creator supprime sa présence sur Internet après des excuses larmoyantes "Atrioc"

vice.com

Un scandale porno Deepfake a secoué Twitch

Un scandale porno Deepfake a secoué Twitch

buzzfeednews.com

Le cauchemar porno deepfake de la star de Twitch QTCinderella : "F–k the internet"

Le cauchemar porno deepfake de la star de Twitch QTCinderella : "F–k the internet"

nypost.com

Le porno AI est facile à faire maintenant. Pour les femmes, c'est un cauchemar.

Le porno AI est facile à faire maintenant. Pour les femmes, c'est un cauchemar.

washingtonpost.com

Elle a découvert une vidéo nue d'elle-même en ligne, mais ce n'était pas elle : le traumatisme du deepfake porn

Elle a découvert une vidéo nue d'elle-même en ligne, mais ce n'était pas elle : le traumatisme du deepfake porn

usatoday.com

Ils sont apparus dans des vidéos porno deepfake sans leur consentement. Peu de lois les protègent.

Ils sont apparus dans des vidéos porno deepfake sans leur consentement. Peu de lois les protègent.

nbcnews.com

QTCinderella découvre qu'elle ne peut pas poursuivre le créateur du site Deepfake

QTCinderella découvre qu'elle ne peut pas poursuivre le créateur du site Deepfake

thegamer.com

QTCinderella regarde dans le vide juridique sur des deepfakes explicites

QTCinderella regarde dans le vide juridique sur des deepfakes explicites

videogames.si.com

Le porno deepfake non consensuel met l'IA à l'honneur

Le porno deepfake non consensuel met l'IA à l'honneur

cnn.com

Comment la pornographie « deepfake » victimise les femmes en ligne

Comment la pornographie « deepfake » victimise les femmes en ligne

cnn.com

J'étais dans le deepfake porn, les fans pensent que c'est réel - ça peut arriver à n'importe qui

J'étais dans le deepfake porn, les fans pensent que c'est réel - ça peut arriver à n'importe qui

nypost.com

The Debate on Deepfake Porn Misses the Point

The Debate on Deepfake Porn Misses the Point

wired.com

Twitch aborde enfin le scandale Deepfake du porno plus d'un mois plus tard

Twitch aborde enfin le scandale Deepfake du porno plus d'un mois plus tard

kotaku.com

Des streameuses Twitch populaires ciblées dans le scandale de la pornographie Deepfake
kotaku.com · 2023
Traduit par IA

Hier, le streamer Twitch Brandon "Atrioc" Ewing a présenté des excuses en larmes lors de son livestream après avoir accidentellement révélé qu'il avait ouvert sur son ordinateur de la pornographie deepfake de streamers féminins Twitch popul…

QTCinderella s'engage à poursuivre le site Web deepfake Atrioc a été surpris en train de regarder
dotesports.com · 2023
Traduit par IA

En tant que l'un des nombreux streamers qui ont été objectivés et exploités par le fléau des photos obscènes deepfake qui gagne du terrain après [Atrioc l'a exposé par inadvertance à des milliers de téléspectateurs] (https://dotesports.com/…

Deepfake Porn Creator supprime sa présence sur Internet après des excuses larmoyantes "Atrioc"
vice.com · 2023
Traduit par IA

Lundi, le streamer Twitch Brandon Ewing, qui passe par Atrioc en ligne, a admis avoir acheté et regardé des deepfakes à partir d'un compte qui fait des vidéos non consensuelles et sexuellement explicites générées par l'IA de ses collègues d…

Un scandale porno Deepfake a secoué Twitch
buzzfeednews.com · 2023
Traduit par IA

L'article rapportait que les streamers populaires Pokimane, Maya Higa et QTCinderella faisaient partie de ceux qui apparaissaient comme des deepfakes. Anita – qui s'est fait remarquer sur Twitch pour avoir embrassé son syndrome de Tourette …

Le cauchemar porno deepfake de la star de Twitch QTCinderella : "F–k the internet"
nypost.com · 2023
Traduit par IA

Une joueuse populaire sur Twitch a révélé en larmes qu'elle était la dernière victime de haut niveau de [deepfake porn,](https://nypost.com/2019/01/02/blackmailers-for-hire-are-weaponizing-deepfake-revenge -porn/) avec des prédateurs collan…

Le porno AI est facile à faire maintenant. Pour les femmes, c'est un cauchemar.
washingtonpost.com · 2023
Traduit par IA

QTCinderella s'est forgé un nom en jouant, en cuisinant et en discutant de sa vie sur la plate-forme de streaming vidéo Twitch, attirant des centaines de milliers de téléspectateurs à la fois. Elle a lancé "The Streamer Awards" pour honorer…

Elle a découvert une vidéo nue d'elle-même en ligne, mais ce n'était pas elle : le traumatisme du deepfake porn
usatoday.com · 2023
Traduit par IA

Sa boîte de réception était inondée de captures d'écran explicites, apparemment issues d'une vidéo pornographique. Elle reconnaissait son visage, mais pas son corps. Pendant une seconde, elle s'est demandé si les images pouvaient être réell…

Ils sont apparus dans des vidéos porno deepfake sans leur consentement. Peu de lois les protègent.
nbcnews.com · 2023
Traduit par IA

La pornographie générée par l'intelligence artificielle mettant en vedette les visages de femmes non consentantes est de plus en plus répandue en ligne, et le problème se répand dans le monde des influenceurs et des streamers populaires.

En…

QTCinderella découvre qu'elle ne peut pas poursuivre le créateur du site Deepfake
thegamer.com · 2023
Traduit par IA

La streameuse Twitch et YouTuber QTCinderella était en larmes après avoir dénoncé "l'exploitation et l'objectivation" constantes des femmes sur un stream [il y a quelques semaines](https://www.thegamer.com/qtcinderella-atrioc-deepfake-site-…

QTCinderella regarde dans le vide juridique sur des deepfakes explicites
videogames.si.com · 2023
Traduit par IA

La streameuse Twitch QTCinderella a exprimé sa frustration face aux insuffisances du système juridique américain après qu'elle n'a pas pu trouver d'avocat pour intenter une action en justice contre le propriétaire d'un site Web qui a publié…

Le porno deepfake non consensuel met l'IA à l'honneur
cnn.com · 2023
Traduit par IA

Dans son «évaluation mondiale de la menace» annuelle, les hauts responsables du renseignement américain ont mis en garde ces dernières années contre la menace posée par les soi-disant deepfakes – de fausses vidéos convaincantes réalisées à …

Comment la pornographie « deepfake » victimise les femmes en ligne
cnn.com · 2023
Traduit par IA

Donie O'Sullivan de CNN s'entretient avec un streamer Twitch qui a été horrifié d'apprendre que sa ressemblance était utilisée dans la pornographie "deepfake" – une tactique utilisée comme méthode de harcèlement ciblé en ligne.

J'étais dans le deepfake porn, les fans pensent que c'est réel - ça peut arriver à n'importe qui
nypost.com · 2023
Traduit par IA

Maintenant, c'est vraiment faux up.

Sweet Anita, une star britannique des médias sociaux de 32 ans comptant plus de 1,9 million d'abonnés à Twitch, est profondément paniquée après avoir découvert que son visage avait été [superposé numériqu…

The Debate on Deepfake Porn Misses the Point
wired.com · 2023

When Blaire, a streamer known online as QTCinderella, first heard that her face had been deepfaked onto a porn performer’s body, she was puzzled. A popular creator with more than 800,000 followers on Twitch, she often streamed herself playi…

Twitch aborde enfin le scandale Deepfake du porno plus d'un mois plus tard
kotaku.com · 2023
Traduit par IA

Un mois après le streamer Twitch Brandon "Atrioc" Ewing a accidentellement révélé qu'il regardait des deepfakes sexuellement explicites de ses collègues streamers pendant qu'il était en ligne, Twitch a publié une longue déclaration concerna…

Variantes

Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

Wikipedia Vandalism Prevention Bot Loop

Danger, danger! 10 alarming examples of AI gone wild

Feb 2017 · 6 rapports
Fake LinkedIn Profiles Created Using GAN Photos

That smiling LinkedIn profile face might be a computer-generated fake

Feb 2022 · 4 rapports
Deepfake Obama Introduction of Deepfakes

Fake Obama created using AI tool to make phoney speeches

Jul 2017 · 29 rapports
Incident précédentProchain incident

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

Wikipedia Vandalism Prevention Bot Loop

Danger, danger! 10 alarming examples of AI gone wild

Feb 2017 · 6 rapports
Fake LinkedIn Profiles Created Using GAN Photos

That smiling LinkedIn profile face might be a computer-generated fake

Feb 2022 · 4 rapports
Deepfake Obama Introduction of Deepfakes

Fake Obama created using AI tool to make phoney speeches

Jul 2017 · 29 rapports

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • ecd56df