Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Entités

HeyGen

Incidents involved as Developer

Incident 6832 Rapports
Scammers Using Deepfakes of Women's Faces and Voices for False and Offensive Advertisements

2024-03-28

Scammers used AI tools from HeyGen and ElevenLabs to create deepfake videos of influencers Michel Janse, Olga Loiek, Shadé Zahrai, and Carrie Williams, misusing Lana Smalls's voice in Williams's case. These videos promoted offensive products and false messages, in some cases targeting nationalist Chinese men to boost China-Russia ties, causing emotional distress and damaging the victims' reputations.

Plus

Entités liées
Autres entités liées au même incident. Par exemple, si le développeur d'un incident est cette entité mais que le responsable de la mise en œuvre est une autre entité, ils sont marqués comme entités liées.
 

Entity

Unknown scammers

Incidents involved as Deployer
  • Incident 683
    2 Report

    Scammers Using Deepfakes of Women's Faces and Voices for False and Offensive Advertisements

Plus
Entity

ElevenLabs

Incidents involved as Developer
  • Incident 683
    2 Report

    Scammers Using Deepfakes of Women's Faces and Voices for False and Offensive Advertisements

Plus
Entity

Olga Loiek

Affecté par des incidents
  • Incident 683
    2 Report

    Scammers Using Deepfakes of Women's Faces and Voices for False and Offensive Advertisements

Plus
Entity

Michel Janse

Affecté par des incidents
  • Incident 683
    2 Report

    Scammers Using Deepfakes of Women's Faces and Voices for False and Offensive Advertisements

Plus
Entity

Lana Smalls

Affecté par des incidents
  • Incident 683
    2 Report

    Scammers Using Deepfakes of Women's Faces and Voices for False and Offensive Advertisements

Plus
Entity

Carrie Williams

Affecté par des incidents
  • Incident 683
    2 Report

    Scammers Using Deepfakes of Women's Faces and Voices for False and Offensive Advertisements

Plus
Entity

Shadé Zahrai

Affecté par des incidents
  • Incident 683
    2 Report

    Scammers Using Deepfakes of Women's Faces and Voices for False and Offensive Advertisements

Plus

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 1420c8e