Description: Scammers used AI tools from HeyGen and ElevenLabs to create deepfake videos of influencers Michel Janse, Olga Loiek, Shadé Zahrai, and Carrie Williams, misusing Lana Smalls's voice in Williams's case. These videos promoted offensive products and false messages, in some cases targeting nationalist Chinese men to boost China-Russia ties, causing emotional distress and damaging the victims' reputations.
Alleged: HeyGen と ElevenLabs developed an AI system deployed by Unknown scammers, which harmed Olga Loiek , Michel Janse , Lana Smalls , Carrie Williams と Shadé Zahrai.
インシデントのステータス
インシデントID
683
レポート数
2
インシデント発生日
2024-03-28
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン
washingtonpost.com · 2024
- 情報源として元のレポートを表示
- インターネットアーカイブでレポートを表示
Michel Janse was on her honeymoon when she found out she had been cloned.
The 27-year-old content creator was with her husband in a rented cabin in snowy Maine when messages from her followers began trickling in, warning that a YouTube comm…
nytimes.com · 2024
- 情報源として元のレポートを表示
- インターネットアーカイブでレポートを表示
The woman declares, in Mandarin inflected with a slight accent, that Chinese men should marry "us Russian women." In other videos on the Chinese short video platform Douyin, she describes how much she loves Chinese food, and hawks salt and …
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents