Description: Scammers used AI tools from HeyGen and ElevenLabs to create deepfake videos of influencers Michel Janse, Olga Loiek, Shadé Zahrai, and Carrie Williams, misusing Lana Smalls's voice in Williams's case. These videos promoted offensive products and false messages, in some cases targeting nationalist Chinese men to boost China-Russia ties, causing emotional distress and damaging the victims' reputations.
推定: HeyGen と ElevenLabsが開発し、Unknown scammersが提供したAIシステムで、Olga Loiek , Michel Janse , Lana Smalls , Carrie Williams と Shadé Zahraiに影響を与えた
インシデントのステータス
インシデントID
683
レポート数
2
インシデント発生日
2024-03-28
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン
washingtonpost.com · 2024
- 情報源として元のレポートを表示
- インターネットアーカイブでレポートを表示
translated-ja-Michel Janse was on her honeymoon when she found out she had been cloned.
The 27-year-old content creator was with her husband in a rented cabin in snowy Maine when messages from her followers began trickling in, warning that …
nytimes.com · 2024
- 情報源として元のレポートを表示
- インターネットアーカイブでレポートを表示
translated-ja-The woman declares, in Mandarin inflected with a slight accent, that Chinese men should marry "us Russian women." In other videos on the Chinese short video platform Douyin, she describes how much she loves Chinese food, and h…
バリアント
「バリアント」は既 存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents