概要: TikTokアカウントのネットワークが、AI生成およびディープフェイクのインフルエンサーペルソナを用いて、虚偽の広告を通じて健康・美容製品を宣伝していたと報じられています。これらのアカウントは、不妊治療や育毛治療に関する虚偽の主張など、根拠のない医学的主張を行いながら、偽のアイデンティティや個人の体験談を捏造していたと報じられています。一部のペルソナは、一貫性のない背景を持つ複数のアカウントで再利用されていたと報じられています。アカウントが削除される前に、コンテンツは脆弱なユーザーを標的とし、未検証の製品へのリンクを貼っていたとされています。
Editor Notes: Timeline note: This incident reflects an ongoing scam network active prior to March 2025. The incident date is set to 03/04/2025 based on the first published report documenting the activity. See also incident 1397.
Alleged: Unknown voice cloning technology developers , Unknown generative AI developers と Unknown deepfake technology developers developed an AI system deployed by Unknown TikTok account operators と Unknown scammers, which harmed TikTok users , People seeking medical advice , General public , Epistemic integrity と Consumers of wellness and beauty products.
関与が疑われるAIシステム: Unknown voice cloning technology , Unknown generative AI systems , Unknown deepfake technology と TikTok
インシデントのステータス
インシデントID
1359
レポート数
1
インシデント発生日
2025-03-04
エディタ
Daniel Atherton