概要: TikTokアカウントのネットワークが、AI生成およびディープフェイクのインフルエンサーペルソナを用いて、虚偽の広告を通じて健康・美容製品を宣伝していたと報じられています。これらのアカウントは、不妊治療や育毛治療に関する虚偽の主張など、根拠のない医学的主張を行いながら、偽のアイデンティティや個人の体験談を捏造していたと報じられています。一部のペルソナは、一貫性のない背景を持つ複数のアカウントで再利用されていたと報じられています。アカウントが削除される前に、コンテンツは脆弱なユーザーを標的とし、未検証の製品へのリンクを貼っていたとされています。
Editor Notes: Timeline note: This incident reflects an ongoing scam network active prior to March 2025. The incident date is set to 03/04/2025 based on the first published report documenting the activity.
Alleged: Unknown deepfake technology developers , Unknown voice cloning technology developers と Unknown generative AI developers developed an AI system deployed by Unknown scammers と Unknown TikTok account operators, which harmed TikTok users , People seeking medical advice , General public , Epistemic integrity と Consumers of wellness and beauty products.
関与が疑われるAIシステム: Unknown deepfake technology , Unknown voice cloning technology , TikTok と Unknown generative AI systems
インシデントのステータス
インシデントID
1359
レポート数
1
インシデント発生日
2025-03-04
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン
Loading...

更新: (2025年3月10日): この記事に掲載されているアカウントはすべて、記事公開後、TikTokから削除されたようです。
TikTok上では、詐欺師と思われる集団が、欺瞞的な広告戦略とAI生成メディアを用いて、ユーザーにウェルネス商品を販売しているようです。私たちは、この戦略を用いているアカウントを多数発見しました。これらのアカウントは、関連ネットワークの一部であるように思われ、同じコンテンツ形式を使用し、多くの場合同じ商品を宣伝しています。
これらのアカウントを作成…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントで す。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか?
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents



