更新: (2025年3月10日): この記事に掲載されているアカウントはすべて、記事公開後、TikTokから削除されたようです。
TikTok上では、詐欺師と思われる集団が、欺瞞的な広告戦略とAI生成メディアを用いて、ユーザーにウェルネス商品を販売しているようです。私たちは、この戦略を用いているアカウントを多数発見しました。これらのアカウントは、関連ネットワークの一部であるように思われ、同じコンテンツ形式を使用し、多くの場合同じ商品を宣伝しています。
これらのアカウントを作成した人物、あるいはその正体は、インターネットにおけるウェルネ スへの熱狂につけ込もうとしているようです。ほぼすべてのユーザー名には、ウェルネス関連の流行語がいくつか含まれており、アカウントは健康と美容商品のみを宣伝しています。
これらのアカウントの中には、ディープフェイクのインフルエンサーをセールスマンとして利用し、精巧なバックストーリーを捏造して商品の売り込みを裏付け、ユーザーエンゲージメントを高めているものも見られます。例えば、「Holistic Health Finds」というアカウントは、韓国で最も高給取りの美容外科医の妻、元ヴィクトリアズ・シークレットモデル、そして自身も医師であると主張するインフルエンサーの動画を次々と投稿しました。
しかし、この女性の画像を簡単に逆検索してみると、ほぼ間違いなくディープフェイク技術によって生成されたものであることが分かります。なぜなら、ほぼ同じ服装で同じポーズをした同じ画像が、他のクリエイターやブランドによって使用されていたからです。
Holistic Health Findsの動画の最後に、このインフルエンサーは、自社のバタナオイル製品が育毛効果を高めると主張しています（この主張を裏付ける研究結果はありません）。また、オイルに関する個人的な体験談を述べ、プロフィール欄のリンクから製品を購入するようユーザーに促しています。
Holistic Health Findsは、1人だけでなく、多様なディープフェイクインフルエンサーを生み出しているようです。
同じディープフェイクインフルエンサーの中には、複数のアカウントで活動しているものもおり、医師やゼンデイヤのスタ ントダブルの妹など、様々な身元を偽装している者もいます。
これらの詐欺師が用いるもう一つの手口は、TikTokで人気の「ストーリータイム」トレンドであるスライドショー形式で、製品に関する偽の個人的なストーリーを作成することです。
あるアカウントWellness Welfareは、前述のストーリータイム方式を用いてHey Girlというブランドのサプリメントを販売しています。彼らが作り上げる個人的なストーリーの多くは、不妊に悩む女性を狙っているように見えます。
動画の中には、病院のベッドで抱き合う夫婦の映像で始まるものもあり、その映像の上に、不妊に悩んでいるというテキストが重ねて表示されます。続くスライドでは、彼女たちの苦悩と、最終的に多嚢胞性卵巣症候群と診断された経緯が説明されています。
米国保健福祉省によると、PCOSは不妊症の最も一般的な原因の一つであり、出産可能年齢の女性の約10人に1人が罹患しています。 PCOS（多嚢胞性卵巣症候群）の女性は長年、様々なサプリメントで奇跡的な治療を約束する詐欺の標的となってきました。
動画は、サプリメントの画像と、それがPCOSの管理に役立ったと主張するテキストで締めくくられています。
他のアカウントは、華やかなライフスタイルを送る人々の美容ルーティンに関するストーリータイムを装い、最後のスライドで自社製品を売り込んでいます。
上記の例では、インフルエンサーは自身の製品体験談を提供することで、ユーザーにむくみ解消製品を売り込もうとしています。ジェニファー・ロペスとスタントダブルの画像を除き、人物が映っている画像はすべてAIによって生成されたもののようです。
この詐欺自体は目新しいものではありませんが、より巧妙になっています。
2021年、私たちは、実際のユーザーの減量ビフォーアフター動画に自社の製品を編集し、その製品が描写された減量効果をもたらしているとユーザーに思わせることで、減量サプリメントの販売を試みる一連のアカウントについて報告しました。これらのアカウントの多くは、医師のストックフォトを使用して本物らしく見せかけ、中には減量動画への反応として医師がうなずき微笑む同じ動画を再利用したアカウントもありました。
この詐欺は2023年に進化しました。TikTokショップの出店者ネットワークがディープフェイクドクターを作成し、ユーザーを騙して、販売する健康商品が医療専門家によって宣伝されていると信じ込ませたのです。ディープフェイクドクターは言葉を発せず、商品動画に頷いたり、承認のジェスチャーをしたりしていました。
ディープフェイク技術は急速に高度化しており、それに伴い、それを利用した詐欺も高度化しています。