Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる

レポート 4984

関連インシデント

インシデント 9765 Report
AI-Generated OB-GYN Health Influencers on TikTok Used Fake Medical Credentials to Promote Dubious Advice

Loading...
AIが生成した「医師」が偽の資格情報と間違ったアドバイスでTikTokを詐欺している
dailydot.com · 2025

TikTokのAIクリエイターは、Captionsというアプリでスパムの新たなレベルに達しており、偽の「クーチードクター」をトラック1台分も生み出している。2024年後半から、これらの人工「クリエイター」は「クーチードクターとして13年」または「戦利品ドクター」であると主張し、オゼンピックの代わりにレモンバームを使用するなど、非常に疑わしい健康アドバイスを提供している。画面上の人物がAIアバターであるという兆候は、テクノロジーの進歩に伴い見分けるのが難しくなっているが、スクリプトの多様性の欠如から、気付くかもしれない。

これらのTikTok AIクリエイターが全員「クーチー」という言葉を使い続ける理由は説明できない。下品な言葉を使うことで、より本物らしく見えると考えているのかもしれない。私たちにできることは、アプリで「クーチー ドクター」を検索すると、一見本物の人間のように見える人物が若くて魅力的な医師の写真の前にいる動画が何十本も表示されること、そしてそのすべてが同じフックを持っていることを指摘することだけだ。

「クーチー ドクターとして 13 年間働いていますが、これを言っても誰も信じてくれません」と AI 作成者は言い、膣とはまったく関係のない疑わしい健康上の主張のリストを次々と並べ立てる。

こうした主張の多くは、パイナップル キュウリ サラダのレシピや、Amazon の店頭で「健康的」なグミを売り込むなど、過去にも TikTok を悩ませてきた。彼らは多くの場合、特定のコメントを残すように指示し、すべての病気を治す軟膏の作り方のレシピや手順を送ると約束する。

これらのアカウントに移動すると、まったく同じテーマの動画がさらに何十本も見つかる。これらの超一流医師たちは、13年間もの間、女性器だけでなく、お尻、おっぱい、腸、その他体のあらゆる部分を研究してきました。栄養士や形成外科医、さらには「健康医師」である可能性もあります。

TikTok では、AI クリエイターとは、AI プログラムが人間のようなコンテンツ クリエイターになれるという主張の略称です。ただし、実際の「クリエイター」は、アプリをダウンロードし、AI アバターを選択し、それに従うスクリプトを与え、ボタンを押してアプリに TikTok 動画を作成させる実在の人物です。

これらの動画の多くは、Captions アプリから来ています。この会社は当初、TikTok ユーザーが投稿のキャプションを簡単に作成できるように AI を利用していましたが、最近では 人工人間のアバター を作成して、TikTok 動画の人間の顔を置き換えることにまで事業を拡大しました。

@javonford16 @ladolcedana に返信 #hillmantok #education #skincare #haircare ♬ オリジナルサウンド – Javon Ford Beauty

2025年2月23日、ユーザー@javonford16 は、有料ユーザーが数十種類のアバターのリストから選択し、スクリプト ジェネレーターに数文を入力またはコピーして貼り付け、クリックするだけであらゆる商品を宣伝する完全な TikTok ビデオを作成する方法を実演しました。

これらの AI ビデオはよりリアルになっていますが、何を探すべきかを知っていれば、鋭い目を持つ人ならボットの明らかな兆候を見つけることができます。 @javonford16 と @mr.paidsocial などの他のユーザーは、TikTok AI クリエイターを暴露する最も一般的な景品について概説した投稿を公開しています。

@mr.paidsocial @SilisaB に返信 #greenscreenvideo #greenscreen Ai の見分け方を学ぶ 目👀 頭の動き🥴 言い回しや間🤐 そして、写真全体がこの非現実的な感じを醸し出しています。 #ai #aivideo #aicontentcreator #aiinfluencer ♬ オリジナルサウンド – Caleb | 広告 | Ai | オートメーション

次の点に注意してください:

  • 口の動きがおかしい、または音声が遅れているように見える。
  • 目が開きすぎている、または不適切な表情をしている。
  • 話し方がぎこちない、またはぎこちない。
  • 頭を頻繁に前後に振る。
  • 顎が異常に動く。
  • 信じられないほど素晴らしいと思われる突飛な医療主張。
  • さまざまな分野や職業で 10 年以上の経験があると主張する複数の動画。
  • 専門分野外のものを販売する。

おそらく最も重要なことは、2025 年には常に 詐欺 や AI の悪ふざけに警戒しなければならないということです。ユーザー @unty_tan が指摘しているように、今 AI について賢くならなければ、恥ずかしい思いをしたり、もっとひどい目に遭ったりすることになります。

「現実と AI に関しては、ある程度の識別力を持ってください」と彼女は言います。「現実的になってください。」

「みんな、もっとしっかりしてほしい。だって、もし彼らがそうできるなら、もし彼らがそうしたいなら、そうできるから」と彼女は付け加えた。「その時が来れば、あなたたちのうち何人かは、さらわれることになるわ」

情報源を読む

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd