1日1個のリンゴでAIを遠ざけられるか？
クリエイターたちは、根拠のない医療アドバイスでソーシャルメディアユーザーを騙している疑惑のディープフェイク医師を非難している。
TikTokでは、1回の検索で数十本の動画が見つかり、女性たちが「13年間、おまんこ医師として働いてきたけど、こんなこと言っても誰も信じてくれない」といったフレーズを次々と並べ立て、張りのある胸、引き締まったお腹、彫りの深い顎のライン、バランスの取れたpH値のためのいわゆる健康の秘訣を披露している。
しかし、いわゆる専門家は実在しない。彼らは完全に人工知能によってコンピューターで生成されたものだ。
鋭い目を持つTikTokユーザーは、医療分野の専門家であると主張し、非伝統的なアドバイスを提供するAI生成の「医師」とされる人々を非難している。TikTok / @locks_health
いわゆる「医師」の中には、ダイエット、整形手術、胸、お尻、お腹など、他の分野の専門家であると主張し、視聴者の病気や健康上の懸念を治療または改善するためのアドバイスを提供する人もいる。
あるアカウントは、13年間「おまんこ」と「お尻」の医師として過ごしたと主張する同じ女性が登場する数十のクリップを投稿している。 別のアカウントでも、まったく同じ女性が「クーチードクター」を装って根拠のない医学的アドバイスを吐き出している。
Media Mattersは、同じディープフェイクキャラクターの集団が、健康製品のセールスマンとして登場したり、ハリウッドとつながりがあると主張して内部のゴシップを流したりしていると報じた。
この矛盾は、眉をひそめるに十分である。
これらの情 報クリップを検索すると、数十件の結果が見つかり、ユーザーのページに移動すると、同じ作成者が「お尻」「戦利品」「おまんこ」の医師、栄養士、形成外科医を名乗る複数の動画が表示されます。TikTok / @locks_health
あるユーザーは、AI パーソナリティは、オンライン動画用の生成 AI ツールを提供するアプリ Captions から来ていると主張しました。TikTok / @locks_health
同名の美容ブランドのクリエイターであるジャボン・フォードは最近、AI が生成したパーソナリティは、話す AI 動画を生成および編集するための ツール として宣伝されている Captions というアプリで操作できることを明らかにしました。同社は、このアプリの毎日のユーザーが 10 万人おり、毎月 300 万本以上の動画が制作されていると主張しています。
しかし、フォードはこのサービスを「非常に陰険」と呼びました。
「『For You』ページに、こうした『クリエイター』が何人かいるのに気づいたかもしれません。彼らは誰も本物ではありません」と彼は警告した。
TikTok の動画 で、彼はユーザーが選択できる AI アバターの完全なリストをスクロールし、多くの「coochie doctor」クリップに登場する「Violet」という女性など、スクリプトがどのように書かれ、アバターがそれを吐き出すかを実演した。
驚いたユーザーはこの技術を「非常に危険」と呼び、リアルなディープフェイクの「恐ろしい」現実を理由にソーシャルメディアを完全にやめることを 検討した人もいた。
「ヴァイオレットは何度も見た」とショックを受けた視聴者の1人がコメントし、別の視聴者は「彼女が歯科医と看護師だと言っているのを見たことがある」と同意した。
「だから、それは本当に怖い！あなたが指摘したので、見抜くことができますが、警告がなければ、騙されていたかもしれません！」と認めた人もいた。
視聴者を啓蒙しようと、クリエイターたちは、画面に映っている人物が本物かAI生成かを見分ける方法を強調している。ディープフェイクがオンラインで急増。
疑わしいコンテンツクリエイターたちは、さまざまな分野の医師を装い、さまざまなアカウントで医療アドバイスを吐き出している。TikTok / @brokegirlguides
フォード氏は、その「口の動き」を「不気味」と呼び、唇が音声と同期していないことに気づいた。同氏はこれが「最初の危険信号」だと語った。
「今は2025年だ」と彼はTikTokで述べた。「誰も音声や動画の遅延の問題を抱えているはずがない」
彼は、製品や自然療法が一般的に使用されているものよりも効果があるという彼らの主張も警戒すべきだと付け加えた。
フォード氏はまた、アカウント所有者のプロフィールを見て、わずか13年の間に婦人科、肛門科、その他の専門医を務めたいわゆる「医師」が登場する動画がいくつあるか確認するようアドバイスした。
「まあ、彼らは生産的なキャリアを積んできたんだね」と彼は冗談を言った。
ペイドメ ディアの専門家であるカレブ・クルーズという名のユーザーは、別のクリエイターのコンテンツを例に挙げて、TikTok の以前の動画 に AI アバターの明らかな兆候があることを指摘しました。女性は 後に確認、彼女は実在の人物ではあるものの、問題の動画は彼女の肖像を複製するよう依頼した企業が AI を使って作成したものであるとしています。
クルーズ氏は、非現実的な口の動きに加えて、女性の目、ぎこちない頭の動き、動画全体の雰囲気、または「本物ではない」という感覚を強調しました。
「目は大きすぎるべきではないのに大きすぎる。普通の人が何かを言うときにどう反応するかを常に正確に反映しているわけではない」と彼は説明した。
「3つ目は、リズム、話し方、文と文の間の言葉の流れ方だ」と彼は続けた。「普段は言わないような奇妙な間が時々ある」
この呼びかけは彼のフォロワーにとって警鐘となった。
「これは違法であるべきだ」と落胆した視聴者の1人がコメントした。
「とてもリアルで恐ろしい」と別の視聴者も同調した。