専門家は、根拠のない医療アドバイスを載せた一連の動画がソーシャルメディアに溢れかえっていることを受けて、「ディープフェイクの医師」に注意するよう警告している。
いわゆる「医師」の中には、ダイエット、整形手術、胸、お尻、お腹など他の分野の専門家を自称し、視聴者の病気や健康上の懸念を治療または改善するためのアドバイスを提供する者もいる。
しかし、いわゆる専門家は本物ではない。彼らは完全に人工知能によってコンピューターで生成されたものだと、*ニューヨークポスト*は報じ ている。
TikTok では、検索するだけで数十本の動画がヒットし、「13年間、おまんこ医者をやってきたけど、こんなこと言っても誰も信じてくれない」といったフレーズを次々と並べ立て、張りのある胸、引き締まったお腹、彫りの深い顎のライン、バランスのとれた pH レベルのためのいわゆる健康の秘訣を披露する女性たちが登場する。
動画には多くの場合、同じ人物がさまざまな医師の役割を演じ、根拠のない医学的アドバイスを吐き出している。
Media Matters 報告 によると、ディープフェイクのキャラクターとされる同じ集団が、健康関連商品の販売員として登場したり、ハリウッドとつながりがあると主張して内部のゴシップを流したりもしている。
この矛盾は、眉をひそめるには十分だ。
同名の美容ブランドの創設者であるジャボン・フォードは最近、AIが生成したキャラクターが、話すAI動画を生成および編集するためのツールと謳うCaptionsというアプリで操作できることを明らかにした。同社によると、このアプリの1日あたりのユーザーは10万人で、毎月300万本以上の動画が制作されているという。
しかしフォードは、このサービスを「非常に陰険」と呼んだ。
「『For You』ページに、こうした『クリエイター』が何人かいるのに気づいたかもしれません。彼らは誰も本物ではありません」と彼はニューヨークポスト紙に語った。
TikTokの動画で、彼はユーザーが選択できるAIアバターの網羅的なリストをスクロールして、スクリプトを書いてアバターがそれを吐き出す様子を実演し、「偽の」専門家を作るのがいかに簡単かを実演した。「Coochie Doctor」のクリップの多くに登場する「Violet」という女性などだ。
驚いたユーザーはこの技術を「非常に危険」と呼び、リアルなディープフェイクの「恐ろしい」現実を理由にソーシャルメディアを完全にやめることを検討する人もいた。
「ヴァイオレットは何度も見た」とショックを受けた視聴者の1人がコメントし、別の視聴者は「彼女が歯科医と看護師だと言っているのを見たことがある」と同意した。
「だから、それは本当に怖い！ 指摘されたので見破ったが、警告がなければ騙されていたかもしれない！」と認めた人もいた。
視聴者を啓蒙しようと、ディープフェイクがオンラインで急増する中、クリエイターたちは画面に映っている人物が本物かAI生成かを見分ける方法を強調している。
フォードは、唇が音声と同期していないことを指摘し、「口の動き」を指摘し、これが「最初の危険信号」だと述べた。
「今は2025年だ」と、彼はTikTokで述べた。「誰も音声と動画の遅延の問題を抱えているべきではない」
彼は、製品や自然療法が一般的に使用されているものよりも効果的であるという彼らの主張も警戒すべきだと付け加えた。
フォード氏はまた、アカウント所有者のプロフィールを見て、わずか13年の間に婦人科医、肛門科医などを務めたいわゆる「医師」が登場する動画がいくつあるか確認するようアドバイスした。
「まあ、彼らは実りあるキャリアを積んできたんだね」とフォード氏は冗談を飛ばした。
有料メディアの専門家であるカレブ・クルーズという名のユーザーは、別のクリエイターのコンテンツを例に挙げ、自身の動画にAIアバターの明らかな兆候があることを指摘した。この女性は後に、自分は実在の人物だが、問題の動画は彼女の肖像を複製するよう依頼した企業がAIを使って作成したものであることを認めた。
非現実的な口の動きに加えて、クルーズ氏は瞬きすらしていない女性の目、ぎこちない頭の動き、そして動画全体の雰囲気、あるいは「現実ではない」という感覚を強調した。
「目は大きすぎるべきではないのに大きすぎる。普通の人が何かを言うときにどう反応するかを常に正確に反映しているわけではない」とクルーズ氏は説明した。
「3 番目は、リズム、話し方、文と文の間の言葉の流れ方だ」とクルーズ氏は続けた。「普通なら言わないような奇妙な間が時々ある」。
この呼びかけは彼のフォロワーにとって警鐘となった。
「これは違法であるべきだ」と落胆した視聴者の 1 人がコメントした。
「本当にリアルすぎて怖い」と別の人が口を挟んだ。
この記事はもともとニューヨークポストに掲載されたもので、許可を得て転載されたものです