信頼できる医師や著名人が消費者に「ニセ薬」のようなサプリメントを売りつけるディープフェイク動画がオンライン上に流出したことを受け、国民に緊急の警告が発せられています。
ノーマン・スワン医師、ジョナサン・ショー教授、オーストラリア医師会（AMA）前会長のケリン・フェルプス教授など、信頼できる臨床医がオンラインで栄養補助食品を販売するフェイク動画がオンライン上に現れたことで、警鐘が鳴らされました。
ある動画では、偽のショー教授が2型糖尿病の治療薬として栄養補助食品を宣伝しています。
別の動画では、ディープフェイクのスワン医師が、心臓病、糖尿病、肥満の治療を目的とした減量商品を売り込みながら、科学的根拠は「ばかげている」と主張しています。
AMA会長のダニエル・マクマレン博士によると、これらの動画はディープフェイク技術を用いて制作され、信頼できる医師の顔や声を模倣し、効果が実証されていない商品をオーストラリア国民に売り込もうとしているとのことです。
「今や、オンラインに登場するあらゆる動画は、本物なのか、それともディープフェイクなのか、疑わしい時代です」とマクマレン氏は述べた。
「ディープフェイク動画はますます説得力を持つようになり、この技術は、深刻な健康問題を抱える脆弱な人々にインチキ薬を売りつける怪しい企業によって悪用されています。」
医師会は、この傾向の一部はMetaのせいだとし、FacebookやInstagramといった主要ソーシャルメディアプラットフォームにおけるコンテンツモデレーションの弱体化が、こうしたコンテンツを悪化させていると述べた。
Metaは2025年1月にコンテンツモデレーションのポリシーを変更した。
「具体的な苦情件数は公表されていないものの、このポリシー変更以降、Metaのプラットフォームにおける誤情報や有害コンテンツが増加していると広く報告されています」と、AMA（米国医師会）が通信大臣に宛てた書簡には記されている。
「Metaにディープフェイク画像を削除させようと試みましたが、無駄でした。」
AMAは、連邦政府に対し、この「深刻な懸念」を抱かせる傾向への対策を講じるよう働きかけている。
この詐欺まがいのトレンドでは、歌手のアデルやオーストラリア人俳優のレベル・ウィルソンのディープフェイク動画も利用され、同様の商品が販売されています。