TikTokなどのソーシャルメディアプラットフォームでは、医師の発言がAIによって操作され、サプリメントの販売促進や健康に関する誤情報の拡散に利用されている。
ファクトチェック機関Full Factは、このような動画を数百本発見した。これらの動画では、医師やインフルエンサーのなりすましが、視聴者を米国のサプリメント会社Wellness Nestに誘導している。
これらのディープフェイク動画はすべて、インターネットから取得した健康専門家の実際の映像を使用している。しかし、画像と音声は加工されており、講師は更年期を迎えた女性に対し、プロバイオティクスやヒマラヤ産のシラジットなどの製品を同社のウェブサイトから購入するよう勧めている。
これらの発覚を受け、ソーシャルメディア大手はAI生成コンテンツの配信にこれまで以上に注意を払い、著名人の見解を歪曲するコンテンツをより迅速に削除するよう求められている。
「これは確かに陰険で憂慮すべき新たな戦術だ」と、Full Factが金曜日に発表した調査を実施したファクトチェッカーのレオ・ベネディクトゥス氏は述べた。
ベネディクトゥス氏は、ディープフェイク健康動画の制作者はAIを活用し、「尊敬されている人物や多くの視聴者を持つ人物が、様々な病気の治療薬としてこれらのサプリメントを推奨しているように見せかけている」と付け加えた。
リバプール大学で健康格差の専門家であるデビッド・テイラー＝ロビンソン教授も、画像が操作された被害者の一人だ。8月、同教授は、効果が証明されていない製品を推奨しているように見せかけた14本の加工動画がTikTokに投稿されているのを見て衝撃を受けた。
テイラー＝ロビンソン教授は小児保健の専門家だが、ある動画では、クローン版の同教授が「体温計脚」と呼ばれる更年期障害の副作用について語っていた。
偽のテイラー＝ロビンソンは、更年期の女性に対し、「Wellness Nest」というウェブサイトを訪れ、「更年期症状の緩和に特化して選ばれた、科学的に裏付けられた10種類の植物エキス（ターメリック、ブラックコホシュ、ジインドリルメタン、モリンガなど）を配合した天然プロバイオティクス」を購入するよう勧めた。
この偽のディープフェイク医師は、「女性の同僚たちは、数週間以内に睡眠の質が向上し、ほてりが減り、朝の目覚めが良くなったと報告している」と付け加えた。
本物のテイラー＝ロビンソンは、同僚から警告を受けて初めて自分の肖像が利用されていることに気づいた。「最初は本当に混乱しました。すべてが現実離れしていました」と彼は語った。 「子供たちはすごく面白がっていましたよ。
「ひどく侵害されたとは感じませんでしたが、私の作品やそれに関連する健康に関する誤った情報を利用して商品が売られているという考えに、だんだんと苛立ちを覚えるようになりました。」
ディープフェイク動画の作成に使用されたテイラー＝ロビンソン氏の映像は、2017年にイングランド公衆衛生会議（PHE）で行われたワクチン接種に関する講演と、今年5月に証言を行った子どもの貧困に関する国会公聴会で撮影されたものです。
誤解を招く動画の一つでは、更年期について議論しながら、罵倒や女性蔑視的な発言をしている様子が映っていました。
TikTokは、テイラー＝ロビンソン氏が苦情を申し立ててから6週間後に動画を削除しました。「当初、一部の動画はガイドラインに違反しているが、問題ない動画もあると言われました。それは不合理で奇妙でした。なぜなら、私は全ての動 画に出演しており、全てディープフェイクだったからです。」 「削除してもらうのに本当に苦労しました」と彼は語った。
Full Factは、TikTokにはPHEの元最高経営責任者（CEO）であるダンカン・セルビー氏の改ざんされた発言を扱ったディープフェイク動画が8本も掲載されていたことを明らかにした。テイラー＝ロビンソン氏と同様に、セルビー氏も更年期について話しているように見せかけられており、テイラー＝ロビンソン氏が講演した2017年のイベントの動画が使われていた。
同じく「体温計の脚」に関する動画は「見事な模倣だった」とセルビー氏は述べた。「最初から最後まで完全なフェイクだ。人々がこういうものに注目するという意味では、面白くなかった」
Full Factは、X、Facebook、YouTubeでも同様のディープフェイク動画を発見しました。これらはすべてWellness Nest、またはWellness Nest UKという英国のメディアにリンクされています。Wellness Nestは、ティム・スペクター教授や、同じくダイエット専門家の故マイケル・モズレー博士といった著名な医師のディープフェイク動画を投稿しています。
Wellness NestはFull Factに対し、同社のウェブサイトへの訪問を促すディープフェイク動画は自社と「100％無関係」であると述べました。同社は「AI生成コンテンツを使用したことはない」としながらも、「世界中の関連企業を管理または監視することはできない」と述べています。
自由民主党の保健担当報道官、ヘレン・モーガン氏は、「偽医師から自殺を促すボットまで、AIは 罪のない人々を食い物にし、搾取するために利用されている」と述べています。医療制度の亀裂が広がっています。
「自由民主党は、医療専門家を装うAIディープフェイクを撲滅し、その空白を埋めるために臨床的に承認されたツールを強く推進するよう求めています。
「もしこれらが医師を詐称する個人であれば、刑事訴追されるでしょう。なぜデジタル版の同様のものが容認されているのでしょうか？」
「AIボットに健康に関するアドバイスを求める人は、NHSサポートに自動的に紹介され、本当に必要な診断と治療を受けられるべきです。医療上の偽情報から利益を得ている者には刑事責任を負わせるべきです。」
TikTokの広報担当者は、「有害な誤情報や、なりすましなど、コミュニティを誤解させようとする行為に関する当社の規則に違反したため、（テイラー＝ロビンソン氏とセルビー氏に関する）このコンテンツを削除しました。」と述べました。
「有害な誤解を招くAI生成コンテンツは業界全体の課題であり、コミュニティガイドラインに違反するコンテンツを検出し削除するための新しい方法に引き続き投資していきます。」
保健社会福祉省にコメントを求めた。