ニュージーランド・ヘラルドの報道によると、ニュージーランドの有名な内分泌学者が最近ディープフェイク詐欺の被害者となった。
オタゴ大学のジム・マン博士（DM、PhD、MA）の肖像が、ヘンプグミを販売する会社のFacebookページに投稿され、ソーシャルメディアで広まったディープフェイクニュース動画に使用された。動画の中で、偽のマンは2型糖尿病患者に、ゴールドスタンダードの薬であるメトホルミンの服用をやめ、代わりに代替の天然製品を使用するよう促した。
投稿は削除されたと伝えられているが、マン氏はヘラルド紙に対し、投稿はその後も時折再浮上し、誰かがテキストメッセージで知らせてくれたときに初めて存在を知ったと語った。
「その後、2つのグループからテキストメッセージやメールが殺到した。1つのグループは『この素晴らしい新製品おめでとうございます。あなたが発見したすべての医師やその他の人々が詐欺師であることを暴露してくれたのは素晴らしいことです。どこでこの製品を入手できるのですか？』と書いていた。もう1つのグループは『頼むから、あなたは騙されていると気づいてください』と言っていた」と同氏は同紙に語った。
「私のよく知っている人々を含め、それを完全に信じてしまった非常に理性的で知的な人たちがいた。どれだけの人が騙されたかは神のみぞ知る」と同氏は付け加えた。「AIは非常に賢いので、私がその言葉を言っているように私の口を操作できる」。
マン氏はまた、あまりにも良すぎて真実とは思えない専門家の動画に遭遇した人々に注意を促した。
「誰かが信じられないほど良いことを言っているのを聞いたら、それはおそらく信じられないほど良いことです。...それはかなりとんでもない主張でした」と彼はヘラルド紙に語った。
確かに、マン氏の肖像を使ったディープフェイク詐欺は、孤立した出来事ではありません。
11月、ロサンゼルスを拠点とする足病医でソーシャルメディアパーソナリティのダナ・ブレムズ博士は、ある会社がAIを使用して彼女の声の偽の録音を作成したとインスタグラムの投稿で述べた。
投稿には、ブレムズ氏が口を覆って落胆し、彼女によると「私の声のAIクローンを使用して、私が彼らの製品を推奨したように見せかけた」広告に 反応している様子が映っていた。
ブレムズ氏のソーシャルメディア投稿は、耳掃除器具の広告と思われるもので、閲覧数を伸ばし、多くのコメント投稿者が医療専門家に結びついた偽の健康関連の推奨の潜在的な害を指摘した。
「AI を使って医師や他の権威者になりすますことができると人々が気づけば、大きな問題になるだろう」とブレムズ氏は当時、MedPage Today に語った。
マン氏も Herald への声明でこの意見に同意した。
「私は Diabetes New Zealand のパトロンなので、私のことを知らない人でも私の名前を知っている人がたくさんいるので、とても残念だ」と同氏は述べた。
同氏は、信頼できる情報は、認められた医療専門家から直接入手するよう人々にアドバイスした。
マン氏は、MedPage Today からのさらなるコメントの要請にすぐには応じなかった。