Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる

レポート 6798

関連インシデント

インシデント 13411 Report
Purported Deepfake Advertisement Falsely Depicting Physician Endorsement Used to Sell Lipedema Cream to U.S. Patient Beth Holland

Loading...
医師のディープフェイク広告に騙された女性が声を上げる。「絶望と苦痛に苦しんでいます」
today.com · 2025

新しい治療法を謳うオンライン広告は、かつてないほど蔓延しています。ソーシャルメディアには溢れかえり、刺激的な新製品や機器の有望な宣伝文句が溢れています。

糖尿病から慢性的な痛み、減量まで、あらゆる症状に奇跡的な治療法や即効性のある治療法が謳われています。こうした広告の多くには、有名人や医師の動画が使われ、説得力のある宣伝文句や体験談が添えられています。

問題は、TODAYの最新調査によると、これらの動画は多くの場合、消費者を騙そうとする企業による偽動画であるという点です。

「これらはすべて、最新のAIディープフェイクを駆使した、金銭を搾取するための策略です」と、TODAYのチーフ消費者調査担当記者、ヴィッキー・グエン氏は説明しています。

こうした詐欺の被害者たちは、今、声を上げています。

ベス・ホランドさんは、米国で脂肪浮腫と診断された1700万人の女性のうちの1人です。脂肪浮腫は、脚に異常な脂肪が蓄積し、むくみや運動機能の低下を引き起こす慢性疾患です。治療法はありません。

「症状はひどくなり、体重も減らなくなりました。辛いです」とホランドさんはTODAYに語りました。

症状を少しでも和らげたいと切望していたホランドさんは、Facebookで有望な新しい治療法の広告を見つけました。それは、脂肪浮腫の痛みを和らげ、体内に溜まった体液の排出を助けるスキンクリームで、「Svelta Venastra」と呼ばれていました。

Svelta Venastraのオンライン広告。

同社は広告の中で、「この製品を使えば、深く長期的な変化が期待できます。すでに11,532人以上の女性を対象に試験が行われ、96%が目立った改善を報告しています」と述べています。

この広告には、オプラ・ウィンフリー、ケリー・クラークソン、カーニー・ウィルソンといった有名人の証言が掲載されていた。さらに説得力があったのは、ホランド氏の担当医である、脂肪浮腫専門医の認定を受けたデビッド・アムロン医師が登場しているように見えたことだ。

「アムロン医師と関係があると思っていたので、これはすごいと思いました」とホランド氏は語る。彼女は300ドルのボトルを6本注文した。

ホランド氏が知らなかったのは、アムロン医師とセレブリティの映像がインターネットから盗用され、デジタル加工されて、希望に満ちた患者を誘い込むものだったということだ。

ディープフェイクを使った医療詐欺が増加

このクリームの広告はディープフェイクだった。ディープフェイクとは、人工知能(AI)が生成したコンテンツの一種で、人物の画像や声をデジタル加工して本物のように見せるものだ。

こうしたAI生成のディープフェイクには、実在の医師が虚偽の主張をしたり、治療法を宣伝したりする姿が見られることが増えている。グエン氏によると、詐欺師たちはソーシャルメディアでこうしたディープフェイクを拡散し、人々を騙して金銭を支払わせようとしているという。

ホランドさんの場合、担当医の顔写真が偽の治療法を宣伝するために加工されていた。「脂肪浮腫を治療するクリームなんて存在しません。本当に不可能です」とアムロン氏はTODAYに語り、これらの動画を見て「愕然とした」と付け加えた。

TODAYの調査に対し、オプラ・ウィンフリー氏は「いかなる製品も販売していない」と述べ、専任のセキュリティチームを編成し「ソーシャルメディアで毎日見つかる虚偽広告を削除している」と付け加えた。

メタ氏はTODAYに対し、ウィンフリー氏を起用した脂肪浮腫クリームの広告はFacebookから削除され、同社はディープフェイクを削除するために有名人の顔認識技術を使用していると語った。

しかしながら、有名人はディープフェイクを使った詐欺師の標的であり続けている。 TODAYの気象予報士、アル・ローカー氏も被害に遭いました。

今年初め、ローカー氏は高血圧治療薬を宣伝する自身の動画へのリンクを送られてきました。

「私は高血圧ではありません」とローカー氏はTODAYに語りました。

動画はローカー氏になりすまして偽商品を販売するものでしたが、「一般視聴者には、アル・ローカー氏が高血圧治療薬を宣伝しているように見えます」とローカー氏は述べました。

TODAYの調査により、ソーシャルメディア上でさらに多くの医療製品のディープフェイク広告が発見されました。グエン氏によると、これらの広告には偽の「FDA適合証明書」が使用されており、GLP-1ドリンク剤や糖尿病ケアクリームなどが含まれています。

ドリンク剤GLP-1の偽広告。

グエン氏はさらに、「FDA承認の液体GLP-1は存在しません」と付け加えました。

TODAYは、脂肪浮腫クリームなどの医療製品の製造元企業を追及しようと試みましたが、コメントを得られませんでした。

グエン氏によると、一部のオンライン広告には偽の適合証明書が記載されているとのことです。

消費者の危険

連邦取引委員会は、ソーシャルメディア上で医療詐欺の標的となり、「金銭、時間、さらには健康までも」騙し取られるケースが増えていると警告しています。

これらの詐欺的な健康製品は、安全性と有効性が証明されていません。「恐ろしいことです。何が含まれているのかわからないのです」とアムロン氏は述べています。食品医薬品局によると、医療詐欺は「適切な診断と治療の遅れにつながる可能性があります」。

専門家はTODAYに対し、医療詐欺はAI詐欺の新たなフロンティアだと述べています。 「爆発寸前だ」と、製薬業界に雇われたサイバーセキュリティ企業ブランドシールドのCEO、ヨアブ・ケレン氏は説明した。

こうした詐欺は莫大な利益を上げている。「数十億ドル規模だ」とケレン氏は述べた。

カレン氏は、多くの商品は東アジアのダミー会社にまで遡り、その痕跡は見当たらないと述べた。

「誰かがヨーロッパからこの詐欺を実行し、南米でホストし、米国を狙っている可能性がある。どこにでもいる可能性がある」とケレン氏は述べた。そのため、詐欺師を訴追するのは困難だ。

「切実で苦しんでいる人々を騙すなんてひどい」とホランド氏は述べた。300ドルの注文については、ホランド氏はクリームを郵送で受け取ったが、脂肪浮腫には全く効果がなかった。

「とにかく皆さんに警告したい。絶対に購入しないで」とホランド氏は述べた。

彼女はクレジットカード会社に詐欺行為を報告し、返金を受けることができた。しかし、こうした医療詐欺の被害者全員が返金を受けられるわけではないと、ケレン氏は警告した。

医療広告詐欺から身を守る方法

ディープフェイク動画を見分けることはますます困難になっている。AI技術の進歩により、本物と偽物を見分けるのはほぼ不可能だとケレン氏は述べた。

オンラインで医療詐欺から身を守るにはどうすればいいだろうか?いくつかのヒントを紹介しよう。

  • 広告の下にあるユーザーコメントを読んで、偽物だと報告した人がいないか確認する。
  • 製品に関する他の情報やレビューがないか検索する。
  • 医療製品を購入する前に、まず医師に相談する。
  • 詐欺の可能性があれば報告し、万が一詐欺に遭った場合は返金を請求できるように、必ずクレジットカードを使用する。

「購入者は気をつけろ」とグエン氏は述べた。

情報源を読む

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd