概要: ABCニュース（オーストラリア）7.30の報道によると、2025年には、ノーマン・スワン氏をはじめとする著名人を装ったディープフェイク詐欺広告の第二波がMetaプラットフォーム上で広く拡散し、効果が実証されていない健康サプリメントを宣伝しました。このキャンペーンでは、新たな音声複製動画や、より巧妙ななりすまし手法が用いられ、金銭的被害や健康被害につながったと報じられています。捜査当局は、欺瞞的なリダイレクトや偽ブランドを用いて、これらの広告がオーストラリアとニュージーランドの企業と関連していることを確認したと報じられています。
Editor Notes: See Incident 880 for details on the earlier wave of reported deepfakes impersonating Norman Swan and Jonathan Shaw. This incident is a variant of that case and reflects an escalation in tactics, volume, and the inclusion of additional public figures. Reconstructing the timeline of events: (1) According to ABC's 7.30, deepfake ads featuring Norman Swan began appearing around late 2022, allegedly falsely promoting unproven health supplements. (2) Despite early takedown requests, reportedly new deepfakes circulated in larger volume in 2024, including impersonations of Professor Jonathan Shaw. (3) Individuals reportedly stopped medication or lost money due to these ads. (4) On 05/21/2025, ABC published a detailed report linking the campaign to businesses in Australia and New Zealand.
Alleged: Unknown deepfake technology developers と Unknown voice cloning technology developers developed an AI system deployed by Unidentified actors linked to Vellec Group NZ Ltd , Unidentified actors linked to Healthy Life Choices NZ Ltd と Unidentified actors linked to Apex United Pty Ltd, which harmed Rebel Wilson , Public trust in medical guidance , Norman Swan , Jonathan Shaw , General public of Australia , Australians with chronic health problems と Adele.
関与が疑われるAIシステム: Unknown voice cloning technology , Unknown deepfake technology , Scam-linked e-commerce platforms for Glyco Balance and Keto Flow + ACV , Meta advertising and content distribution infrastructure , Instagram , Facebook と Affiliate redirect and auto-debit subscription systems used in scam marketing
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
4.3. Fraud, scams, and targeted manipulation
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Malicious Actors & Misuse
Entity
Which, if any, entity is presented as the main cause of the risk
Human
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Intentional
インシデントレポート
レポートタイムライン
Loading...
それは約18ヶ月前に始まりました。当時も今も、衝撃的です。
リスナー、視聴者、友人、同僚、家族から連絡が来るようになりました。皆、当時も今も、ほぼ同じ質問をしてきました。
「あなたが出演しているこの広告は本物ですか？ 商品を買ってもいいですか？」
彼らが見たのは、FacebookやInstagramで見た動画や記事で、心臓病、糖尿病、肥満の治療を謳うサプリメントや減量商品を私が宣伝しているものでした。
私はしばしば医療専門家を蔑視し、当時の科学的知見を「愚かだ」と罵倒して…
Loading...
信頼できる医師や著名人が消費者に「ニセ薬」のようなサプリメントを売りつけるディープフェイク動画がオンライン上に流出したことを受け、国民に緊急の警告が発せられています。
ノーマン・スワン医師、ジョナサン・ショー教授、オーストラリア医師会（AMA）前会長のケリン・フェルプス教授など、信頼できる臨床医がオンラインで栄養補助食品を販売するフェイク動画がオンライン上に現れたことで、警鐘が鳴らされました。
ある動画では、偽のショー教授が2型糖尿病の治療薬として栄養補助食品を宣伝しています…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？
