概要: ABCニュース（オーストラリア）7.30の報道によると、2025年には、ノーマン・スワン氏をはじめとする著名人を装ったディープフェイク詐欺広告の第二波がMetaプラットフォーム上で広く拡散し、効果が実証されていない健康サプリメントを宣伝しました。このキャンペーンでは、新たな音声複製動画や、より巧妙ななりすまし手法が用いられ、金銭的被害や健康被害につながったと報じられています。捜査当局は、欺瞞的なリダイレクトや偽ブランドを用いて、これらの広告がオーストラリアとニュージーランドの企業と関連していることを確認したと報じられています。
Editor Notes: See Incident 880 for details on the earlier wave of reported deepfakes impersonating Norman Swan and Jonathan Shaw. This incident is a variant of that case and reflects an escalation in tactics, volume, and the inclusion of additional public figures. Reconstructing the timeline of events: (1) According to ABC's 7.30, deepfake ads featuring Norman Swan began appearing around late 2022, allegedly falsely promoting unproven health supplements. (2) Despite early takedown requests, reportedly new deepfakes circulated in larger volume in 2024, including impersonations of Professor Jonathan Shaw. (3) Individuals reportedly stopped medication or lost money due to these ads. (4) On 05/21/2025, ABC published a detailed report linking the campaign to businesses in Australia and New Zealand.
Alleged: Unknown voice cloning technology developer と Unknown deepfake technology developer developed an AI system deployed by Unidentified actors linked to Vellec Group NZ Ltd , Unidentified actors linked to Healthy Life Choices NZ Ltd と Unidentified actors linked to Apex United Pty Ltd, which harmed Rebel Wilson , Public trust in medical guidance , Norman Swan , Jonathan Shaw , General public of Australia , Australians with chronic health problems と Adele.
関与が疑われるAIシステム: Unknown voice cloning technology , Unknown deepfake technology , Scam-linked e-commerce platforms for Glyco Balance and Keto Flow + ACV , Meta advertising and content distribution infrastructure , Instagram , Facebook と Affiliate redirect and auto-debit subscription systems used in scam marketing
インシデントのステータス
インシデントID
1076
レポート数
1
インシデント発生日
2025-05-21
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン
それは約18ヶ月前に始まりました。当時も今も、衝撃的です。
リスナー、視聴者、友人、同僚、家族から連絡が来るようになりました。皆、当時も今も、ほぼ同じ質問をしてきました。
「あなたが出演しているこの広告は本物ですか？ 商品を買ってもいいですか？」
彼らが見たのは、FacebookやInstagramで見た動画や記事で、心臓病、糖尿病、肥満の治療を謳うサプリメントや減量商品を私が宣伝しているものでした。
私はしばしば医療専門家を蔑視し、当時の科学的知見を「愚かだ」と罵倒して…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
