Incident 1076: Des deepfakes prétendument non autorisés de Norman Swan et d'autres ont circulé dans des campagnes de suppléments en ligne
Description: Selon un reportage d'ABC News (Australie) de 7h30, une deuxième vague de publicités frauduleuses deepfakes se faisant passer pour Norman Swan et d'autres personnalités publiques a largement circulé sur les plateformes Meta en 2025, faisant la promotion de compléments alimentaires non éprouvés. La campagne, qui comportait de nouvelles vidéos avec clonage vocal et de nouvelles tactiques d'usurpation d'identité, aurait contribué à des préjudices financiers et sanitaires. Les enquêteurs auraient lié les publicités à des entreprises australiennes et néo-zélandaises au moyen de redirections trompeuses et d'alias.
Editor Notes: See Incident 880 for details on the earlier wave of reported deepfakes impersonating Norman Swan and Jonathan Shaw. This incident is a variant of that case and reflects an escalation in tactics, volume, and the inclusion of additional public figures. Reconstructing the timeline of events: (1) According to ABC's 7.30, deepfake ads featuring Norman Swan began appearing around late 2022, allegedly falsely promoting unproven health supplements. (2) Despite early takedown requests, reportedly new deepfakes circulated in larger volume in 2024, including impersonations of Professor Jonathan Shaw. (3) Individuals reportedly stopped medication or lost money due to these ads. (4) On 05/21/2025, ABC published a detailed report linking the campaign to businesses in Australia and New Zealand.
Entités
Voir toutes les entitésAlleged: Unknown voice cloning technology developer et Unknown deepfake technology developer developed an AI system deployed by Unidentified actors linked to Vellec Group NZ Ltd , Unidentified actors linked to Healthy Life Choices NZ Ltd et Unidentified actors linked to Apex United Pty Ltd, which harmed Rebel Wilson , Public trust in medical guidance , Norman Swan , Jonathan Shaw , General public of Australia , Australians with chronic health problems et Adele.
Systèmes d'IA présumés impliqués: Unknown voice cloning technology , Unknown deepfake technology , Scam-linked e-commerce platforms for Glyco Balance and Keto Flow + ACV , Meta advertising and content distribution infrastructure , Instagram , Facebook et Affiliate redirect and auto-debit subscription systems used in scam marketing
Statistiques d'incidents
ID
1076
Nombre de rapports
1
Date de l'incident
2025-05-21
Editeurs
Daniel Atherton
Rapports d'incidents
Chronologie du rapport
Tout a commencé il y a environ 18 mois. C'était choquant à l'époque et l'est encore plus aujourd'hui.
Auditeurs, téléspectateurs, amis, collègues et membres de ma famille ont commencé à me contacter, tous avec à peu près la même question, h…
Variantes
Une "Variante" est un incident de l'IA similaire à un cas connu—il a les mêmes causes, les mêmes dommages et le même système intelligent. Plutôt que de l'énumérer séparément, nous l'incluons sous le premier incident signalé. Contrairement aux autres incidents, les variantes n'ont pas besoin d'avoir été signalées en dehors de la base de données des incidents. En savoir plus sur le document de recherche.
Vous avez vu quelque chose de similaire ?
