Incidents associés
Tout a commencé il y a environ 18 mois. C'était choquant à l'époque et l'est encore plus aujourd'hui.
Auditeurs, téléspectateurs, amis, collègues et membres de ma famille ont commencé à me contacter, tous avec à peu près la même question, hier comme aujourd'hui :
« Cette publicité que j'ai vue avec vous est-elle authentique ? Et dois-je acheter le produit ? »
Ils avaient vu une vidéo ou un article, sur Facebook ou Instagram, où je me trouvais en train de vanter des compléments alimentaires ou des produits amaigrissants censés traiter les maladies cardiaques, le diabète ou l'obésité.
Je dénigrais souvent la profession médicale et qualifiais de « stupide » la doctrine scientifique dominante.
Lorsque les premières sont apparues, j'ai demandé à l'ABC de les faire retirer. Cela n'a pas fonctionné.
Et puis, cette année, ces fausses publicités ont recommencé. Elles étaient beaucoup plus sophistiquées et en bien plus grand nombre.
Un faux Norman circule actuellement et vante quatre produits non éprouvés que je connais.
Une vidéo générée par l'IA, qui apparaît régulièrement sur Facebook, montre Rebel Wilson parler de sa perte de poids grâce à un nouveau complément recommandé par le « Dr Norman Swan ».
Un autre deepfake reprend le même format, mais avec la chanteuse Adele. Ces deepfakes pointent vers un site web externe proposant un produit minceur non éprouvé appelé Keto Flow + ACV.
Une autre arnaque pernicieuse me concernant concerne un produit non éprouvé appelé Glyco Balance.
Glyco Balance et Keto Flow + ACV sont tous deux prétendument fabriqués à partir d'ingrédients « 100 % naturels » (bien que la liste des ingrédients varie selon le site web consulté). Leurs allégations marketing reposent sur peu ou pas de fondements scientifiques, mais leur argumentaire de vente est loin d'être anodin.
Conseils de santé dangereux
David Bell vit dans une maison de retraite dans la banlieue nord de Melbourne.
Il est instruit – son hobby est de traduire des poètes russes du XIXe et du début du XXe siècle en anglais – mais sa santé est fragile et il est diabétique.
Lorsqu'un article que j'avais soi-disant écrit est apparu sur son ordinateur portable, il a retenu son attention.
« Je me suis dit : "C'est intéressant. Je me demande ce que Norman a à dire sur le diabète" », m'a-t-il confié.
« C'était convaincant. Et ce qu'il disait, c'est qu'il existe… une substance chimique appelée metformine, et qu'elle n'est pas bénéfique pour l'organisme. Vous devriez arrêter d'en prendre. »
La metformine est l'un des principaux médicaments utilisés pour traiter le diabète de type 2 et est efficace pour prévenir les complications du diabète, telles que la cécité et les lésions rénales.
L'article encourageait les patients diabétiques à arrêter leur metformine et à commencer à prendre Glyco Balance.
L'article était si convaincant que David a arrêté son traitement.
« Je m'en veux d'être tombé dans le panneau, mais vous êtes une autorité », m'a dit David.
« Vous êtes une figure emblématique du système de santé. Pourquoi ne vous croirais-je pas ? »
Fin 2024, une autre publicité pour Glyco Balance au contenu similaire est apparue sur les plateformes Meta.
Cette fois, au lieu de moi, c'était une vidéo générée par l'IA de Jonathan Shaw, chercheur et spécialiste du diabète de premier plan au Baker Heart and Diabetes Institute de Melbourne.
C'est ce deepfake qui a attiré Janis, une habitante d'Adélaïde qui cherchait à perdre du poids.
« J'ai fait des recherches sur lui… et j'ai vu qu'il était très haut placé dans le domaine médical du cœur et du diabète en Australie », a-t-elle déclaré à 7h30.
« Alors je me suis dit : "Waouh, ce type a mis au point ce produit. Il est australien. Je vais essayer." »
Lorsque la commande de Janis est arrivée, le dosage indiqué sur le flacon était de 204 milligrammes, alors que la dose annoncée était de 800 mg.
Son compte bancaire a également été débité de plus de 300 $ au lieu d'un peu plus de 200 $, et Janis a finalement découvert que l'entreprise avait mis en place un prélèvement mensuel de plus de 300 $ à son insu.
Malgré tout cela, elle a essayé le complément pour voir ce qui se passait.
« En fait, en ce qui concerne la perte de poids… j'ai pris quelques kilos pendant que je prenais le premier flacon », a déclaré Janis à 7.30.
Suivi des responsables
7.30 a identifié trois entreprises enregistrées liées à Glyco Balance et Keto Flow + ACV : Vellec Group NZ Ltd, Healthy Life Choices NZ Ltd et Apex United Pty Ltd.
Ces entreprises ont des bureaux à Christchurch et sur la Gold Coast et semblent être liées à une multinationale basée aux États-Unis.
Elles utilisent les mêmes stratégies de vente et de marketing, la même présentation de site web et les mêmes tactiques trompeuses pour attirer les consommateurs.
7.30 a constaté que certaines personnes impliquées dans la gestion de ces entreprises sont liées.
De nombreux clients se plaignent des mêmes problèmes concernant les deux produits : des clients se voient facturer des frais excessifs et souscrivent à un prélèvement automatique mensuel sans leur autorisation.
7.30 a contacté par e-mail et par téléphone les entreprises concernées, et a contacté leur comptable basé à Auckland. Hormis une personne niant toute implication dans l'entreprise alors qu'elle en est l'unique administrateur, nous n'avons reçu aucune autre réponse.
Depuis que les entreprises ont été contactées, les pages de commande principales de Glyco Balance ont été supprimées.
Les sites web affiliés redirigent désormais les clients vers les pages de commande de « Glucovate » et de « Glyco Forte ».
Une recherche dans les archives Internet révèle d'autres changements de nom du produit par le passé, notamment Blood Balance – la version pour laquelle j'ai été victime d'un deepfake il y a 18 mois.
Comment sont créés les deepfakes
Ces faux sont remarquablement faciles à réaliser.
« Il faut un ordinateur portable, une connexion internet et l'accès à un logiciel gratuit ou payant ; ce n'est donc pas une activité très coûteuse », explique Sanjay Jha, de l'École d'informatique et d'ingénierie de l'UNSW.
Avec son étudiant Wenbin Wang, il a développé un modèle d'intelligence artificielle à des fins pédagogiques. Ils nous ont montré comment l'escroc a probablement créé mes deepfakes.
L'escroc commence par une vidéo de moi, prise sur une plateforme comme YouTube. Il la télécharge ensuite sur un programme de deepfakes disponible pour quelques dollars.
Tout d'abord, ma voix est clonée à partir d'un échantillon qui peut ne durer que quelques secondes. Le modèle d'IA clone ensuite mon apparence, scannant la vidéo image par image, cartographiant mon visage sous différents angles. L'escroc peut ensuite saisir les mots qu'il souhaite que je dise.
La carte « sortir » de Meta
Lorsque le professeur Shaw a commencé à recevoir des courriels et des appels de personnes souhaitant arrêter leur traitement ou savoir où se procurer le complément, il a compris qu'il y avait un problème.
Ses premières tentatives pour convaincre Meta de retirer la fausse publicité ont échoué, jusqu'à ce que les avocats du Baker Institute informent Meta d'une violation de marque et de propriété intellectuelle.
C'est alors qu'ils ont reçu une réponse et ont fait retirer l'arnaque. Mais de nouvelles versions ont continué à apparaître.
L'ABC a également eu du mal à attirer l'attention de Meta.
Rod McGuinness est le responsable de la communauté sociale de l'ABC et coordonne sa présence sur les réseaux sociaux. Il a utilisé plus d'une douzaine de personnalités de l'ABC par des escrocs, dont Karl Kruszelnicki, Alan Kohler, Michael Rowland et Virginia Trioli.
« Nous passons beaucoup de temps, ou du moins nous y sommes habitués au fil des ans, à signaler ces incidents et à demander à Meta : "Pouvez-vous faire quelque chose ?" » Et très souvent, il n'y a aucune réponse », a déclaré McGuinness à 7h30.
En 2024, Meta a généré plus de 164 milliards de dollars, dont la majeure partie provenait de revenus publicitaires. Les escrocs exploitent les algorithmes de Facebook et d'Instagram, ciblant les consommateurs vulnérables via des publications payantes.
Jusqu'à présent, Meta s'est largement dérobée à ses responsabilités. M. McGuinness se dit frustré par son manque de responsabilité.
« Facebook a toujours affirmé ne pas être un éditeur ; ce sont les utilisateurs qui sont les éditeurs », a-t-il déclaré.
« Et je pense que dans ce contexte, c'est une excellente excuse, car ils peuvent dire : « Nous ne contrôlons pas ces choses. » Cependant, ils sont ravis de toucher les revenus publicitaires. »
Nathaniel Gleicher est directeur de la politique de sécurité et responsable mondial de la lutte contre la fraude chez Meta. Il estime que l'organisation est confrontée à un défi de taille.
« Il s'agit d'opérations sophistiquées à grande échelle, souvent soutenues par des organisations criminelles disposant de ressources importantes… et qui cherchent à cibler les individus partout où ils peuvent les trouver », a déclaré M. Gleicher.
« Ils adaptent très rapidement leurs tactiques pour déjouer les défenses mises en place. »
Il affirme également que Meta a adopté une approche très proactive face aux arnaques deepfake.
« Au quatrième trimestre 2024, nous avons supprimé plus d'un milliard de faux comptes, et 99,7 % d'entre eux ont été supprimés proactivement avant que quiconque ne les remarque », a-t-il déclaré.
Mais un taux d'échec de 0,3 % sur plus d'un milliard de comptes signifie que de nombreuses arnaques continuent de passer inaperçues.
« L'un des véritables défis réside dans le fait que ces arnaques exploitent plusieurs systèmes », a déclaré M. Gleicher.
L'escroc commence par créer un faux compte bancaire pour recevoir l'argent. Il a souvent besoin d'un entrepôt pour stocker les produits qu'il expédie, puis redirige les utilisateurs vers un site web ouvert à tous, et utilise bien sûr un système de paiement instantané.
Pour contrer ce phénomène, la collaboration de toutes ces communautés est indispensable.
Les Australiens perdent plus de 2 milliards de dollars
La Commission australienne de la concurrence et de la consommation (ACCC) gère le Centre national de lutte contre les escroqueries.
La vice-présidente de l'ACCC, Catriona Lowe, affirme que la lutte contre ces escroqueries est complexe et nécessite une coopération avec les forces de l'ordre locales et internationales, ainsi qu'une action proactive de la part d'opérateurs comme Meta.
« Nous avons publié un rapport qui démontre une baisse de plus de 25 % des pertes financières signalées liées aux escroqueries en 2024, mais avec 2 milliards de dollars de pertes, il nous reste encore beaucoup à faire », a-t-elle déclaré.
Une nouvelle législation a donné au régulateur le pouvoir d'imposer des amendes de plusieurs millions de dollars si les plateformes ne suppriment pas les contenus frauduleux et qu'elles sont actives. Avis.
« Nous prévoyons que les médias sociaux, y compris Meta, seront l'un des premiers secteurs désignés », a déclaré Mme Lowe.
« Cela signifie que ce secteur sera passible de sanctions financières s'il ne remplit pas ses obligations légales ou ne prend pas les mesures raisonnables pour les remplir. »
Mais cela laisse des personnes comme David et Janis se débrouiller seules après avoir été victimes d'une arnaque.
« Je me suis sentie vraiment anéantie », a déclaré Janis à 7h30.
« C'était horrible, car je pensais que c'était réel. Ça m'a ramenée en arrière, car je pensais avoir acheté ce remède miracle. »
Le professeur Shaw estime que les dommages sont bien plus profonds que les risques sanitaires et financiers.
« Ce qui se produit à la suite de cela et d'autres événements similaires, c'est la méfiance », a-t-il déclaré.
« Peut-être que toutes sortes de choses utiles que moi et d'autres pourrions dire sur la santé ne seront pas prises en compte. »