Incidents associés
L'organisme de protection des consommateurs d'Australie-Occidentale a mis en garde contre une escroquerie à l'investissement utilisant une vidéo truquée par intelligence artificielle (deepfake) du Premier ministre Roger Cook, censée promouvoir le projet. Cette mise en garde intervient alors que de nombreuses arnaques similaires sont « impossibles » à déceler.
La publicité vidéo, diffusée sur YouTube, utilise l'image et la voix de M. Cook, incitant le public à souscrire à cette offre promettant « un faible investissement, un rendement élevé et des résultats concrets ».
« Nombreux sont ceux qui se demandent pourquoi cette opportunité n'a pas été rendue publique plus tôt », déclare un avatar de M. Cook face caméra, derrière un bureau en bois sombre, dans ce qui est présenté comme son bureau.
« La vérité est simple : nous avons pris le temps de nous assurer que ce soit sûr, transparent et réellement efficace pour les Australiens. Aujourd'hui, je peux affirmer avec confiance que ça fonctionne.
Avec un investissement initial de seulement 400 $, les utilisateurs constatent un retour sur investissement moyen d'environ 19 200 $ dès le premier mois. »
Des signaux d'alerte ignorés
Trish Blake, commissaire à la protection des consommateurs d'Australie-Occidentale, a déclaré que la présentation de la publicité la rendait potentiellement plus crédible.
« Ils diffusent cette publicité sous forme de pop-up pendant une émission que vous regardez peut-être… Impossible de revenir en arrière, de ralentir la vidéo et de l'analyser en détail », a-t-elle expliqué.
« Cela signifie que vous risquez beaucoup plus de manquer les signaux d'alerte habituels que nous signalons au public. »
« Alors, quand on a le temps de regarder la vidéo lentement, on peut voir que les lèvres ne bougent pas en rythme avec les paroles et que les mains ont un mouvement un peu étrange.
« Mais il devient de plus en plus difficile de faire la différence, car d'une part, ces publicités sont diffusées sur des plateformes où elles sont visionnées très rapidement, créant un sentiment d'urgence, comme s'il fallait agir vite, mais d'autre part, on ne peut pas revenir en arrière et analyser la vidéo en détail. »
Une tâche impossible
L'organisme de surveillance a été informé de la présence de cette publicité vendredi matin par un citoyen. L'équipe a ensuite pu identifier le titulaire du domaine, le contacter et lui demander de la retirer.
Mais Mme Blake a déclaré que lutter contre ce type de publicités frauduleuses utilisant l'intelligence artificielle était devenu un combat sans fin.
« Malheureusement, c'est un peu comme un jeu de tape-taupe géant… dès qu'on les supprime, elles réapparaissent », a-t-elle déclaré.
« Mon conseil à tous concernant ces publicités » « Il faut partir du principe qu'il s'agit d'une arnaque jusqu'à preuve du contraire. C'est la meilleure façon de se protéger. »
Mme Blake a déclaré qu'elle pensait que la technologie, devenue moins chère et plus sophistiquée, était déjà suffisamment avancée pour qu'il soit pratiquement impossible à l'œil nu de distinguer le vrai du faux.
« Il leur suffit de dix secondes de vidéo et de voix de n'importe qui pour créer un deepfake », a-t-elle affirmé.
« Je pense que le mal est fait… le moment est venu où… ces deepfakes peuvent être si bien réalisés qu'il nous sera impossible de faire la différence sans une technologie plus avancée capable d'identifier les différences.
« Nous souhaiterions que les plateformes fassent davantage pour empêcher leur apparition. »
Il a été récemment révélé que Meta, une autre plateforme où apparaissent régulièrement des publicités frauduleuses, engrangeait des milliards de dollars grâce à ces publicités.
Mme Blake a ajouté que compte tenu des revenus publicitaires générés par les plateformes, dont certaines sont des arnaques, elles devraient faire beaucoup plus.
« Ils s'enrichissent énormément grâce à des activités criminelles, car c'est la définition même des arnaques. Ce sont des crimes, et des gens se font voler leur argent, profitant de leur vulnérabilité », a-t-elle déclaré.
« Ces plateformes ont les outils, les ressources et les données nécessaires pour… agir et faire bien plus que ce qu'elles font actuellement. »
« Très inquiétant » : Cook
Le premier ministre a réagi samedi après-midi à la publicité frauduleuse, se disant consterné de voir son image utilisée de cette façon.
« C'est très inquiétant que des gens aillent aussi loin pour tromper les gens et tenter de leur soutirer leur argent durement gagné. C'est dégoûtant »,
a-t-il déclaré.
« J'étais évidemment très consterné de voir mon image utilisée de cette manière.
Je tiens à préciser que le gouvernement n'approuve aucun placement ni produit financier en particulier.
Ne faites pas confiance à ce genre de vidéos. »
Mme Blake a indiqué que toute personne ayant vu des publicités similaires devait les signaler à la Protection des consommateurs via WA ScamNet à l'adresse scamnet.wa.gov.au.
« N'ayez pas honte. Contactez-nous et nous ferons tout notre possible pour vous aider, notamment à éviter que vous ne soyez victime d'une autre escroquerie », a-t-elle déclaré.