Incidents associés
Le magnat américain des affaires Elon Musk est la dernière personnalité en date à apparaître dans des vidéos truquées utilisant l'intelligence artificielle pour promouvoir une arnaque financière.
Les vidéos publiées sur Facebook utilisent des images authentiques de M. Musk, doublées d'une voix artificielle, donnant l'impression qu'il invite les gens à investir dans une plateforme de trading d'actions appelée « Quantum AI ».
« En nous rejoignant dès le début, vous pouvez gagner jusqu'à 3 000 $ en vendant des actions avec un rendement élevé et un risque minimal », semble-t-il dire dans la vidéo. « Cet outil vous rendra financièrement indépendant dans les plus brefs délais. »
La fausse vidéo, qui a cumulé plus de 27 000 vues, utilise des images authentiques de M. Musk intervenant dans le podcast « Real Talk with Zuby ». Dans l'épisode, M. Musk ne mentionne pas l'IA quantique.
Une autre fausse vidéo, publiée sous plusieurs comptes, semble montrer un reportage de 9 News Australia sur l'IA quantique, où Elon Musk fait la promotion de ce projet d'investissement.
Le présentateur présumé de 9 News Australia déclare, avec un accent américain : « Les Australiens n'auront plus besoin de travailler », ajoutant qu'« Elon Musk a également déclaré que chaque habitant du pays pourrait percevoir un revenu de 5 700 dollars par jour. »
La vidéo présente ensuite un extrait de M. Musk où il déclare : « La dernière plateforme, l'IA quantique, permettra aux gens de s'enrichir rapidement, sans travailler pour chaque centime. »
Il semble nommer Richard Branson, Jeff Bezos et Bill Gates comme « actionnaires importants », avant que le journaliste n'invite les spectateurs à « effectuer un investissement minimum de 400 dollars » sur le site web de l'IA quantique.
Cette vidéo présente également des images authentiques manipulées par intelligence artificielle.
On y voit la présentatrice de 9 News Queensland, Mia Glover, introduire un reportage sur une agression policière,ainsi que des images de M. Musk s'exprimant lors du Sommet mondial des gouvernements de 2023.Dans les deux cas, leurs voix ont été doublées par des voix artificielles. Mme Glover, par exemple, parle avec un accent américain au lieu de son accent australien.
De plus, si le spectateur regarde la vidéo de 1 minute 29 secondes jusqu'à la fin, il verra le message « En savoir plus sur 9news.com.au », qui est la véritable adresse du site web de 9 News. Cependant, le lien redirige en réalité les internautes vers un site web imitateur avec une URL différente (https://invesgoesly.click/?facebook_pixel_id=1793382267777815&utm_campaign=%7B%7Bcampaign.name%7D%7D&utm_creative=9news3_400&T&utm_source=a25ads25&fbclid=IwAR0d2Dmyi6n2tEDVXyL6gm36F2Qy-qnvV5POmOz9Pk-BaiHr__2Avq63LcM).
Ce site web imitateur publie un article intitulé « Tesla lance sa nouvelle plateforme Quantum AI™ – vise à aider les familles à s'enrichir », signé Jonathan Ponciano, qui est également le nom d'un rédacteur en chef adjoint du magazine Forbes.
Le faux site web affiche la date et l'heure du jour au moment où le visiteur l'ouvre, mais le temps s'arrête de défiler et tous les liens d'actualité intégrés mènent à d'autres promotions de l'arnaque à l'IA quantique.
Le professeur John Thangarajah, doyen associé de la faculté d'intelligence artificielle de l'université RMIT, a déclaré à RMIT FactLab que l'utilisation de contenu généré par l'IA dans des escroqueries financières suscitait une inquiétude croissante.
« C'est l'équivalent actuel des escroqueries par e-mail qui vous piégent avec du texte. Ces escroqueries amplifient le tout avec des éléments audiovisuels », a-t-il déclaré.
Plus précisément, dans les deux vidéos générées par l'IA, les lèvres de M. Elon Musk apparaissent floues, ce qui, selon le Commissaire à la sécurité électronique, peut indiquer la présence d'une technologie de deepfake. Dans les vidéos, les lèvres de M. Elon Musk ne sont pas synchronisées avec le son robotisé. Le projet MIT « Detect DeepFake » (https://www.media.mit.edu/projects/detect-fakes/overview/) indique qu'il s'agit d'un autre signe à surveiller lors de l'analyse d'un éventuel recours au clonage vocal.
Le clonage vocal consiste à utiliser un programme informatique pour générer une copie synthétique et adaptable de la voix d'une personne. Des logiciels facilement disponibles permettent à l'utilisateur de copier une voix et de l'utiliser pour lire le texte qu'il crée.
Le programme ScamWatch de la Commission australienne de la concurrence et de la consommation (Australian Competition and Consumer Commission) (https://www.scamwatch.gov.au/types-of-scams/investment-scams) souligne que les escroqueries à l'investissement par le biais de l'approbation de célébrités sont courantes.
FactLab a également enquêté sur des vidéos de Gina Rinehart et Richard Branson faisant la promotion d'un système permettant de s'enrichir rapidement et a découvert qu'elles étaient fausses.
Selon l'ACCC, les Australiens ont déclaré avoir perdu 3,1 milliards de dollars à cause d'escroqueries en 2022, soit une augmentation de 80 % par rapport à 2021.
Vous trouverez des informations sur la manière d'identifier les escroqueries à l'investissement sur le site web ScamWatch de l'ACCC.