Incidents associés
Une vidéo truquée du magnat minier et homme d'affaires australien Andrew « Twiggy » Forrest, diffusée sur Facebook, est le dernier exemple en date d'une série de deepfakes détournant l'image de personnalités dans des publicités trompeuses, érodant ainsi la confiance dans les médias.
La société de cybersécurité Cybertrace a signalé la vidéo de Forrest, qui semble promouvoir une fausse plateforme de trading de cryptomonnaies.
Tromperie par deepfake
La vidéo, apparue sur Facebook, incite les internautes à s'inscrire sur une plateforme frauduleuse prétendant générer des milliers de dollars par jour pour des « particuliers ». Les victimes sont redirigées vers un site nommé « Quantum AI », qui, selon Cybertrace, est devenu tristement célèbre pour être une plaque tournante des escroqueries et des fraudes financières.
La vidéo modifiait les gestes et les attitudes de Forrest lors d'une discussion informelle organisée par le Rhodes Trust en octobre 2023. Cybertrace a identifié le deepfake sur Facebook le 27 janvier, où une version modifiée par intelligence artificielle du milliardaire était présentée comme faisant la promotion d'une plateforme frauduleuse de trading de cryptomonnaies.
Meta, la société mère de Facebook et Instagram, a interdit les deepfakes début 2020. Cependant, des vidéos truquées continuent de semer la zizanie et de cibler des utilisateurs peu méfiants sur les réseaux sociaux. Forrest a d'ailleurs vivement critiqué le géant des réseaux sociaux, l'accusant de ne pas en faire assez pour lutter contre ces arnaques.
Le milliardaire fait l'objet de poursuites pénales contre Facebook pour une autre escroquerie publicitaire liée aux cryptomonnaies, qui aurait exploité son image. Exprimant sa frustration, Forrest a déclaré :
« Facebook ne fait rien. C’est précisément ce que j’espère que les poursuites judiciaires que j’ai engagées permettront de corriger : responsabiliser les entreprises de réseaux sociaux quant à la gestion négligente de leurs plateformes publicitaires. J’ai entamé ces poursuites il y a près de deux ans, préoccupé par le sort des Australiens innocents victimes d’escroqueries sur Facebook. »
Arnaques par deepfake en pleine expansion
Michael Saylor, fondateur de MicroStrategy, a récemment révélé que son équipe s'efforce de supprimer environ 80 vidéos contrefaites par jour, dont beaucoup sont conçues pour promouvoir différentes arnaques liées au Bitcoin. De plus, des vidéos modifiées mettant en scène des personnalités telles que le milliardaire Elon Musk, fondateur de Tesla et SpaceX, ont également fait leur apparition sur divers réseaux sociaux.
Certaines de ces vidéos contiennent des liens vers des systèmes d'investissement frauduleux, des produits non autorisés ou des sites de commerce électronique sans rapport avec le sujet, qui disparaissent au bout de quelques jours.
Les vidéos deepfake générées par intelligence artificielle (IA) s'imposent progressivement comme l'une des principales menaces pour la sécurité informatique à l'échelle mondiale. Les données de Sumsub indiquent que la proportion de deepfakes en Amérique du Nord a connu une augmentation significative entre 2022 et le premier trimestre 2023.
Aux États-Unis, cette proportion est passée de 0,2 % à 2,6 %, tandis qu'au Canada, elle est passée de 0,1 % à 4,6 %. Parallèlement, les cas de contrefaçon de documents imprimés, qui représentaient 4 à 5 % de l'ensemble des fraudes en 2022, ont chuté à 0 % au cours du dernier trimestre.
« Les fournisseurs de solutions antifraude et de vérification qui ne mettent pas constamment à jour leurs technologies de détection des deepfakes accusent un retard considérable, exposant ainsi les entreprises et les utilisateurs à des risques. La mise à niveau des technologies de détection des deepfakes est essentielle au bon fonctionnement des systèmes modernes de vérification et de lutte contre la fraude. »