Incidents associés
Le Parti travailliste a un plan pour « sortir les citoyens britanniques de la crise », affirme son leader Keir Starmer dans une publicité publiée récemment sur Facebook.
La vidéo semble authentique. Mais il s'agit d'un deepfake : elle a été montée et modifiée grâce à l'intelligence artificielle (IA). L'extrait original est tiré d'un discours prononcé par Starmer en Écosse l'été dernier au sujet d'une proposition énergétique, avant d'être modifié grâce à l'IA.
Il s'agit de l'une des nombreuses vidéos truquées de politiciens, dont Starmer et Rishi Sunak, qui ont circulé sur Facebook et Instagram entre 2022 et début 2024 dans le cadre d'une campagne d'escroquerie.
Elles ont été manipulées pour donner l'impression de révéler des détails sur des investissements à haut rendement sous la marque Quantum AI. Elles ont été diffusées dans le monde entier et vues environ un million de fois rien qu'au Royaume-Uni, Meta, la société mère des plateformes, semblant incapable d'enrayer leur propagation.
Ces publicités soulèvent des questions sur la capacité des plateformes technologiques à lutter contre la désinformation à l'approche des élections majeures en Europe. Le problème est mis en lumière dans une nouvelle enquête du Bureau of Investigative Journalism (TBIJ) qui révèle que des milliers de publicités frauduleuses mettant en scène des personnalités politiques ont circulé sur Facebook ces derniers mois.
Les publicités de Quantum AI, qui mettent également en vedette des personnalités publiques telles que Boris Johnson, Elon Musk, Jeff Bezos, Angelina Jolie et Ryan Reynolds, semblent avoir incité plusieurs personnes à verser de l'argent.
Le TBIJ a découvert plusieurs avis en ligne de personnes affirmant avoir perdu de l'argent à cause de Quantum AI après avoir été dupées par des vidéos truquées. L'une d'elles a déclaré avoir été escroquée de « centaines de dollars », tandis qu'une autre a affirmé avoir perdu toutes ses économies.
Malgré le blocage de nombreuses publicités par Meta, de nouvelles ont continué d'être lancées, générant chacune des milliers de vues.
La campagne semble avoir ciblé le monde entier, avec des vidéos adaptées à différents pays. Des images truquées provenaient de diffuseurs britanniques et irlandais, ainsi que de médias italiens, français, hongrois, polonais, allemands et néerlandais.
Au Royaume-Uni, l'arnaque a été présentée comme une initiative gouvernementale, tandis que des publicités ciblant les pays de l'UE mettaient en vedette la présidente de la Commission européenne, Ursula von der Leyen, et semblaient promouvoir « une nouvelle plateforme d'investissement rentable en Europe », appelée Partenariat européen. Cette dernière publicité présentait un site web contrefait promettant un rendement quotidien de 300 € pour chaque tranche de 300 € investie.
En février de cette année, un total de 1 200 publicités Meta mentionnant l'IA quantique étaient actives, dont certaines diffusaient des vidéos générées par l'IA.
Au Royaume-Uni, 321 publicités de Quantum AI, présentées comme concernant des questions sociales ou politiques, ont été vues jusqu'à 1,2 million de fois, coûtant aux escrocs entre 15 000 et 31 000 £. Mais les chiffres réels sont probablement bien plus élevés : toutes les publicités de Quantum AI n'étaient pas étiquetées ainsi et TBIJ a trouvé des vidéos identiques, mais étiquetées différemment.
Les escrocs semblent également avoir piraté plusieurs pages Facebook « vérifiées », notamment celles d'organisations ou de personnalités politiques en Bolivie, en Inde, au Mexique et au Brésil.
Outre les plateformes Meta, des comptes Quantum AI ont également été identifiés sur TikTok, YouTube et X (anciennement Twitter), qui hébergeaient toutes des vidéos deepfake promouvant l'arnaque. Toutes ces plateformes interdisent les contenus générés ou modifiés par l'IA qui induisent le public en erreur.
Un porte-parole de Meta a déclaré à TBIJ que l'entreprise avait supprimé les publicités en infraction, conformément à ses politiques.
Ils ont ajouté : « Meta dispose de systèmes spécialisés pour détecter les arnaques à célébrités, investit massivement dans des équipes d'évaluation formées, partage des conseils pour éviter les arnaques et propose des outils pour signaler d'éventuelles violations. Nous collaborons également avec les forces de l'ordre et engageons des poursuites judiciaires. »
Un porte-parole de Google a déclaré à TBIJ : « Nous avons détecté cette arnaque pour la première fois l'année dernière et avons pris des mesures coercitives importantes, notamment la suspension immédiate de plusieurs comptes d'annonceurs et la fermeture des chaînes YouTube associées. »
TikTok a indiqué à TBIJ avoir supprimé les vidéos signalées et effectuer des recherches supplémentaires pour des contenus similaires.