Une publicité, apparue sur des milliers de fils d'actualité Facebook cet été, présentait une vidéo modifiée de la porte-parole de la Maison-Blanche, Karoline Leavitt, lors d'un point de presse régulier. Elle semblait y annoncer que les Américains pouvaient réclamer un chèque d'aide de 5 000 dollars sur un site officiel du gouvernement. Une flèche, apparue ensuite, menait à un annonceur appelé Get Covered Today.
Des publicités similaires montraient des vidéos fabriquées des sénateurs Bernie Sanders du Vermont et Elizabeth Warren du Massachusetts promettant des réductions similaires qui n'existaient pas. « Ce n'est pas un stratagème », affirme l'usurpation d'identité de Mme Warren.
En fait, c'en était un.
Malgré cela, l'entreprise à l'origine de ces publicités et d'autres similaires figurait parmi les principaux annonceurs politiques sur Facebook, selon une analyse du Tech Transparency Project, une organisation à but non lucratif qui vise à responsabiliser les grandes entreprises technologiques.
Les publicités représentent une part lucrative des revenus publicitaires de Facebook, ce qui, selon les chercheurs du projet et d'autres, a conduit l'entreprise à fermer les yeux sur un flot de contenus de mauvaise qualité ou trompeurs, de spams et, dans certains cas, de fraudes flagrantes sur la plateforme.
« Meta est parfaitement conscient de ce type d'escroqueries », a déclaré Katie A. Paul, directrice du Tech Transparency Project. « Ils s'en fichaient complètement. »
Dans un rapport publié mercredi, le projet a identifié 63 annonceurs ayant, selon plusieurs critères, eu recours à des pratiques trompeuses ou frauduleuses. Ils représentent environ un cinquième des 300 plus gros dépensiers de la plateforme dans le domaine de la publicité politique ou sociale.
Au total, ils ont acheté près de 150 000 publicités, dépensant près de 49 millions de dollars au cours des sept dernières années, selon les données de la bibliothèque publicitaire de Facebook.
Les publicités de ces 63 annonceurs ont déjà été supprimées pour violation des politiques de Facebook, ce qui signifie que leurs pratiques trompeuses n'étaient pas inconnues. Meta en a suspendu certains, mais plus de la moitié ont pu continuer à publier de nouvelles publicités cette semaine encore. L'analyse suggère que même lorsque Facebook prend des mesures, il profite des annonceurs qui tentent d'escroquer ses utilisateurs.
« Le pire, c'est que Meta gagne des dizaines de millions de dollars grâce à ces publicités frauduleuses », a déclaré la sénatrice Warren dans un communiqué concernant son usurpation d'identité.
Elle a ajouté : « Nous devons mettre en place des garde-fous sérieux pour protéger les consommateurs en ligne. »
Facebook, propriété de Meta, interdit les publicités qui utilisent des « pratiques trompeuses ou mensongères identifiées, y compris les escroqueries visant à soutirer de l'argent ou à accéder à des informations personnelles ». Le réseau dispose de règles explicites contre les usurpations d'identité et a finalement supprimé la vidéo de Mme Leavitt, mais pas toutes les autres.
Dans un communiqué, l'entreprise a déclaré appliquer rigoureusement ses règles et investir dans la mise en place de nouvelles défenses techniques contre ce qu'elle qualifie de problème sectoriel. « Les escrocs sont implacables », précise le communiqué, « et leurs tactiques évoluent constamment pour échapper à la détection. »
Facebook est depuis longtemps confronté aux critiques concernant les publicités politiques qu'il sollicite sur la plateforme. L'entreprise a imposé des restrictions à ces publicités après leur utilisation par la Russie pour semer le mécontentement des électeurs lors de l'élection présidentielle de 2016, et les a totalement interdites pendant un certain temps après que le président Trump a tenté d'annuler l'élection de 2020.
Alors que les responsables gouvernementaux du monde entier signalent une forte augmentation de la fraude en ligne, Meta fait face à une pression accrue.
La semaine dernière, le gouvernement singapourien a donné à Meta jusqu'à la fin du mois pour sévir contre les publicités et autres publications frauduleuses, suite à une forte augmentation des contenus se faisant passer pour des fonctionnaires. Le gouvernement a menacé Meta d'une amende d'un montant initial de 770 000 dollars, augmentant quotidiennement, si Meta ne se conformait pas à cette obligation.
Aux États-Unis, l'entreprise a plaidé devant les tribunaux l'an dernier, affirmant qu'elle n'avait « pas d'obligation envers les utilisateurs » de lutter contre les contenus frauduleux, mais cet argument juridique semble insuffisant. Un tribunal fédéral californien a refusé la semaine dernière de rejeter une plainte accusant Facebook de négligence et de rupture de contrat pour complicité de fraude publicitaire.
« Si Facebook décline toute responsabilité quant au comportement de tiers, il assume la responsabilité de sa propre promesse de “prendre les mesures appropriées” pour lutter contre les publicités frauduleuses et de le faire de bonne foi », a déclaré le juge Jeffrey S. White, du tribunal de district américain du district nord de Californie, dans sa décision.
Meta conserve les publicités politiques dans sa bibliothèque pendant sept ans par mesure de transparence après l'opération d'influence russe de 2016. Les publicités des autres catégories ne sont pas conservées après leur diffusion, ce qui complique l'étude de l'ampleur des escroqueries parmi celles-ci.
Facebook impose des exigences spécifiques aux annonceurs politiques, exigeant par exemple qu'ils soient des sociétés enregistrées aux États-Unis. Le processus de soumission et d'approbation des publicités diffusées sur la plateforme est largement automatisé, ce qui permet aux acteurs malhonnêtes de passer inaperçus, selon les experts.
Certains annonceurs étudiés par le Tech Transparency Project incluaient des coordonnées aux Philippines, au Bangladesh, au Vietnam ou en Grande-Bretagne, ce qui aurait vraisemblablement dû les disqualifier.
« Vous pouvez être n'importe qui », a déclaré Iesha White, directrice du renseignement chez Check My Ads, un groupe de défense des intérêts du secteur de la publicité numérique qui n'a pas participé à l'analyse du Tech Transparency Project. « Il n'y a pas de contrôle rigoureux. »
Meta, a-t-elle expliqué, contrôle son application de manière participative, en attendant que les utilisateurs ou les chercheurs signalent les fraudes. « Les fraudes devraient être identifiées avant même la diffusion des publicités. »
De nombreuses publicités semblent cibler des utilisateurs plus âgés et conservateurs. Elles réagissent souvent rapidement aux événements à forte connotation politique.
Le jour de la cérémonie commémorative de Charlie Kirk, le 21 septembre, une publicité est apparue demandant si l'on pouvait pardonner à son assassin, comme l'affirmait sa femme, Erika. « Cliquez pour voter maintenant », indiquait-elle, promettant une casquette rouge « We Are Charlie Kirk » à ceux qui le feraient – gratuitement, à l'exception de 0,99 € pour couvrir les frais de port.
De nombreuses publicités mises en avant par les chercheurs réagissent rapidement aux événements à forte connotation politique, comme celle-ci, publiée le jour même de la commémoration du militant conservateur Charlie Kirk.
Bien que la casquette soit apparemment gratuite, elle nécessitait un abonnement mensuel plus coûteux auprès d'un fournisseur de vêtements et autres articles se faisant appeler End the Wokeness. Saisir une carte de crédit pour régler les frais de port modiques entraînait automatiquement l'inscription à l'abonnement.
La Commission fédérale du commerce (FTC) a mis en garde les consommateurs contre les sites web qui les inscrivent à des abonnements indésirables.
Sculpin Media, l'entreprise qui opère sous le nom d'End the Wokeness, a répertorié des administrateurs de pages aux Philippines et aux États-Unis. Elle se présente comme une boutique de vêtements et une entreprise de médias, et opère depuis un petit bureau situé à côté d'un vendeur d'épices et d'un détaillant automobile, dans un entrepôt en briques bas, près de l'ancienne décharge Fresh Kills à Staten Island.
Un homme, se présentant comme copropriétaire de l'entreprise, a semblé surpris qu'un journaliste ait trouvé le bureau. Il a reconnu avoir placé les annonces, mais a refusé de s'exprimer publiquement. Il a déclaré que le personnel s'inquiétait d'éventuelles menaces de violence politique.
À l'intérieur du bureau se trouvaient des cartons de casquettes de baseball rouges portant le slogan MAGA 2028. Le site web d'End the Wokeness est consacré à la vente de bibelots sur le thème de Trump et de MAGA. Parmi les derniers produits, on trouve un « Kit de sculpture de citrouille Patriot », un pochoir représentant la photo d'identité judiciaire de M. Trump. La page Facebook de l'entreprise contient de nombreux messages d'utilisateurs se plaignant de son système d'abonnement ou demandant des remboursements.
End the Wokeness, l'un des annonceurs dont le contenu a été retiré de Facebook pour violation des règles de l'entreprise, vend également des bibelots sur le thème de Trump et de MAGA.
En août, la Commission fédérale du commerce (FTC) a averti que les escroqueries ciblant les Américains âgés en se faisant passer pour des représentants du gouvernement ou des entreprises avaient quadruplé entre 2020 et l'année dernière.
Les fraudes sur les réseaux sociaux et autres sites web dépassent désormais de loin celles par SMS ou par téléphone. La diffusion d'outils commerciaux utilisant l'intelligence artificielle a clairement contribué à la multiplication des publicités trompeuses, facilitant leur production et leur diffusion.
« Cela s'inscrit dans un problème bien plus vaste : l'IA progresse rapidement, mais les lois et les protections mises en place pour les Américains ordinaires sont dangereusement obsolètes », a déclaré M. Sanders dans un communiqué en réponse à une demande d'information concernant son deepfake.
La publicité mettant en vedette Mme Leavitt a été publiée par l'un des quatre annonceurs liés à une société se faisant appeler RFY News Group. Personne n'a répondu au message laissé à un numéro indiqué dans la bibliothèque publicitaire.
Ni Mme Leavitt ni la Maison Blanche n'ont répondu à une demande de commentaires concernant les vidéos trompeuses.
Meta a suspendu les comptes de deux des quatre annonceurs impliqués en août, alors qu'ils diffusaient déjà des publicités depuis plusieurs semaines. Deux autres semblent avoir été supprimés cette semaine suite à des demandes d'informations concernant les recherches du Tech Transparency Project, qui suit RFY News Group depuis plus d'un an.
Les chercheurs estiment que Meta pourrait faire davantage pour limiter ce type de publicités et faire preuve de plus de transparence quant à l'application de ses propres règles. L'entreprise a donc réduit ses efforts de modération des contenus politiques et réduit ses équipes chargées de la sécurité de la plateforme.
« Le pendule a basculé vers des considérations de revenus à court terme au détriment de la santé à long terme de la plateforme et de l'écosystème », a déclaré Rob Leathern, ancien employé de Meta qui a contribué à la création de la bibliothèque publicitaire et qui dirige aujourd'hui Hawkview Labs, une entreprise qui accompagne les start-ups dans le domaine de la confiance et de la sécurité en ligne. « Peut-être qu'à un moment donné, il faudra inverser la tendance. »