Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 6362

Incidents associés

Incident 12682 Rapports
Meta's Automated Ad and Targeting Systems Reportedly Enabled Large-Scale Fraud Revenue

Loading...
Meta engrange des fortunes grâce à un déluge de publicités frauduleuses, selon des documents.
reuters.com · 2025

Selon des documents internes, Meta prévoyait fin 2024 que la publicité pour des arnaques et des produits interdits représenterait environ 10 % de son chiffre d'affaires annuel total, soit 16 milliards de dollars. Un ensemble de documents inédits, consultés par Reuters, révèle également que le géant des réseaux sociaux n'a pas réussi, pendant au moins trois ans, à identifier ni à stopper le déferlement de publicités exposant les milliards d'utilisateurs de Facebook, Instagram et WhatsApp à des arnaques en ligne (commerce électronique et placements), des casinos en ligne illégaux et la vente de produits médicaux interdits. Un document de décembre 2024 indique que l'entreprise diffuse en moyenne chaque jour aux utilisateurs de ses plateformes environ 15 milliards de publicités frauduleuses « à haut risque », c'est-à-dire présentant des signes évidents de fraude. Un autre document de fin 2024 précise que Meta tire environ 7 milliards de dollars de revenus annuels de cette catégorie de publicités frauduleuses. Une grande partie de ces fraudes provenait de spécialistes du marketing dont les agissements suspects ont été signalés par les systèmes d'alerte internes de Meta. Cependant, l'entreprise n'interdit les annonceurs que si ses systèmes automatisés prévoient une probabilité d'au moins 95 % de fraude, comme le révèlent les documents. Si l'entreprise est moins certaine, mais soupçonne tout de même l'annonceur d'escroquerie, Meta applique des tarifs publicitaires plus élevés à titre de sanction, toujours selon les documents. L'objectif est de dissuader les annonceurs suspects de diffuser des publicités. Les documents indiquent également que les utilisateurs qui cliquent sur des publicités frauduleuses sont susceptibles d'en voir davantage en raison du système de personnalisation publicitaire de Meta, qui tente de diffuser des publicités en fonction des centres d'intérêt de l'utilisateur. Les détails de l'auto-évaluation confidentielle de Meta proviennent de documents créés entre 2021 et cette année par les divisions finance, lobbying, ingénierie et sécurité de Meta. Ensemble, ils témoignent des efforts déployés par Meta pour quantifier l'ampleur des abus sur ses plateformes et de sa réticence à sévir d'une manière qui pourrait nuire à ses intérêts commerciaux. L'acceptation par Meta de revenus provenant de sources qu'elle soupçonne de fraude met en lumière le manque de contrôle réglementaire sur le secteur de la publicité, a déclaré Sandeep Abraham, expert en fraude et ancien enquêteur de sécurité chez Meta, qui dirige aujourd'hui le cabinet de conseil Risky Business Solutions. « Si les autorités de régulation ne tolèrent pas que les banques profitent de la fraude, elles ne devraient pas le tolérer dans le secteur technologique », a-t-il déclaré à Reuters. Dans un communiqué, le porte-parole de Meta, Andy Stone, a affirmé que les documents consultés par Reuters « présentent une vision sélective qui déforme l'approche de Meta en matière de fraude et d'escroqueries ». L'estimation interne de l'entreprise, selon laquelle 10,1 % de son chiffre d'affaires de 2024 proviendrait d'escroqueries et d'autres publicités interdites, était « approximative et trop large », a déclaré M. Stone. L'entreprise a par la suite déterminé que le chiffre réel était inférieur, car l'estimation incluait également « de nombreuses » publicités légitimes, a-t-il précisé. Il a refusé de fournir un chiffre actualisé. « Cette évaluation visait à valider nos investissements prévus en matière d'intégrité – notamment dans la lutte contre la fraude et les escroqueries – ce que nous avons fait », a conclu M. Stone. Il a ajouté : « Nous luttons activement contre la fraude et les escroqueries car les utilisateurs de nos plateformes ne veulent pas de ce type de contenu, les annonceurs légitimes non plus, et nous non plus. » « Au cours des 18 derniers mois, nous avons réduit de 58 % les signalements d'annonces frauduleuses à l'échelle mondiale et, depuis le début de l'année 2025, nous avons supprimé plus de 134 millions de contenus publicitaires frauduleux », a déclaré Stone. Certains documents montrent que Meta s'est engagée à faire davantage. « Nous avons des objectifs ambitieux pour réduire les escroqueries publicitaires en 2025 », indique un document de 2024, Meta espérant réduire ces annonces de 50 % sur certains marchés. Ailleurs, des documents montrent des responsables félicitant leurs équipes pour leurs efforts fructueux de réduction des escroqueries. Parallèlement, ces documents indiquent que les propres recherches de Meta suggèrent que ses produits sont devenus un pilier de l'économie mondiale de la fraude. Une présentation de mai 2025, réalisée par son équipe de sécurité, estimait que les plateformes de l'entreprise étaient impliquées dans un tiers des escroqueries réussies aux États-Unis. Meta reconnaissait également, dans d'autres documents internes, que certains de ses principaux concurrents luttaient plus efficacement contre la fraude sur leurs plateformes. « Il est plus facile de faire la promotion d'escroqueries sur les plateformes Meta que sur Google », concluait une analyse interne de Meta, menée en avril 2025 sur les communautés en ligne où les escrocs discutent de leurs activités. Le document n'expose pas les raisons de cette conclusion. Ces révélations surviennent alors que les autorités de régulation du monde entier pressent l'entreprise de renforcer la protection de ses utilisateurs contre la fraude en ligne. Aux États-Unis, la Securities and Exchange Commission (SEC) enquête sur Meta pour diffusion de publicités pour des escroqueries financières, selon les documents internes. Au Royaume-Uni, un organisme de régulation a déclaré l'année dernière avoir constaté que les produits de Meta étaient impliqués dans 54 % des pertes liées aux escroqueries aux paiements en 2023, soit plus du double de toutes les autres plateformes sociales réunies. La SEC et l'autorité de régulation britannique n'ont pas répondu aux questions posées pour ce reportage. Stone, de Meta, a renvoyé Reuters aux dernières déclarations de l'entreprise auprès de la SEC, qui indiquent que les efforts déployés par Meta pour lutter contre la publicité illicite « affectent négativement nos revenus, et nous prévoyons que le renforcement continu de ces efforts aura un impact significatif sur nos revenus futurs ». La pression réglementaire exercée sur Meta pour qu'elle renforce sa lutte contre les arnaques survient alors que l'entreprise, engagée dans une course contre la montre avec ses concurrents, investit massivement dans l'intelligence artificielle et prévoit jusqu'à 72 milliards de dollars de dépenses d'investissement cette année. Tout en reconnaissant que ces dépenses représentent « un capital considérable », le PDG Mark Zuckerberg a cherché à rassurer les investisseurs quant à la capacité de Meta à les financer grâce à son activité publicitaire. « Nous disposons des capitaux nécessaires grâce à notre activité », a-t-il déclaré en juillet, lors de l'annonce de la construction, par Meta, d'un centre de données dans l'Ohio, d'une superficie équivalente à celle de Central Park à New York, afin de soutenir l'IA. Dans ses documents internes, Meta compare le coût du renforcement de sa lutte contre les publicités frauduleuses au risque d'amendes infligées par les gouvernements pour manquement à son devoir de protection des utilisateurs. Les documents indiquent clairement que Meta vise à réduire ses revenus illicites à l'avenir. Cependant, l'entreprise craint que des baisses brutales des revenus publicitaires issus de la fraude n'affectent ses prévisions commerciales, selon un document de 2025 qui analyse l'impact des « revenus non conformes » – les revenus provenant de publicités qui enfreignent les normes de Meta, comme les arnaques, les jeux d'argent illégaux, les services sexuels ou les produits de santé douteux. Les documents précisent que Meta prévoit de réduire la part des revenus de Facebook et d'Instagram provenant de ces publicités. Parallèlement, Meta a reconnu en interne que des amendes réglementaires pour publicité frauduleuse sont inévitables et anticipe des sanctions pouvant atteindre 1 milliard de dollars, selon un document interne. Toutefois, ces amendes seraient bien inférieures aux revenus de Meta provenant de ces publicités, comme le souligne un autre document de novembre 2024. Tous les six mois, Meta encaisse 3,5 milliards de dollars rien que grâce à la part des publicités frauduleuses qui « présentent un risque juridique plus élevé », indique le document, notamment celles qui prétendent faussement représenter une marque ou une personnalité publique, ou qui présentent d'autres signes de tromperie. Ce chiffre dépasse très certainement « le coût de tout règlement réglementaire concernant les publicités frauduleuses ». Plutôt que d'accepter volontairement de renforcer le contrôle des annonceurs, indique le même document, la direction de l'entreprise a décidé d'agir uniquement en réaction à une action réglementaire imminente. Stone a contesté les affirmations des documents stratégiques selon lesquelles Meta ne devrait agir que sous la contrainte. « Ce n'est pas la politique de l'entreprise », a-t-il déclaré. > Il est plus facile de diffuser des publicités frauduleuses sur les plateformes Meta que sur Google. Analyse interne de Meta datant d'avril 2025. Meta a également imposé des limites au montant de revenus qu'elle est prête à perdre en agissant contre les annonceurs suspects, précisent les documents. Au premier semestre 2025, indique un document de février, l'équipe chargée de vérifier les annonceurs douteux n'était pas autorisée à prendre des mesures susceptibles de coûter à Meta plus de 0,15 % de son chiffre d'affaires total. Cela représente environ 135 millions de dollars sur les 90 milliards générés par Meta au premier semestre 2025. « Soyons prudents », a écrit le responsable en charge du projet, précisant que le manque à gagner autorisé incluait à la fois les publicités frauduleuses et les publicités « légitimes » bloquées par erreur. « Nous avons mis en place des garde-fous précis en matière de revenus. » Stone, de Meta, a indiqué que le chiffre de 0,15 % cité provenait d'un document de prévision des revenus et ne constituait pas une limite absolue. Face à la pression croissante pour renforcer la lutte contre les arnaques sur les plateformes de Meta, les dirigeants ont présenté à Zuckerberg, en octobre 2024, un plan prônant une approche modérée de la lutte contre les arnaques. Au lieu d'une répression rapide, l'entreprise concentrerait ses efforts sur les pays où elle craignait des mesures réglementaires à court terme, selon un document détaillant la stratégie. Suite à la réunion avec le PDG, les dirigeants de Meta chargés de garantir l'intégrité des plateformes de l'entreprise ont décidé de réduire la part du chiffre d'affaires liée aux escroqueries, aux jeux d'argent illégaux et aux produits prohibés, estimée à 10,1 % en 2024, à 7,3 % fin 2025. Meta ambitionne de ramener ce chiffre à 6 % fin 2026, puis à 5,8 % en 2027, comme l'indiquent la note stratégique et d'autres documents. ### UNE HAUSSE DES FRAUDE EN LIGNE En 2022, comme le souligne un document de cette année-là, Meta a découvert un réseau de comptes, dont le montant s'élevait à plusieurs centaines de milliers de dollars, se faisant passer pour des militaires américains déployés en zones de guerre. Ces comptes envoyaient des millions de messages par semaine, tentant d'escroquer les utilisateurs de Facebook. Le chantage sexuel – où des escrocs obtiennent des images à caractère sexuel d'un utilisateur, souvent adolescent, sous de faux prétextes, puis le font chanter – devenait également monnaie courante sur les plateformes de Meta. Un flot de faux comptes se faisant passer pour des célébrités ou représentant de grandes marques de consommation trompait les utilisateurs du monde entier. Malgré cette recrudescence de la fraude en ligne, un document de 2022 souligne le « manque d'investissement » de l'entreprise dans la détection automatisée des arnaques à l'époque. Meta classait les publicités frauduleuses comme un problème « mineur », les considérant comme une simple « mauvaise expérience utilisateur », précise le document. Des documents internes montrent que Meta demandait alors à ses employés de se concentrer principalement sur les fraudeurs se faisant passer pour des célébrités et usurpant l'identité de grandes marques. Ces « escroqueries par usurpation d'identité » risquaient de mécontenter les annonceurs et les personnalités publiques, indique un document de 2022, et menaçaient ainsi de réduire l'engagement des utilisateurs et les revenus. Mais les licenciements en cours chez Meta entravaient l'application des mesures. Un document de planification pour le premier semestre 2023 indique que tous les membres de l'équipe chargée des questions de droits de marque des annonceurs avaient été licenciés. L'entreprise consacrait également des ressources considérables à la réalité virtuelle et à l'IA, si bien que le personnel de sécurité a reçu l'ordre de limiter son utilisation des ressources informatiques de Meta. On leur avait simplement demandé de « maintenir le service opérationnel ». Stone a déclaré que malgré des licenciements, l'entreprise avait considérablement renforcé ses effectifs chargés de lutter contre les publicités frauduleuses ces dernières années. Meta ignorait également la grande majorité des signalements d'escroqueries effectués par les utilisateurs, comme l'indique un document de 2023. Cette année-là, les équipes de sécurité estimaient que les utilisateurs de Facebook et d'Instagram déposaient chaque semaine environ 100 000 signalements valides de messages frauduleux, précise le document. Or, Meta en ignorait ou rejetait à tort 96 %. L'équipe de sécurité de Meta a pris la résolution d'améliorer la situation. À l'avenir, l'entreprise espérait ne pas rejeter plus de 75 % des signalements d'escroqueries valides, selon un autre document de 2023. Erin West, ancienne procureure du comté de Santa Clara et aujourd'hui directrice d'une association à but non lucratif de lutte contre les escroqueries, a déclaré que la réaction par défaut de Meta face aux signalements de fraude était de les ignorer. « Je ne crois pas avoir déjà vu un contenu supprimé suite à un seul signalement », a-t-elle affirmé. En octobre dernier, une recruteuse de l'Aviation royale canadienne s'est réveillée et a constaté que son compte Facebook était bloqué. La femme, qui a témoigné sous couvert d'anonymat en raison de son statut militaire, avait été victime d'un piratage. Peu après, une photo d'un faux badge d'employé à son effigie est apparue sur son compte, accompagnée du texte : « Je suis ravie d'annoncer que je suis certifiée en cryptomonnaie. » La recruteuse a déclaré avoir immédiatement signalé le problème à plusieurs reprises auprès de Meta. Les semaines passant sans réponse, son compte a commencé à affirmer qu'elle avait fait fortune dans les cryptomonnaies – allant même jusqu'à acquérir un terrain pour y construire la maison de ses rêves – et qu'elle souhaitait offrir la même opportunité à ses amis. La recruteuse a expliqué que son supérieur avait tenté de contacter la Gendarmerie royale du Canada (GRC), mais qu'on lui avait répondu que Meta ne répondait généralement pas aux signalements de comptes piratés provenant de la GRC. La recruteuse a donc averti ses amis de ne pas interagir avec son compte et leur a demandé de le signaler également à Meta. Sollicitée à ce sujet, la GRC a indiqué qu'elle recevait régulièrement des signalements d'abus sur des plateformes comme Meta, mais a refusé de commenter ce cas précis. Aucune suite n'a été donnée. Environ un mois plus tard, Mike Lavery, un ancien officier de l'armée canadienne avec qui la recruteuse avait travaillé des années auparavant, l'a appelée. Il avait perdu 40 000 $ CA (environ 28 000 $ US) après avoir investi dans cette arnaque aux cryptomonnaies. « Je pensais parler à une amie de confiance, quelqu'un qui jouit d'une excellente réputation », a déclaré Lavery à Reuters au sujet du compte Facebook piraté de la recruteuse. « Du coup, j'ai baissé ma garde. » La recruteuse a confié avoir pleuré lorsque Lavery lui a raconté ce qui s'était passé. « Des gens étaient lésés parce qu'ils me faisaient confiance », a-t-elle déclaré. Elle a ajouté avoir supplié ses amis de continuer à signaler son compte frauduleux. « Des dizaines de personnes l'ont signalé, à plusieurs reprises chacune », a-t-elle précisé, estimant que Meta avait reçu plus de 100 signalements. Lorsque Meta a finalement désactivé son compte piraté, au moins quatre autres collègues militaires avaient déjà été victimes d'escroquerie, a-t-elle indiqué. Brian Mason, enquêteur de la police d'Edmonton, a pu retracer 65 000 $ CA des fonds volés aux victimes jusqu'au Nigéria. Mais récupérer l'argent serait probablement difficile, voire impossible, a-t-il déclaré à Reuters, car « l'argent a été transféré sur des comptes bancaires au Nigéria auxquels nous n'avons pas accès ». Meta a refusé de commenter le piratage du compte du recruteur de l'armée de l'air ou ses victimes. ### COMMENT META LUTTE CONTRE LA FRAUDE En interne, Meta qualifie les escroqueries de ce type d'« organiques », c'est-à-dire qu'elles n'impliquent pas de publicités payantes sur ses plateformes. Les escroqueries organiques comprennent les petites annonces frauduleuses publiées gratuitement sur Facebook Marketplace, les faux profils de rencontres et les charlatans vantant de faux remèdes dans les groupes de soutien aux personnes atteintes de cancer. Selon une présentation de décembre 2024, la base d'utilisateurs de Meta est exposée à 22 milliards de tentatives d'escroquerie organique chaque jour. Cela s'ajoute aux 15 milliards de publicités frauduleuses présentées quotidiennement aux utilisateurs. La lutte contre la fraude menée par Meta ne permet pas de détecter une grande partie des activités frauduleuses sur ses plateformes, comme l'indiquent certains documents. Après que la police de Singapour a remis à Meta une liste de 146 exemples d'escroqueries ciblant les utilisateurs du pays l'automne dernier, l'équipe de Meta a constaté que seulement 23 % d'entre elles violaient réellement les règles de la plateforme. Les 77 % restantes « contreviennent à l'esprit du règlement, mais pas à la lettre », comme l'indique une présentation de Meta concernant les rapports de police. Parmi les pratiques commerciales trompeuses signalées par la police singapourienne et auxquelles Meta n'a pas réagi, on trouve des offres trop belles pour être vraies (80 % de réduction sur une marque de mode de luxe), des promotions pour de faux billets de concert et des offres d'emploi publiées par des entités se faisant passer pour de grandes entreprises technologiques. D'autres membres de l'équipe de sécurité de Meta ont également documenté des cas où les règles de l'entreprise en matière d'escroqueries ne semblaient pas couvrir des comportements manifestement malveillants. En avril, des employés ont découvert 250 000 $ d'annonces frauduleuses de cryptomonnaies provenant d'un compte prétendant appartenir au Premier ministre canadien. « Les règles actuelles ne permettraient pas de signaler ce compte ! », indique un document interne. Stone, de Meta, a déclaré que les annonces avaient été supprimées pour d'autres raisons. Le cabinet du Premier ministre n'a pas répondu à notre demande de commentaires. ### LISTE DES « ESCROCS LES PLUS MALVEILLANTS » ET « SANS-BAIL » Même lorsque les annonceurs sont pris en flagrant délit, les règles peuvent être clémentes, selon les documents. Un petit annonceur devrait être signalé pour promotion de fraude financière au moins huit fois avant que Meta ne le bloque, indique un document de 2024. Certains annonceurs aux dépenses plus importantes – appelés « Comptes à Valeur Élevée » – pourraient accumuler plus de 500 avertissements sans que Meta ne les ferme, selon d'autres documents. Les campagnes publicitaires frauduleuses peuvent atteindre des proportions considérables : quatre campagnes supprimées par Meta plus tôt cette année étaient responsables de 67 millions de dollars de recettes publicitaires mensuelles, selon un document consulté par Reuters. Pour attirer l'attention sur les défaillances perçues de l'entreprise, un employé a commencé, en début d'année, à publier des rapports mettant en lumière le « pire escroc » de la semaine. Ce rapport dressait le profil de l'annonceur ayant reçu le plus de plaintes d'utilisateurs pour escroquerie au cours de la semaine précédente. L'initiative a été saluée par ses collègues. Cependant, être cité dans le rapport ne suffisait pas toujours à faire fermer ces comptes. Une vérification effectuée par Reuters sur cinq comptes mentionnés dans un rapport du « pire escroc » a révélé que deux étaient toujours actifs plus de six mois plus tard, dont un diffusant des publicités pour des casinos en ligne illégaux. Après que Reuters a signalé ces deux comptes à Meta, ils ont été supprimés. Reuters n'a pas réussi à contacter les entités qui les géraient. L'année dernière, l'entreprise a développé une approche novatrice pour réduire la publicité frauduleuse et limiter ses coûts de lutte contre la fraude : elle a commencé à facturer davantage les fraudeurs présumés. Pour faire de la publicité sur les plateformes de Meta, une entreprise doit participer à une enchère en ligne. Avant les enchères, les systèmes automatisés de l'entreprise calculent la probabilité qu'un annonceur soit impliqué dans une fraude. Selon la nouvelle politique de Meta, les annonceurs soupçonnés de fraude, même s'ils ne répondent pas aux critères de suppression fixés par Meta, devront payer davantage pour remporter une enchère. Des documents datant de l'été dernier décrivaient ces « pénalités » comme un élément central des efforts de Meta pour lutter contre la fraude. Les annonceurs soupçonnés de fraude devront payer plus cher à Meta pour remporter les enchères publicitaires, ce qui impactera leurs profits et réduira le nombre d'utilisateurs exposés à leurs publicités. Pour Meta, l'impact financier sera mitigé : si l'entreprise vendra moins d'annonces frauduleuses, elle gagnera davantage d'argent sur celles-ci, compensant ainsi une partie du manque à gagner. Stone a déclaré que l'objectif de cette initiative était de réduire globalement la publicité frauduleuse en rendant les annonceurs suspects moins compétitifs lors des enchères publicitaires de Meta. Dans les mois qui ont suivi la mise en place du système de pénalités, Stone a indiqué que les tests ont montré à la fois une baisse des signalements de fraude et une légère diminution des revenus publicitaires globaux.

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd