Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 6331

Incidents associés

Incident 12072 Rapports
Purported AI-Generated Deepfake of Irish Fine Gael Presidential Candidate Heather Humphreys Used in Fake Investment Videos on Meta Platforms

Incident 123626 Rapports
Quantum AI Scam Reportedly Used AI-Generated Celebrity Endorsements and Spoofed Media Sites to Solicit Investments

Loading...
Les escrocs à l'investissement profitent des failles de la législation européenne sur les géants de la tech.
investigate-europe.eu · 2025

Boris Pistorius fixe la caméra droit dans les yeux. Le ministre allemand de la Défense s'adresse à la nation, évoquant « une évolution rapide, de nouveaux emplois et des technologies de pointe » qui placeront l'Allemagne à l'avant-garde de l'économie mondiale. À la fin de la vidéo, Pistorius déclare aux internautes sur Facebook que ce nouveau programme gouvernemental « garantira des profits » à chaque citoyen. Heather Humphreys, femme politique du Fine Gael et candidate à la présidence de l'Irlande, apparaît dans un article relayé sur Facebook : « Je suis ravie de présenter Quantum AI, une plateforme permettant aux familles irlandaises d'atteindre l'indépendance financière », annonce-t-elle depuis une tribune. « La plateforme permet de démarrer avec un investissement minimum de seulement 300 €, et en 24 heures, vous pouvez commencer à recevoir des paiements allant jusqu'à 4 500 € par semaine. » Humphreys assure que le gouvernement irlandais, en collaboration avec ses institutions financières, a désormais « rendu ce processus accessible et sécurisé ». Or, ni Humphreys ni Pistorius n'ont jamais tenu de tels propos. Ces vidéos s'inscrivent dans une vague croissante de faux élaborés, générés par intelligence artificielle grâce à des logiciels de clonage vocal de pointe et diffusés à l'infini sous forme de publicités financières payantes sur les réseaux sociaux, notamment Facebook, TikTok et Instagram. Derrière ces vidéos se cache un commerce florissant fondé sur la tromperie : des arnaques à l'investissement qui utilisent des deepfakes de plus en plus sophistiqués, des articles de presse falsifiés et de faux témoignages pour créer l'illusion de programmes officiels ou de recommandations de célébrités. Ce type d'arnaque, promu par ces deepfakes de célébrités, a fait ses preuves, comme peuvent en témoigner d'innombrables victimes à travers l'Europe. Si un internaute apprécie le contenu d'une publicité et clique sur le lien, il est invité à saisir ses coordonnées. Une fois son nom et son numéro de téléphone enregistrés dans une base de données, un « conseiller financier » le contacte rapidement, lui demandant par exemple un premier dépôt de 250 €. Lorsque les utilisateurs deviennent des investisseurs convaincus, le démarchage agressif commence : des agents traquent leurs cibles pendant des semaines, des mois, voire des années, parfaitement formés pour les inciter à investir des sommes importantes. Les victimes voient apparaître des écrans de fausses plateformes de trading affichant des profits initiaux. Encouragées, elles doublent, voire triplent, leur investissement initial. Elles ne réalisent le problème qu'au moment de retirer leurs gains supposés. Soudain, les transferts sont bloqués et les agents deviennent injoignables. À ce stade, les pertes peuvent aller de quelques centaines d'euros à plus d'un million dans certains cas. Cette escroquerie opportuniste est en pleine expansion à l'échelle mondiale, des dirigeants politiques et des personnalités influentes soutenant activement les cryptomonnaies spéculatives et légitimant ainsi de tels investissements. Les enquêteurs européens, les forces de l'ordre et les experts en cybercriminalité sont de plus en plus alarmés par l'ampleur et la sophistication des fraudes à l'investissement en ligne qui inondent les réseaux sociaux. En septembre dernier, la commissaire européenne à la technologie, Henna Virkkunen, a indiqué que les Européens perdent plus de 4 milliards d'euros par an à cause de publicités frauduleuses pour des arnaques financières en ligne. Au cours des six derniers mois, Investigate Europe a révélé comment les systèmes de fraude à l'investissement en ligne, alimentés par des centres d'appels illégaux présumés et amplifiés par l'intelligence artificielle, se sont implantés en Europe. L'analyse des échanges privés de courriels et de SMS entre escrocs et leurs victimes, ainsi que des entretiens avec des dizaines de victimes, ont révélé l'ampleur des arnaques dont sont victimes les Européens, victimes de systèmes d'investissement frauduleux qui pullulent sur les réseaux sociaux. Des journalistes ont mené plus de 100 entretiens avec des procureurs, des modérateurs de contenu, des fonctionnaires de l'UE, des spécialistes de la cybercriminalité et des employés de banque, mettant en lumière l'incapacité de l'Europe à protéger ses citoyens du risque de ruine financière. #### À la recherche d'escroqueries : Valentine Auer connaît parfaitement les rouages de l'escroquerie. Cette chercheuse en technologies dirige une équipe de lutte contre la fraude en ligne à l'Institut viennois des télécommunications appliquées, désigné « signaleur agréé » pour l'Autriche. Créés par la Commission européenne, les signaleurs agréés ont officiellement débuté leurs activités en 2024 afin de renforcer la sécurité en ligne, conformément à la loi sur les services numériques (DSA), texte phare de l'Union européenne relatif aux contenus publiés en ligne, adopté deux ans auparavant. Avec trois collègues, Auer traque des contenus spécifiques sur les grandes plateformes et les moteurs de recherche comme Facebook, Instagram et Google, repérant et demandant le retrait des publicités nuisibles et illégales – notamment les publications ou publicités liées à des arnaques à l'investissement, à la pédopornographie et aux discours haineux. En parcourant la bibliothèque publicitaire de Meta – un répertoire de publicités payantes diffusées sur toutes les plateformes appartenant à Meta, dont Instagram et Facebook – Auer révèle l'ampleur du problème. Avec seulement quelques dizaines de mots-clés, elle et ses collègues font apparaître une avalanche de fausses publicités financières, souvent quasi identiques, certaines légèrement modifiées pour contourner les filtres automatiques. « On voit toujours les mêmes techniques : des vidéos diffusées pendant quelques heures seulement, des comptes de célébrités piratés et utilisés à des fins publicitaires », explique-t-elle. « En peu de temps, nous avons trouvé des dizaines de milliers de publicités mettant en scène des personnalités connues, dont la vidéo de Boris Pistorius, manifestement générée par une IA. » Les recherches d'Auer montrent la facilité avec laquelle on trouve ces publicités, mais pas la difficulté à obtenir leur retrait des plateformes Meta. « Si nous signalons seulement quelques publicités, elles sont souvent retirées [par la plateforme] en quelques jours », explique-t-elle. « Mais si nous en soumettons des lots plus importants, Meta cesse soudainement de répondre ou prétend que le contenu n'est pas disponible pour le moment, alors que nous savons qu'il est toujours en ligne. » Auer, comme tous les « signaleurs de confiance » de l'UE, n'est autorisée à signaler que 20 URL par signalement aux plateformes Meta. Compte tenu du nombre de publicités suspectes qui inondent quotidiennement ces plateformes, le travail de surveillance des contenus d'Auer est fastidieux et chronophage. Les signaleurs de confiance comprennent des institutions financières, des ONG ou des entreprises privées sélectionnées par les autorités nationales pour leur expertise dans un domaine donné, comme la fraude, la protection de l'enfance, les discours haineux ou la cyberviolence. Ce rôle n'est pas rémunéré par les autorités ni par les plateformes, mais les signaleurs bénéficient d'un statut prioritaire pour communiquer avec les entreprises technologiques via des canaux dédiés et des signalements personnalisés. Ils sont indépendants des modérateurs internes embauchés par les grandes plateformes pour filtrer les contenus préjudiciables, ainsi que des prestataires externes. Face à l'immense quantité de contenus auxquels des centaines de millions d'internautes européens sont exposés quotidiennement, les nouveaux organismes de signalement de confiance sont confrontés à une tâche ardue. Actuellement, seules 46 organisations de signalement de confiance sont actives dans 17 États membres de l'UE, selon une analyse d'Investigate Europe, chacune se concentrant sur ses propres domaines de spécialisation. Plus d'un tiers des États membres de l'UE ne disposent d'aucune organisation de signalement désignée et opérationnelle. Malgré les efforts déployés par des organismes de surveillance comme Auer, de nombreuses autorités nationales et des experts affirment que les grandes entreprises technologiques et la Commission européenne peinent à endiguer une menace criminelle en constante évolution. « Les groupes criminels organisés, autrefois impliqués dans le trafic de drogue, d'armes et d'êtres humains, se tournent de plus en plus vers la criminalité économique », déclare Sebastian Takle, de la banque norvégienne DNB. Les escroqueries en ligne atteignent une ampleur sans précédent. La Commission européenne a récemment qualifié les escroqueries financières en Europe de « risque systémique » pour la protection des consommateurs. En 2024, Europol a ouvert une enquête officielle sur Meta pour publicité mensongère et, le mois dernier, a demandé à d'autres géants de la tech comme Apple, Google et Microsoft de démontrer leur conformité aux règles « Connaître son entreprise et son client » (KYC) sur leurs applications. Selon Europol, ces règles permettent d'« identifier les entités suspectes avant qu'elles ne causent des dommages ». En mars dernier, un rapport d'Europol sur la criminalité organisée alertait sur le fait que les escroqueries financières en ligne, « alimentées par les progrès de l'automatisation et de l'IA, ont atteint une ampleur sans précédent et devraient continuer de croître ». En réponse, les forces de police ont lancé des opérations de grande envergure en Finlande, en Allemagne, en Belgique, en Lettonie, à Chypre et au Royaume-Uni, démantelant des réseaux à la tête d'escroqueries sophistiquées et tentaculaires, ciblant des personnes en Europe et dans le monde entier. Les autorités norvégiennes et allemandes affirment que les pertes dues aux escroqueries financières dépassent désormais celles des autres crimes transfrontaliers. « Les groupes criminels organisés qui étaient autrefois impliqués dans le trafic de drogue, d'armes et d'êtres humains se tournent de plus en plus vers la criminalité économique », explique Sebastian Takle, directeur du Centre de lutte contre la cybercriminalité financière de la DNB, la plus grande banque norvégienne. En Irlande, le bureau national de lutte contre la cybercriminalité estime que la fraude financière numérique a dérobé près de 360 millions d'euros aux citoyens irlandais depuis 2021, dont 100 millions d'euros liés à des fraudes à l'investissement en ligne. En Italie, plus d'un quart des escroqueries signalées l'an dernier concernaient de fausses plateformes de trading en ligne, pour un montant total estimé à 145 millions d'euros. La fraude à l'investissement est également en hausse au Portugal. Entre 2022 et 2024, la police a ouvert 3 000 enquêtes pour des escroqueries aux crypto-actifs, a déclaré un haut responsable de la police à la chaîne de télévision nationale Renascença l'an dernier. Au Portugal, João, 57 ans, s'est connecté à Facebook et a découvert une publicité ressemblant à Cristiano Ronaldo, faisant la promotion d'une plateforme promettant un gain de 4 000 € en un mois seulement avec un dépôt de 250 €. Après des semaines d'appels téléphoniques rassurants de « conseillers financiers », il a découvert que son investissement était irrécupérable. En Italie, Paolo, un banquier retraité, a perdu 15 000 € après avoir cliqué sur une publicité Facebook concernant le bitcoin. Un profit initial apparent l'a incité à payer davantage de « taxes et commissions » avant que les opérateurs ne disparaissent. En Irlande, Vlad, un ingénieur informatique basé à Dublin, a cliqué sur une publicité générée par IA mettant en scène Elon Musk sur Facebook. Pendant plusieurs mois, un conseiller lui a présenté de faux documents d'identité, prétendant être un expert en trading financier. Grâce à un faux logiciel d'investissement, il pensait avoir gagné 16 000 €, mais n'a jamais pu récupérer cet argent. Aujourd'hui, il est toujours contacté par les mêmes agents se faisant passer pour différents courtiers, qui lui promettent de récupérer les 6 000 € qu'ils affirment être sur la blockchain. En Allemagne, une association de consommateurs a relayé l'histoire d'un citoyen qui aurait investi 170 000 € en USDT, une cryptomonnaie, via une plateforme de trading prétendument frauduleuse. L'association lui a affirmé que « dès qu'il aurait payé 10 % d'impôt sur les plus-values, il récupérerait tout son argent ». Il affirme avoir été ruiné par cette escroquerie présumée. #### Un combat difficile pour les organismes de surveillance des contenus. Compte tenu de la portée mondiale de Meta et de la facilité de mise en place de publicités, Facebook et Instagram sont devenus des plateformes de choix pour ceux qui cherchent à exploiter les utilisateurs. Avec quelque 250 millions d'utilisateurs mensuels, plus de la moitié de la population de l'UE est présente sur au moins une plateforme Meta. Ses recettes publicitaires mondiales ont atteint 160 milliards de dollars l'an dernier, soit 98 % de son chiffre d'affaires global. Cette année, Meta a annoncé publiquement que ses publicités personnalisées avaient généré 213 milliards d'euros de retombées économiques pour l'Europe, en créant des entreprises et des emplois. Parallèlement, Meta est fréquemment cité comme plateforme hébergeant des produits d'investissement frauduleux et des conseils financiers fallacieux. La politique publicitaire de l'entreprise interdit explicitement les contenus qui présentent de manière trompeuse des personnes ou des organisations, ainsi que les « allégations trompeuses ou mensongères » concernant des produits financiers. Pourtant, Valentine Auer affirme que les publicités découvertes par son équipe enfreignent régulièrement ces règles. Certaines publicités n'apparaissent pas dans la bibliothèque publicitaire de Meta, mais des contenus sponsorisés trompeurs continuent de s'afficher fréquemment dans les flux des utilisateurs, explique la chercheuse. Selon Auer, ces publicités utilisent souvent de faux témoignages de célébrités et de personnalités politiques, pourtant interdits par le règlement de Meta. De plus, les annonces sponsorisées sur la plateforme Meta ne fournissent pas toujours d'informations claires sur l'identité de l'annonceur et du financeur, malgré les nombreuses exigences de la DSA (Digital Sales Authority), d'après plusieurs systèmes de signalement fiables. « Il est obligatoire d'indiquer qui a payé pour la publicité, mais il s'agit généralement d'un nom sans signification », explique Auer. Paul O'Brien, responsable du renseignement sur la criminalité financière à la Bank of Ireland, souligne également qu'il est facile pour les annonceurs de contourner les systèmes de détection automatisés. « Vous pouvez cliquer sur une publicité pour un voyage touristique en Irlande, dans le Connemara, et il s'agira en réalité d'une arnaque financière. » Filtrer ces publicités représente un travail à temps plein, et une fois qu'un internaute a cliqué sur une publicité frauduleuse, l'algorithme continue de lui proposer inlassablement le même type de contenu sur ses plateformes. Face à la progression fulgurante de la fraude financière en Europe, le déploiement des systèmes de signalement fiables a été lent et fragmentaire. Parmi les 46 organismes de signalement agréés et reconnus dans l'UE, seul un tiers environ surveille les escroqueries et les fraudes. « Il existe souvent plusieurs versions d'une même publicité, et la version frauduleuse est dissimulée quelque part entre elles », explique Valentine Auer, de l'Institut viennois des télécommunications appliquées. Debunk EU est un organisme de signalement agréé en Lituanie depuis mai dernier. Lors d'un appel vidéo, Viktoras Daukšas présente le logiciel utilisé par son équipe pour cartographier les réseaux d'escroquerie présumés sur Facebook. « Nous constatons actuellement une forte augmentation des publicités utilisant des deepfakes et du contenu généré par l'IA », explique-t-il. Fin septembre, cette petite organisation avait signalé plus d'un million de publicités suspectées d'être des arnaques à l'investissement, vues environ 1,4 milliard de fois. Il estime que les auteurs de ces publicités auraient pu débourser jusqu'à 20 millions d'euros pour l'espace publicitaire. À l'instar de son homologue autrichien, Valentine Auer, il précise être limité à 20 URL par signalement. Les experts nationaux en cybercriminalité partagent ces inquiétudes. En Pologne, le CERT Polska (l'équipe nationale d'intervention d'urgence informatique) alerte depuis longtemps sur le fait que seules les grandes entreprises technologiques comme Google et Meta peuvent véritablement endiguer la portée des fraudeurs en ligne. Or, l'équipe a constaté que « même si des mécanismes de signalement des publicités nuisibles existent, dans la pratique, les plateformes traitent les signalements avec des délais importants, voire les rejettent, surtout lorsqu'ils proviennent d'un utilisateur lambda. Les comptes diffusant des publicités malveillantes sont rarement bloqués, ce qui permet aux fraudeurs de continuer à les exploiter sans interruption. » #### Délais de réponse irréguliers de Meta Une fois un contenu suspect identifié, les personnes chargées du signalement indiquent que sa suppression peut prendre des jours, voire des semaines. Greece Fact Check travaille comme organisme de signalement certifié et fiable depuis près d'un an et couvre les escroqueries et les fraudes dans le cadre de son mandat. Son fondateur, Thanos Sitistas, raconte avoir découvert début octobre sur Facebook une vidéo truquée mettant en scène un investisseur britannique qui semblait promouvoir un prétendu investissement. À ce moment-là, la vidéo avait déjà été visionnée par 12,3 millions d'utilisateurs, précise-t-il. M. Sitistas a signalé la vidéo à Meta, qui l'a immédiatement supprimée, affirme-t-il. Mais ce n'est pas toujours le cas. Il faut parfois « jusqu'à un mois » à Meta pour statuer sur un contenu signalé, ajoute-t-il. Daukšas, de Debunk EU en Lituanie, confirme que les délais de réponse de Meta sont très variables, affirmant qu'il peut s'écouler des mois avant que la plateforme ne vérifie et ne supprime un contenu, même si, selon eux, la plupart des contenus finissent par être supprimés. Claudio Tamburrino travaille chez Barzanò & Zanardo, un cabinet de conseil privé et un organisme de signalement de confiance en Italie, spécialisé dans la fraude aux marques. Bien qu'ils ne se concentrent pas spécifiquement sur les arnaques à l'investissement, il explique que le signalement de contenu fonctionne efficacement sur des plateformes telles que Temu et TikTok, tandis que sur Meta, le processus est souvent beaucoup plus long. D'après Tamburrino, Barzanò & Zanardo, ainsi que d'autres organismes de signalement de confiance interrogés pour cet article, pensent que le système de signalement de Meta est en grande partie géré par des chatbots et que seules les demandes de suppression répétées sont finalement traitées par les modérateurs humains de l'entreprise. Cependant, la plupart des contenus qu'ils signalent sont finalement supprimés, précise-t-il. « Ils utilisent les fonctionnalités des plateformes pour obtenir vos coordonnées, puis tout se déroule en dehors de la plateforme. » — Paul O'Brien, Bank of Ireland. Parallèlement, l'IA accélère considérablement le jeu du chat et de la souris entre annonceurs et autorités de surveillance. « Il existe souvent plusieurs versions d'une même publicité, et la version frauduleuse est dissimulée quelque part entre elles. C'est fait délibérément pour compliquer la tâche, y compris pour nous, car le système de détection ne repère pas toutes les variantes », explique Auer. Pire encore, comme l'ont confirmé plusieurs sources proches de la modération des contenus, même lorsque les publicités sont supprimées, elles réapparaissent souvent sous une forme légèrement modifiée, obligeant à recommencer tout le processus. Selon Paul O'Brien de la Bank of Ireland, les fraudes à l'investissement utilisant l'IA se sophistiquent de semaine en semaine. « Pour une seule publicité, il existe désormais plus de 50 versions différentes provenant du même annonceur, légèrement différentes, mais qui ont essentiellement le même objectif ou vous mènent au même endroit. » Les annonceurs frauduleux activent délibérément une publicité pendant quelques heures seulement, avant de la désactiver et d'en utiliser une autre, explique O'Brien, afin d'échapper à la détection des systèmes de signalement et de filtrage automatisés. « Ils utilisent les fonctionnalités des plateformes pour obtenir vos coordonnées, puis tout se déroule hors de la plateforme », explique-t-il. #### La police et le parquet sont débordés. Depuis sept ans, le procureur allemand Nino Goldbeck traque les grands réseaux d'escroquerie, responsables des plateformes en ligne frauduleuses. Lorsque l'Office central bavarois de lutte contre la cybercriminalité a créé son propre département dédié à la cybercriminalité économique fin 2018, Goldbeck et un seul collègue y enquêtaient sur les escroqueries à l'investissement. « Nous étions loin d'imaginer l'ampleur que cela prendrait », confie-t-il. Goldbeck dirige aujourd'hui deux départements avec un autre procureur principal, à la tête de douze procureurs. Il estime qu'en Allemagne seulement, les transactions frauduleuses en ligne engendrent des pertes de plusieurs milliards d'euros chaque année. Son équipe peut recevoir jusqu'à quarante plaintes par jour, mais les procédures judiciaires peuvent souvent prendre des années. En juillet, un procès s'est ouvert devant le tribunal régional de Bamberg, opposant deux hommes accusés d'avoir escroqué des investisseurs allemands de plus d'un demi-million d'euros depuis un centre d'appels en Bulgarie. Les faits reprochés remontent à 2018. Dans la salle d'audience, le procureur a pris plusieurs minutes pour lire les noms de toutes les victimes qui, pendant des mois, avaient transféré de l'argent vers une prétendue plateforme de trading dans l'espoir d'un gain important. Les victimes ont témoigné devant le tribunal, expliquant comment les hommes les avaient incitées à leur verser toujours plus d'argent. Ces longues enquêtes sont la norme pour l'équipe de Goldbeck. Les victimes ne fournissent généralement que des indices épars, explique-t-il. Les noms des plateformes ou des employés présumés sont souvent introuvables, dissimulés derrière de fausses sociétés au sein de sociétés écrans offshore. Leurs investigations les mènent régulièrement dans les Balkans, explique-t-il, où se concentrent de nombreux centres d'appels, souvent l'épicentre d'escroqueries à l'investissement de grande ampleur. Il y en a tellement que toutes les escroqueries présumées ne peuvent être portées devant les tribunaux, ni toutes les victimes entendues. « Nous devons établir des priorités », déclare Goldbeck. « Nous nous concentrons sur certaines personnes car les preuves sont solides. Dans ces cas-là, les dommages-intérêts prouvables sont particulièrement élevés. C'est là que nous disposons d'éléments vraiment solides. » Avec son équipe, Goldbeck a déjà démantelé de nombreux réseaux. En Irlande, le commissaire divisionnaire Michael Cryan indique que les forces de l'ordre ont constaté une augmentation de 21 % des signalements de fraudes à l'investissement au cours des trois derniers mois seulement. Un récent communiqué de presse a mis en garde les résidents irlandais contre la recrudescence des fausses publicités sur les plateformes en ligne populaires. Ces escroqueries proposent de faux produits d'investissement, tels que des obligations ou des dépôts, en utilisant une documentation et une image de marque convaincantes. L'année dernière, les victimes ont perdu plus de 30 millions d'euros à cause de fraudes à l'investissement. La police a averti que ce type de fraude « demeure un axe majeur de la criminalité en Irlande ». Andre Hvoslef-Eide, procureur au sein de l'unité norvégienne de lutte contre la criminalité économique et environnementale Økokrim, qualifie de « spectaculaire » l'évolution des infractions financières numériques signalées dans son pays au cours des dix dernières années, avec plus de 30 000 cas recensés l'an dernier. « Nous approchons les 1 000 cas par semaine », déclare-t-il, ajoutant qu'il serait impossible d'enquêter sur chaque plainte compte tenu des ressources limitées. « En Europe, nous constatons des tendances et des rapports indiquant que l'argent sert à financer des crimes violents », poursuit-il. « Nous soupçonnons que les profits de la fraude ont désormais remplacé les revenus du trafic de drogue au sein des réseaux criminels. » « Nous soupçonnons que les produits de la fraude ont désormais remplacé les revenus issus du trafic de drogue au sein des réseaux criminels. » — Andre Hvoslef-Eide, procureur général de Norvège. La législation européenne sur les technologies laisse la fraude impunie. Lors de son adoption en 2022, la loi sur les services numériques a été saluée comme une loi historique encadrant les géants du numérique en Europe. Les grandes plateformes reconnues coupables d'infraction à cette loi par la Commission européenne s'exposent à des amendes pouvant atteindre 6 % de leur chiffre d'affaires annuel mondial. Depuis sa création, les associations de consommateurs déplorent les lacunes de la loi en matière de lutte contre les contenus illégaux ou préjudiciables en ligne. Concernant les contenus frauduleux en ligne, un passage du texte a des conséquences importantes. L'article 8 stipule qu'il n'existe « aucune obligation générale » pour les entreprises telles que Meta et Google de surveiller les contenus publiés par des tiers. À l'instar de l'article 230 de la loi américaine sur la décence des communications (Communications Decency Act), cette disposition signifie que les plateformes ne peuvent être tenues responsables du contenu qu'elles hébergent. Théoriquement, cette clause vise à protéger la liberté d'expression sur Internet, en atténuant les risques de censure ou d'ingérence gouvernementale. En pratique, cela signifie que les plateformes ne contrôlent pas le contenu illégal, même si elles doivent mettre en place des mécanismes pour garantir un examen raisonnable de ce contenu. Pour Paul O'Brien, responsable du renseignement sur la criminalité financière à la Bank of Ireland, la manière dont la loi est rédigée et appliquée fait que les mesures prises contre les contenus frauduleux arrivent trop tard. « Notre avis sur la loi relative aux services numériques (DSA) est qu'elle ne sert qu'à traiter les publicités frauduleuses après coup », explique-t-il. « La responsabilité potentielle des plateformes naît lorsqu'une perte financière est directement imputable à un contenu qui leur a été signalé et qu'elles n'ont pas supprimé. » Mais, ajoute-t-il, « pour être tout à fait honnête, c'est inutile ». Les consommateurs peuvent rarement identifier précisément la publicité qu'ils ont vue, et même lorsqu'ils y parviennent, cela remonte souvent à plusieurs mois, explique-t-il. La Fédération bancaire et des paiements d'Irlande, dont la Banque d'Irlande est membre, a déposé une demande pour obtenir le statut de signalement de confiance. La banque a donc fait pression sur le gouvernement irlandais à Dublin afin d'obtenir une modification du Règlement sur les services de paiement (RSP), une autre réglementation européenne relative à la protection des consommateurs en matière de paiements, actuellement en cours de négociation. La clause proposée obligerait toutes les grandes plateformes en ligne et les principaux moteurs de recherche à vérifier l'identité des annonceurs avant de publier des publicités relatives aux services financiers. En octobre dernier, Google a mis en place ce type de vérification en Irlande. Selon M. O'Brien, cette mesure contribue à limiter la présence de certains types de publicités frauduleuses sur son moteur de recherche. « Mais maintenant », explique-t-il, « ces publicités sont diffusées sur Meta. » Meta n'exige pas que les entreprises soient vérifiées avant de faire la publicité de produits et services financiers sur son site, sauf en Australie, en Inde, à Taïwan et au Royaume-Uni. Les annonceurs souhaitant payer pour promouvoir des produits et services financiers ne sont soumis à aucune vérification au sein de l'UE. Google a indiqué à Investigate Europe qu'il utilise la vérification des annonceurs depuis 2020 pour contrôler les entreprises qui publient des offres de services financiers sur ses plateformes. L'entreprise affirme avoir supprimé près de 200 millions de publicités suspectées d'être des arnaques aux services financiers à travers le monde. Pour O'Brien, effectuer de tels contrôles ne consiste pas à filtrer le contenu, ce qui, selon lui, pourrait, d'après les responsables européens, entrer en conflit avec la loi sur les services numériques (DSA). Cependant, il est peu probable que l'amendement soit adopté ; ni les États membres (représentés par le Conseil de l'UE) ni le Parlement européen ne le soutiennent, comme le montrent des documents exposant leurs positions de négociation. Malgré les réserves d'O'Brien, la Commission européenne estime toujours que sa législation sur les technologies est à la hauteur de la tâche. « La lutte contre les arnaques financières est complexe et transfrontalière. Mais grâce à la DSA, l'Europe dispose désormais des outils nécessaires pour inciter les plateformes à agir avant que le préjudice ne soit causé », a déclaré le commissaire européen Virkkunen ce mois-ci. Interrogé sur la capacité d'une DSA pleinement mise en œuvre à résoudre le problème, un porte-parole de l'exécutif européen a évoqué l'enquête en cours sur Meta, ainsi que les récentes ouvertures faites à Apple, Google et Microsoft. « La Commission européenne surveille activement la question de la publicité mensongère, notamment en ce qui concerne les escroqueries financières », a déclaré un porte-parole à Investigate Europe. À Vienne, Valentine Auer affirme que le problème dépasse largement les capacités des signaleurs de confiance, en particulier depuis la décision de Meta, en janvier, de mettre fin à son système de vérification des faits par des tiers. « Nous supposons que Meta est techniquement capable de bloquer la plupart de ces publicités », explique la chercheuse. « Les mêmes images sont immédiatement bloquées lorsqu'elles sont publiées à titre privé. Mais en tant que publicités payantes », ajoute-t-elle, « elles continuent de s'afficher. » La chercheuse soupire. « Il est clair que le profit prime. » Meta n'avait pas répondu aux demandes de commentaires au moment de la publication. ------\ Reportages complémentaires : Amund Trellevik, Marta Portocarrero\ Coordination :* Mei-Ling McNamara*\ Révision : Ella Joyner, Chris Matthews\ Vérification des faits : Ella Joyner Cet article fait partie de Scam Europe, un projet d’enquête mené et coordonné par Investigate Europe et le Balkan Investigative Reporting Network. Cette série est publiée en partenariat avec des médias tels que Altreconomia, Balkan Insight, EU Observer, The Irish Times, La Libre, Netzpolitik.org, Público et Der Standard. IJ4EU (Investigative Journalism for Europe) a financé cette enquête.

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd