Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 6277

Incidents associés

Incident 123626 Rapports
Quantum AI Scam Reportedly Used AI-Generated Celebrity Endorsements and Spoofed Media Sites to Solicit Investments

Loading...
Nous avons révélé une arnaque mondiale en matière d'IA
which.co.uk · 2024

Les réseaux sociaux ont été inondés de vidéos suspectes où l'on se faisait passer pour des personnalités et des organisations connues, dont la BBC, Elon Musk et David Beckham, dans le cadre d'une escroquerie financière douteuse.

Au fil des mois, nous avons découvert plusieurs publications, publicités et sites web douteux, diffusant une escroquerie financière, le tout lié à un réseau complexe de fraudes.

Poursuivez votre lecture pour découvrir où notre enquête nous a menés et obtenir des conseils pour vous protéger et éviter de tomber dans le piège de ce type d'escroqueries sophistiquées.

Une version de cet article a été initialement publiée dans le magazine Which? Tech.

Comment nous avons découvert l'escroquerie

« Lorsque j'ai vu une vidéo d'un journal télévisé de la BBC sur Facebook, mes soupçons ont commencé à se renforcer. Bien qu'elle ait l'air authentique, avec l'arrière-plan, le logo, la bande sonore et le présentateur habituels de la BBC, elle provenait d'un compte aléatoire et vantait la possibilité de « sécuriser sa retraite » grâce à un « nouveau programme d'IA quantique ».

Ces publicités sont apparues sur mes réseaux sociaux au cours des semaines suivantes. Elles faisaient toutes la promotion d'un programme d'investissement appelé Quantum AI (à noter que cela n'a aucun lien avec l'initiative du même nom de Google visant à développer l'informatique quantique) et mettaient en vedette des visages familiers.

J'ai vu au total 25 publicités, dans lesquelles David Beckham, Martin Lewis, Elon Musk, Richard Branson et des journalistes de la BBC semblaient parler de ce système où "n'importe qui pouvait s'enrichir". Ces publicités renvoyaient vers 24 sites web.

La plupart des sites web que j'ai consultés se faisaient passer pour des sites d'information – notamment la BBC et le Daily Mirror au Royaume-Uni, CNN et Forbes aux États-Unis, DW News en Allemagne, El Universo en Espagne et Domenica In en Italie. Tous diffusaient de fausses informations faisant la promotion de ce système d'investissement. Je me suis inscrit sur ces sites pour les besoins de cette enquête. Ce que les escrocs ont fait ensuite

Tous les sites web nous demandaient de renseigner notre nom, notre numéro de téléphone et notre adresse e-mail afin d'être contactés par un « conseiller financier ».

Après notre inscription, nous étions bombardés de dizaines d'appels par jour. Le message à l'autre bout du fil était devenu familier : « L'IA quantique est un système qui utilise l'intelligence artificielle pour trader et investir automatiquement en votre nom ! »

Cela était systématiquement suivi d'une demande d'investissement minimum de 200 à 250 £ pour commencer.

Parfois, nous entendions d'autres personnes passer des appels et parler à des destinataires en arrière-plan, pointant du doigt un éventuel centre d'appels. D'autres fois, on nous disait que nous ne pouvions pas les rappeler au même numéro et qu'ils ne pouvaient pas nous fournir d'autre numéro pour nous rappeler.

L'investissement devait être réalisé rapidement, sur-le-champ.

Étude de cas : Publicités frauduleuses servant d’appât

L’attention de Robert a été attirée par une vidéo montrant une version deepfake d’Elon Musk parlant d’un projet d’investissement appelé Quantum AI lors d’une émission matinale.

L’intervieweur a affirmé avoir gagné 34 $ sur la plateforme pendant l’émission. « C’était très convaincant », se souvient Robert. Il a suivi le lien de la publicité, s’est inscrit et a payé 219 £ pour rejoindre la plateforme.

Robert recevait des appels quotidiens avec diverses instructions. Un jour, on lui a demandé d’effectuer une tâche sur son téléphone, mais il n’y arrivait pas. L’appelant l’a donc exécutée de son côté, ce qui a éveillé ses soupçons.

Pour récupérer ses gains, on lui a demandé de télécharger une application et de payer 400 $, mais son instinct l’a retenu.

Au total, il a perdu deux sommes distinctes : 219 £, qui lui ont été restituées par sa banque car elles étaient toujours en attente ; et 250 £, qui ont été volés par les escrocs.

Un réseau de fraudes

Quantum AI fonctionne de la même manière que toutes les entreprises sérieuses lorsqu'elles créent une présence en ligne.

Les fraudeurs commencent par enregistrer un nom de domaine auprès d'un registraire de domaines moyennant une somme modique, ce qui signifie que ce nom de domaine (ou adresse web) ne peut être utilisé que par Quantum AI.

Les escrocs trouvent ensuite un hébergeur de domaines pour héberger le site web. Il s'agit d'un prestataire qui loue de l'espace sur ses serveurs ou ceux d'une autre organisation pour stocker les fichiers et les données du site web. En résumé, un hébergeur de domaine est l'endroit où le site web est hébergé sur Internet.

Le site web est ensuite créé. Pour cette escroquerie, un faux article de presse a été rédigé. Il faisait la promotion d'un système d'investissement fictif, accompagné d'un formulaire de contact. Les publicités sont ensuite publiées sur des plateformes de médias sociaux (Facebook et Instagram) et renvoient vers ces faux sites web d'actualités.

Un escroc utilise vos coordonnées et vous appelle depuis un faux numéro ; votre téléphone affiche alors un numéro choisi par l'escroc.

On vous fera croire que vous transférez de l'argent sur un compte de trading. En réalité, les escrocs vous inciteront à transférer de l'argent sur un compte bancaire qu'ils gèrent.

Étude de cas : L'escroc a demandé de l'argent pour arrêter d'appeler

Balaram a découvert Quantum AI grâce à une publicité sur les réseaux sociaux et a cliqué sur un site web où il a saisi ses coordonnées.

Il a ensuite été redirigé vers le site web de Spencer & Stanley. Il s'agit d'une société luxembourgeoise contre laquelle l'autorité de régulation financière britannique, la Financial Conduct Authority, a émis des avertissements et qui a été dénoncée à plusieurs reprises par des victimes comme une arnaque.

Balaram a été contacté par un « conseiller financier » via WhatsApp et encouragé à investir 250 $. « J'ai vu la valeur de mon investissement doubler en deux jours », se souvient Balaram. Il a subi des pressions pour investir davantage par des appels incessants, ce qui l'a amené à soupçonner un agissement suspect.

Il a également constaté que sa transaction initiale avait été effectuée à « Smithville International », ce qui, à ses yeux, ressemblait à « une maison de vacances ».

Balaram a dû mettre son téléphone en mode silencieux pour que les appels ne sonnent plus. À un moment donné, on lui a même demandé de verser de l'argent à l'escroc pour qu'elle cesse d'appeler.

Ce que nous avons découvert

Voici ce que nous avons découvert en cherchant à savoir qui se cachait derrière Quantum AI :

  • Les adresses physiques indiquées sur les sites web menaient à des bâtiments, des stations-service et des hôtels aléatoires lors d'une recherche sur Google Maps.
  • Les coordonnées sur les sites web comprenaient de faux numéros de téléphone et adresses e-mail.
  • En consultant les informations relatives au titulaire du site web, nous avons constaté que 11 sites web étaient enregistrés à Reykjavik, en Islande, à une adresse liée à d'autres escroqueries. Les autres sites web étaient enregistrés pour des bâtiments, des stations-service et des routes aux États-Unis et au Royaume-Uni. Les adresses IP des sites web peuvent indiquer l'emplacement de leur serveur : 22 d'entre eux sur 24 utilisaient Cloudflare, un proxy inverse masquant les adresses IP.

La plupart des numéros utilisés par les escrocs pour me contacter étaient falsifiés, ce qui signifie qu'il était impossible de remonter jusqu'à une personne liée à l'arnaque.

Ce que nous avons fait

Nous avons signalé les sites web via le formulaire de signalement d'abus de Cloudflare. Trois d'entre eux étaient considérés comme enfreignant la politique de Cloudflare en matière d'abus, un était inactif et un autre est revenu comme n'utilisant pas Cloudflare.

Pour cinq d'entre eux, nous avons été invités à contacter d'autres hébergeurs. Nous n'avons reçu aucune réponse de leur part et les rapports n'ont pas pu être transmis pour deux d'entre eux. Six autres hébergeurs de domaines étaient également impliqués (les sites web peuvent en avoir plusieurs) ; aucun n'a répondu lorsque nous les avons contactés.

Nous avons également signalé tous les sites web à leurs titulaires. Certains ont désactivé les domaines.

Un titulaire de nom de domaine souhaitait une preuve sous la forme d'une image de la page web, mais celle-ci était inaccessible et nous n'avons reçu aucune réponse. D'autres n'ont pas répondu, et certains ont indiqué que l'hébergeur du domaine était le contact le plus approprié en cas d'abus (que nous avions déjà contacté).

Une opération mondiale

Cette escroquerie n'a pas seulement touché le Royaume-Uni.

En mars dernier, le Centre national de lutte contre les escroqueries du gouvernement australien a publié une alerte aux escroqueries mettant en garde contre les « arnaques aux investissements en ligne impliquant de fausses célébrités ». Cette alerte incluait l'exemple d'un site se faisant passer pour des présentateurs du Today Show australien interviewant l'acteur Hugh Jackman au sujet de la plateforme.

En mai, la Hong Kong Securities and Futures Commission (SFC), l'autorité de régulation des marchés des valeurs mobilières et des contrats à terme de Hong Kong, a émis une alerte concernant Quantum AI. Elle a décrit l'arnaque comme une plateforme frauduleuse de trading de cryptomonnaies, utilisant l'image d'Elon Musk pour attirer les victimes. > Huit signalements de victimes de l'IA quantique ont également été effectués entre 2020 et 2024 auprès du Bureau d'éthique commerciale (BBB) des États-Unis et du Canada. Ce bureau fournit des informations sur les entreprises, traite les plaintes des consommateurs et publie des alertes aux escroqueries.

Que fait l'autorité de régulation britannique ?

L'Ofcom réglemente les services de communication, notamment les télécommunications et Internet, au Royaume-Uni. Nous l'avons contacté au sujet de l'IA quantique et lui avons demandé quelles mesures étaient prises pour protéger les personnes.

Un porte-parole de l'Ofcom nous a déclaré : « Les tactiques des fraudeurs sont de plus en plus sophistiquées et impliquent souvent l'utilisation de plusieurs canaux. S'attaquer à ce problème complexe nécessite une action coordonnée de la part de la police, du gouvernement, des autorités de régulation et du secteur. »

« Nous avons renforcé nos règles et nos directives à l'intention des opérateurs téléphoniques afin de bloquer les appels frauduleux provenant de l'étranger et utilisant des numéros de téléphone fixe britanniques usurpés. Des projets similaires sont en cours pour bloquer davantage d'appels usurpant des numéros de téléphone mobile britanniques. »

Lorsque les nouvelles obligations prévues par la loi britannique sur la sécurité en ligne entreront en vigueur l'année prochaine, les entreprises technologiques devront évaluer le risque de contenu ou d'activité illicite sur leurs plateformes, y compris la fraude, prendre les mesures appropriées pour réduire le risque de leur apparition et agir rapidement pour les supprimer dès qu'elles en auront connaissance.

Que souhaite Which? ?

Les escroqueries réussissent souvent en utilisant plusieurs plateformes. C'est pourquoi Which?, aux côtés d'autres organisations, a exhorté le gouvernement à faciliter le partage d'informations sur la fraude entre les entreprises et les autorités concernées, afin de mieux comprendre et combattre les escroqueries.

Les escroqueries se cachent au grand jour : elles sont présentes sur plusieurs plateformes et passent souvent inaperçues. Cela signifie que les criminels peuvent escroquer encore et encore. En attendant que la loi rattrape leurs arnaques, il vous incombe de vous protéger.

5 façons de vous protéger

  1. Ignorez les publicités sur les réseaux sociaux qui ne proviennent pas de comptes officiels et qui mettent en vedette des célébrités ou de nouvelles organisations.
  2. Méfiez-vous des informations personnelles que vous saisissez sur des sites web que vous n'avez jamais visités : elles peuvent être utilisées pour vous escroquer, maintenant ou à l'avenir.
  3. Utilisez la recherche d'images inversée de Google pour vérifier si une image a été utilisée ailleurs. Les vidéos deepfake sont parfois une compilation d'images existantes ; c'est donc un bon moyen de retrouver l'original. Vous pouvez rechercher une image en effectuant une capture d'écran et en sélectionnant l'icône d'image à droite de la barre de recherche Google.
  4. Vous pouvez parfois obtenir rapidement des informations sur une adresse web en la saisissant sur le site Who.is. Les sites web récemment créés sont un signal d'alarme.
  5. Méfiez-vous des appels non sollicités provenant de numéros aléatoires. Pensez à utiliser un téléphone avec blocage d'appels pour les bloquer sur une ligne fixe et à activer le blocage d'appels sur votre mobile.

Bloquer des numéros sur votre téléphone mobile

  • Sur iPhone, vous pouvez désactiver le son des appels inconnus : cliquez sur Réglages > Téléphone. Faites défiler vers le bas et activez l'option « Silence des appels inconnus ».
  • Sur Android, vous pouvez bloquer des numéros : ouvrez l'application Téléphone, sélectionnez « Historique des appels », puis le numéro à bloquer > « Bloquer/signaler comme spam ».
Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd