Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 6327

Incidents associés

Incident 123626 Rapports
Quantum AI Scam Reportedly Used AI-Generated Celebrity Endorsements and Spoofed Media Sites to Solicit Investments

Loading...
Deepfake Elon et l'escroquerie à l'IA quantique
expatriot116.substack.com · 2024

Une tendance inquiétante souligne la sophistication croissante de la fraude en ligne : une escroquerie appelée Quantum L'intelligence artificielle (IA) fait sensation sur les réseaux sociaux du monde entier. https://www.which.co.uk/news/article/which-exposed-a-global-ai-scam-quantum-ai-a6E3T4Y5WHVc. Il ne s'agit pas d'une « nouvelle arnaque » à proprement parler, mais plutôt d'une arnaque qui continue de s'implanter sur de nouveaux marchés, apparemment de manière récurrente. En décembre 2024, elle a été relayée sur LinkedIn, via des réseaux d'investissement spécialisés dans le cannabis. On trouve également différentes variantes du site, et l'offre, disponible en ligne dans plusieurs langues, est optimisée pour le référencement naturel.

Exploitant l'image d'Elon Musk, PDG de Tesla et visionnaire du secteur technologique, l'arnaque promeut mensongèrement une plateforme d'investissement révolutionnaire censée générer des rendements importants grâce à l'intelligence artificielle. Jusqu'à présent, les autorités de régulation de Hong Kong et d'Australie ont émis un avertissement officiel (en mai), mais il s'agit clairement d'une escroquerie mondiale qui pénètre dans différents pays et réseaux en ligne, les uns après les autres. Face à la multiplication de ces escroqueries, il est urgent de mettre en place des mesures internationales robustes pour lutter contre la cybercriminalité.

Lars Olofsson, avocat suédois spécialisé dans les affaires d'escroquerie et basé au Royaume-Uni, a déclaré : « Le fait que cette escroquerie circule depuis plus d'un an à l'échelle mondiale souligne l'urgence croissante que représentent non seulement les autorités de régulation, mais aussi la mise en place d'équipes indépendantes pour pallier les carences des gouvernements. » Olofsson est actuellement engagé dans la lutte contre plusieurs escroqueries internationales à l'investissement. Son équipe n'a remporté aucune victoire judiciaire à ce jour, mais elle a aidé les forces de police de nombreux pays à identifier les auteurs d'escroqueries internationales de grande ampleur. « C'est un travail loin d'être prestigieux », a déclaré Olofsson, « et nous rencontrons de nombreux obstacles, ce qui ne fait que renforcer la motivation de notre équipe internationale, qui est extrêmement motivée et ne baisse pas les bras. »

Anatomie de l'arnaque à l'IA quantique

L'arnaque à l'IA quantique exploite deux facteurs : la fascination du public pour l'intelligence artificielle et l'image de marque soigneusement construite d'Elon Musk. Des publicités sur les réseaux sociaux, souvent accompagnées de vidéos manipulées où Musk semble faire la promotion de la plateforme, incitent les victimes à croire qu'elles participent à un investissement révolutionnaire. En cliquant sur ces publicités, les utilisateurs sont redirigés vers des sites web à l'apparence professionnelle, remplis de faux témoignages et de promesses de profits extraordinaires.

Les victimes sont encouragées à déposer de petites sommes pour « commencer ». Ces investissements initiaux génèrent souvent de faux rendements, créant une illusion de réussite. Convaincues par ces résultats artificiels, les victimes investissent des sommes plus importantes, pour ensuite se retrouver dans l'impossibilité de retirer leur argent. Lorsqu'elles réalisent enfin qu'elles ont été escroquées, les auteurs de l'arnaque ont disparu avec leurs fonds.

La menace croissante des arnaques en ligne

L'escroquerie liée à l'IA quantique n'est que la dernière d'une série d'escroqueries à l'investissement exploitant les réseaux sociaux et les technologies d'intelligence artificielle. Selon des rapports récents, la fraude en ligne a explosé en Europe, une part importante étant attribuée à de faux placements. L'Agence de l'Union européenne pour la cybersécurité (ENISA) alerte sur la sophistication croissante de ces arnaques, les rendant plus difficiles à détecter.

Plusieurs facteurs contribuent à la recrudescence de ces escroqueries :

  1. Technologie deepfake : Les escrocs utilisent désormais des outils d'IA pour créer des vidéos deepfake convaincantes, donnant l'impression que des personnalités publiques comme Elon Musk cautionnent personnellement leurs arnaques.

  2. Publicité ciblée : Les plateformes de réseaux sociaux permettent aux fraudeurs de diffuser des publicités ciblées en fonction des habitudes de navigation et des centres d'intérêt des utilisateurs, garantissant ainsi que leurs arnaques atteignent les populations vulnérables.

  3. Portée mondiale : Internet permet à ces escroqueries de franchir les frontières, ce qui complique le travail des autorités pour retrouver les auteurs.

  4. Manipulation psychologique : Les escrocs exploitent la peur de manquer une opportunité (FOMO) et l’insécurité financière, notamment en période d’incertitude économique.

Mesures prises par les gouvernements

Union européenne

L’UE a intensifié ses efforts pour lutter contre la fraude en ligne, y compris les escroqueries comme Quantum AI. Parmi les principales initiatives :

  • Règlement sur les services numériques (DSA) : Ce règlement responsabilise les plateformes de médias sociaux qui hébergent des publicités frauduleuses, les obligeant à mettre en œuvre des mesures plus strictes de modération des contenus et de transparence.

  • Coopération entre États membres : La collaboration transfrontalière entre les services répressifs a été renforcée afin de traquer et d’appréhender les cybercriminels opérant dans toute l’UE.

  • Campagnes de sensibilisation du public : Les organes de l’UE investissent davantage dans des initiatives éducatives pour aider les citoyens à identifier et à éviter les escroqueries.

États-Unis

Les États-Unis sont confrontés à des défis similaires en matière d'escroqueries en ligne et ont mis en place des mesures visant à freiner leur prolifération :

  • Application de la loi par la Federal Trade Commission (FTC) : La FTC a intensifié sa lutte contre les systèmes d'investissement frauduleux, en sanctionnant les plateformes de médias sociaux et les annonceurs qui ne parviennent pas à empêcher la diffusion de contenus frauduleux.

  • Cadres réglementaires relatifs à l'IA : Des discussions sont en cours au Congrès afin de réglementer l'utilisation abusive des technologies d'IA, notamment les contenus falsifiés (deepfakes) utilisés dans les escroqueries.

  • Partenariats internationaux : Les États-Unis collaborent avec les autorités européennes pour partager des renseignements et élaborer des stratégies unifiées de lutte contre la cybercriminalité.

Malheureusement, compte tenu des récentes élections et de l'engagement à « rationaliser » les agences gouvernementales, l'efficacité future des agences américaines pour mettre fin à ce type de fausses déclarations et d'escroqueries reste incertaine.

Ce que les plateformes de médias sociaux devraient faire

« L'une des forces les plus dangereuses au monde actuellement est l'intelligence artificielle combinée aux médias sociaux », déclare Olofsson. « Même avant l'IA, nous constations une prolifération de sites utilisant les photos de célébrités. Avec les nouvelles technologies permettant d'animer n'importe quelle photo, le risque de ces escroqueries s'aggrave encore. Il est urgent non seulement de mettre en place une réglementation rapide, mais aussi un vaste programme de sensibilisation. La désinformation est dangereuse, pour les citoyens comme pour les consommateurs. »

Si les gouvernements, du moins au sein de l'UE, intensifient leurs efforts, les plateformes de médias sociaux portent une lourde responsabilité dans la prolifération de ces escroqueries. Les critiques affirment que les entreprises technologiques privilégient les revenus publicitaires à la sécurité des utilisateurs, créant ainsi un environnement propice à l'exploitation. Pour remédier à ce problème, les plateformes doivent :

  1. Améliorer la détection par l'IA : Utiliser l'IA pour détecter et supprimer plus efficacement les fausses publicités et les vidéos truquées.

  2. Accroître la transparence : Permettre aux utilisateurs de voir qui finance les publicités et d'en vérifier l'authenticité.

  3. Surveillez proactivement les tendances en matière de fraude : Collaborez avec des experts en cybersécurité pour anticiper les nouvelles tactiques d’escroquerie.

  4. Soutenez les victimes : Mettez en place des canaux pour signaler les escroqueries et aidez les victimes à récupérer leurs fonds perdus.

Comment vous protéger

Vous pouvez prendre des mesures pour vous protéger contre les escroqueries comme Quantum AI :

  • Vérifiez les affirmations : Vérifiez toujours les opportunités d’investissement auprès d’institutions financières de confiance ou de sources officielles.

  • Méfiez-vous des recommandations de célébrités : N’oubliez pas que les personnalités publiques font rarement la promotion de produits financiers et que leur image peut être manipulée. De plus, comme dans l’affaire OmegaPro, le simple fait qu’un influenceur recommande un produit ou un service ne garantit rien.

  • Signalez les activités suspectes : Signalez les publicités frauduleuses aux plateformes de médias sociaux et aux autorités compétentes.

  • Informez-vous : Tenez-vous au courant des dernières escroqueries et de leur mode opératoire.

L'escroquerie liée à l'intelligence artificielle quantique nous rappelle brutalement les vulnérabilités inhérentes à notre ère numérique. Face à la sophistication croissante des cybercriminels, la responsabilité de lutter contre leurs agissements doit être partagée entre les gouvernements, les plateformes de médias sociaux et les particuliers.

Le défi est immense, mais une vigilance accrue et l'innovation permettent de devancer la menace en constante évolution des arnaques en ligne. Cela dit, tant que les gouvernements n'auront pas décidé de réglementer enfin et efficacement les médias sociaux, ces menaces continueront de rendre la vie en ligne dangereuse.

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd