Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 4282

Incidents associés

Incident 83920 Rapports
Purportedly AI-Driven Phishing Scam Uses Spoofed Google Call to Attempt Gmail Breach of Security Expert

Loading...
Un appel frauduleux « ultra réaliste » généré par l'IA a presque coûté à un consultant Microsoft et potentiellement à 2,5 milliards d'autres l'accès à Gmail : « Je leur donnerais un A pour l'effort »
windowscentral.com · 2024
  • Sam Mitrovic, consultant en solutions Microsoft, a récemment publié un article de blog soulignant comment il a presque perdu l'accès à son compte Gmail à cause de pirates informatiques utilisant une arnaque d'IA ultra réaliste.
  • Les pirates ont prétendu faire partie de l'équipe d'assistance de Google (avec un numéro de téléphone et une adresse e-mail discrètement dissimulés) pour inciter le consultant à partager des détails complexes et confidentiels sur son compte Gmail.
  • Alors que le numéro de téléphone figurait sur la page Business de Google, le consultant a découvert que l'adresse e-mail utilisée pour le contacter appartenait à un domaine autre que celui de Google.

Au cours des dernières années, l'émergence de l'IA générative et son adoption généralisée dans des secteurs tels que la médecine, l'informatique et l'éducation, ont favorisé l'efficacité et l'efficience. Cependant, les pirates semblent également se servir de l'IA et utiliser les capacités sophistiquées de la technologie pour attirer des utilisateurs sans méfiance dans leurs attaques bien conçues.

Dans un billet de blog du consultant en solutions Microsoft Sam Mitrovic, les pirates utilisent une attaque sophistiquée, que le consultant appelle un « appel frauduleux d'IA super réaliste », pour tromper les utilisateurs de Gmail. Ce qui est peut-être plus intéressant, c'est que le consultant affirme que le stratagème est « super réaliste » et que même les utilisateurs les plus expérimentés pourraient en être victimes sans s'en douter.

Plus de 2,5 milliards de personnes utilisant le service Gmail de Google pourraient se retrouver dans une situation compromettante, permettant potentiellement à des acteurs malveillants d'accéder à des informations confidentielles qu'ils pourraient utiliser pour causer du tort ou vendre sur le dark web.

Mitrovic a découvert ce stratagème sophistiqué lorsqu'une notification est apparue sur son appareil, lui demandant d'approuver une tentative de récupération de compte Gmail. Les pirates informatiques sont connus pour utiliser cette vieille astuce pour attirer les utilisateurs sans méfiance dans leurs pièges. Heureusement, Mitrovic a refusé la demande et a continué ses activités. Plus tard, il a reçu une notification indiquant qu'il avait manqué un appel de Google Sydney.

Les choses sont devenues intéressantes lorsqu'il a revécu la même expérience une semaine plus tard. Cependant, Mitrovic a répondu à l'appel, qui prétendait provenir de Google Sydney. À la réception de l'appel, le consultant a été informé qu'il parlait à l'équipe d'assistance de Google. Il a en outre indiqué que l'équipe avait signalé une activité suspecte sur son compte et l'avait par coïncidence retracée jusqu'à la semaine précédente. Le représentant a affirmé que les pirates avaient accédé au compte de Mitrovic et téléchargé des données.

À ce stade, les soupçons du consultant Microsoft étaient à leur comble, ce qui l'a poussé à vérifier l'identité de l'appelant sur Google. Bien qu'il ait établi que le numéro de téléphone provenait légitimement de la page commerciale de Google, Mitrovic a maintenu ses soupçons. Comme vous le savez peut-être, les attaquants utilisent des stratagèmes sophistiqués pour masquer leur véritable identité.

Mitrovic a demandé au représentant de lui envoyer un e-mail, ce qui l'aiderait à déterminer leur identité. Bien que l'e-mail ait presque trompé le consultant Microsoft, l'une des adresses dans le champ « à » les a trahis car elle était discrètement dissimulée sous un domaine autre que Google.

Toutes les dernières actualités, critiques et guides pour les passionnés de Windows et de Xbox.

En conclusion de son article, Mitrovic a indiqué que le principal signe révélateur de l'arnaque était la réception de l'appel :

"L'appelant a dit Bonjour, je l'ai ignoré puis environ 10 secondes plus tard, j'ai dit Bonjour à nouveau. À ce stade, je l'ai diffusé comme une voix d'IA car la prononciation et l'espacement étaient trop parfaits."

Selon Mitrovic :

"Les arnaques deviennent de plus en plus sophistiquées, plus convaincantes et sont déployées à une échelle toujours plus grande. Les gens sont occupés et cette arnaque semblait suffisamment légitime pour que je leur donne un A pour leurs efforts. De nombreuses personnes sont susceptibles de tomber dans le panneau. Il existe de nombreux outils pour lutter contre les arnaqueurs, cependant, au niveau individuel, le meilleur outil reste la vigilance, en effectuant les vérifications de base comme ci-dessus ou en demandant l'aide d'une personne de confiance."

Mitrovic dit qu'il a immédiatement interrompu l'appel après avoir découvert qu'il parlait à des acteurs malveillants qui pourraient potentiellement solliciter ses identifiants de connexion et compromettre son compte Gmail.

Microsoft redouble d'efforts en matière de sécurité alors que les pirates informatiques adoptent l'IA

Siège social de Microsoft (Crédit image : Windows Central)

Google a récemment annoncé son partenariat avec la Global Anti-Scam Alliance (GASA) et la DNS Research Federation (DNS RF) pour lutter contre les attaques sophistiquées. Grâce au nouveau programme Global Signal Exchange, les utilisateurs peuvent obtenir des informations en temps réel sur les escroqueries et les techniques de fraude en ligne sophistiquées utilisées par les attaquants, les mettant ainsi potentiellement à l'abri du danger. 

Microsoft a également subi une cascade de défaillances de sécurité. Cependant, lors de la publication des résultats de la société pour le troisième trimestre de l'exercice 2024, le PDG Satya Nadella a indiqué : « Nous redoublons d'efforts dans ce travail très important, en mettant la sécurité avant tout, avant toutes les autres fonctionnalités et investissements. »

L'entreprise s'efforce notamment de renforcer la sécurité de ses technologies en tenant les dirigeants de Microsoft responsables de la cybersécurité en liant une partie de leurs rémunérations au respect des seuils de sécurité fixés. Elle promet également d'accélérer son temps de réponse lorsque des problèmes de sécurité sont soulevés, ce qui incite à y remédier.

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd