Incidents associés
Un incident récent, décrit dans un blog personnel par Sam Mitrovic, montre à quel point les appels frauduleux alimentés par l'IA deviennent plus difficiles à discerner. Mitrovic a reçu une série de notifications et d'appels téléphoniques suspects qui imitaient une communication Google légitime, une menace qui aurait pu entraîner la perte de son compte Google.
Les événements ont commencé par une notification de tentative de récupération de compte Gmail provenant des États-Unis. Cela a été suivi par un appel manqué d'un numéro affichant « Google Sydney » comme identifiant de l'appelant. Environ une semaine plus tard, Mitrovic a reçu une autre demande de récupération de compte, toujours des États-Unis. Et cette fois, il a répondu à l'appel de « Google Sydney », qui avait une voix américaine polie et professionnelle parlant depuis un numéro de téléphone australien.
L'appelant a affirmé qu'il y avait une activité suspecte sur le compte de Mitrovic, impliquant un accès non autorisé depuis l'Allemagne. Mitrovic a été informé que les données de son compte avaient été téléchargées, faisant référence à la notification de récupération de compte précédente. Notamment, le numéro de téléphone utilisé par « Google Sydney » apparaissait dans la documentation officielle de Google, suggérant que le numéro était légitime.
Malgré tout, Sam a demandé à l'appelant de prouver son identité. L'appelant a envoyé un e-mail qui semblait provenir d'un domaine Google, mais après une inspection plus approfondie, Mitrovic a remarqué que le champ « À » de l'e-mail contenait une adresse e-mail se terminant par « InternalCaseTracking.com », qui n'est pas un domaine Google. La voix de l'appelant, qualifiée de « trop parfaite », a également suscité des soupçons. Mitrovic, reconnaissant le potentiel d'une arnaque pilotée par l'IA, a raccroché. Après être rentré chez lui et avoir vérifié le journal d'activité de sécurité récent de son compte Google, Mitrovic n'a trouvé que ses propres sessions de connexion. Un examen des en-têtes de l'e-mail a révélé que l'e-mail provenait d'une adresse IP associée à Amazon Web Services (AWS). Cette découverte étaye la possibilité que l'e-mail ait été envoyé via une plateforme basée sur le cloud utilisée par les escrocs.
Google est conscient des problèmes liés aux escroqueries par intelligence artificielle et lutte contre les escroqueries en ligne en s'associant à la Global Anti-Scam Alliance (GASA) et à la DNS Research Federation (DNSRF) pour lancer le Global Signal Exchange (GSE), une plateforme de partage d'informations sur les escroqueries et les fraudes. Google étend également son outil Cross-Account Protection, qui permet de protéger les utilisateurs en partageant les notifications de sécurité avec les applications et services liés à leurs comptes Google. Cependant, cela pourrait ne pas suffire car, selon le Lawstreet Journal, ces entreprises d'intelligence artificielle ciblent les 2,5 milliards de titulaires de comptes Gmail. Google n'est pas le seul, car même les clients d'Apple ont affaire à des escrocs plus avancés.
Il est important de noter qu'AWS n'est pas impliqué dans des activités frauduleuses ni responsable de celles-ci. Il s'agit plutôt d'un service qui a été utilisé. Il existe de nombreuses applications d'IA sur l'App Store qui sont utilisées pour des escroqueries. Cela ne va donc pas s'arrêter de sitôt. La capacité des escrocs à imiter les voix humaines et à créer des scénarios réalistes rendra probablement beaucoup plus difficile la distinction entre les appels et les communications légitimes et les fraudes. Il est donc préférable de toujours être très prudent.
Source : Sam Mitrovic