Incidents associés
Alex Rivlin s'occupait d'une tâche de dernière minute pour ses vacances en Europe. C'est ainsi qu'il s'est retrouvé pris dans une arnaque utilisant l'intelligence artificielle.
Rivlin, qui dirige une agence immobilière à Las Vegas, devait réserver une navette pour un bateau de croisière. Depuis sa table de cuisine, il a cherché sur Google le numéro du service client de la compagnie de croisière, a discuté avec un conseiller compétent et a fourni ses informations de carte de crédit.
Rivlin a déclaré que le numéro qu'il avait appelé était mis en évidence dans les « Aperçus IA » de Google (https://www.washingtonpost.com/technology/2024/05/14/google-ai-search-can-you-trust/) – des réponses générées par l'IA à certaines recherches sur le web. Le lendemain, Rivlin a constaté des débits de carte de crédit suspects et a compris qu'il avait été trompé par un imposteur du service client de Royal Caribbean.
Il avait découvert une arnaque classique utilisant l'IA, ciblant les voyageurs et autres personnes recherchant sur Google des numéros d'assistance client, notamment des compagnies aériennes et d'autres entreprises.
J'ai trouvé le même numéro qu'il avait appelé, semblant se faire passer pour d'autres lignes d'assistance téléphonique de compagnies de croisières, et apparaissant sur Google et ChatGPT.
Bienvenue dans l'ère de l'arnaque à l'IA. Les experts avertissent que les vieilles astuces des escrocs et des spammeurs qui ont envahi le web, les réseaux sociaux, les e-mails et les SMS manipulent désormais aussi les informations de l'IA – et Rivlin fait partie des premières victimes.
« Je suis assez avancé technologiquement et je me suis laissé avoir », a déclaré le fondateur du groupe Rivlin chez lpt Realty.
Je vais vous expliquer comment vous protéger contre des expériences comme celle de Rivlin et ce que des entreprises comme Google devraient faire pour empêcher les escrocs de déformer les informations de l'IA.
Comment des escrocs ont trompé Rivlin et Google
Rivlin m'a dit que le faux numéro du service client et le représentant imposteur étaient crédibles.
Le représentant connaissait le coût et les lieux de prise en charge des navettes Royal Caribbean à Venise. Il a eu des explications convaincantes lorsque Rivlin l'a interrogé sur le paiement de certains frais et pourboires. Le représentant a proposé de renoncer aux frais de navette et Rivlin a accepté de payer 768 $.
Rivlin a déclaré se méfier des anomalies, notamment d'un nom d'entreprise inconnu qui apparaissait sur le débit de la carte de crédit.
Lorsque deux faux débits de carte sont arrivés le lendemain, Rivlin a compris qu'il avait été trompé. Il a annulé sa carte de crédit et les frais ont été annulés.
Rivlin accuse principalement les escrocs et lui-même d'être tombé dans le piège. Mais j'ai vu tellement de versions similaires ciblant les utilisateurs de Google que je reproche en grande partie à l'entreprise de ne pas avoir suffisamment protégé son accès essentiel à l'information. Deux experts en interne de Google ont fait de même.
Voici le fonctionnement typique d'une arnaque de ce type : des individus malintentionnés écrivent sur des sites d'avis en ligne, des forums et d'autres sites web en prétendant qu'un numéro qu'ils contrôlent appartient au service client d'une entreprise.
Lorsque vous effectuez une recherche sur Google, sa technologie recherche des indices menant à des informations pertinentes et crédibles, notamment des conseils en ligne. Si les numéros contrôlés par les escrocs sont répétés comme étant vrais suffisamment souvent en ligne, Google peut les suggérer aux personnes recherchant une entreprise.
Google est le bouc émissaire des escrocs – et nous en sommes les principales victimes.
Les aperçus d'IA de Google et ChatGPT d'OpenAI peuvent utiliser des indices similaires à ceux du moteur de recherche de Google pour extraire des informations glanées sur le Web. Cela fait d'eux de nouveaux complices de l'IA pour les vieilles arnaques aux faux numéros.
Une recherche sur ChatGPT et un forum web ont montré que le même numéro était associé à plusieurs compagnies de croisières.
« Manipuler ces nouveaux moteurs de réponse avec des techniques vieilles de 30 ans revient à tirer sur des cibles faciles », a déclaré Mike Blumenthal, analyste de commentaires chez Near Media, une société d'études sur le comportement des consommateurs en matière de recherche. (Blumenthal m'a parlé de la vidéo Facebook de Rivlin (https://www.facebook.com/1140995993/videos/604442056076662/) racontant son expérience.)
Blumenthal et moi avons découvert que Google et ChatGPT identifiaient le même numéro qui avait trompé Rivlin comme étant celui du service client d'autres compagnies de croisières, notamment Disney et la ligne Princess de Carnival.
Dans un communiqué, un porte-parole de Google a déclaré que les aperçus de l'IA et les résultats de recherche web sont efficaces pour orienter les utilisateurs vers les informations officielles du service client pour les types de recherches courants.
Le porte-parole a déclaré que l'entreprise avait pris des mesures concernant plusieurs exemples de numéros frauduleux que j'ai identifiés et que Google continuait de travailler sur des améliorations plus larges pour répondre à des requêtes plus rares comme celles-ci.
Le numéro du service client de Royal Caribbean est le 1-866-562-7625, numéro que l'entreprise indique afficher sur ses sites web, ses applications et ses factures. Disney et Princess n'ont pas répondu à mes questions.
OpenAI a indiqué que de nombreuses pages web référencées par ChatGPT avec le faux numéro de croisière semblent avoir été supprimées, et que la mise à jour de ces informations peut prendre du temps « après la suppression du contenu abusif à la source ». (Le Washington Post a conclu un partenariat de contenu avec OpenAI.)
Ce que vous et les entreprises pouvez faire pour vous protéger de cette arnaque
Méfiez-vous des numéros de téléphone dans les résultats de recherche Google ou dans les chatbots. Rivlin a déclaré avoir cherché le numéro du service client de Royal Caribbean dans son application. Sans succès.
Google ou les chatbots sont des outils naturels pour rechercher des numéros d'entreprise, mais il est conseillé d'être extrêmement prudent avec les numéros qu'ils affichent. Examinez attentivement les liens associés dans Google ou ChatGPT avant d'appeler. Consultez plus de conseilssur les arnaques au faux service client.
Pourquoi Google facilite-t-il la tâche aux arnaqueurs ? L'entreprise connaît la longue histoire de personnes trompées par de faux numéros de service client trouvés dans les résultats de recherche.
Vous seriez plus en sécurité si Google n'affichait pas les aperçus IA – qui semblent être des « réponses » fiables – pour les recherches de numéros d'entreprise, a déclaré Lily Ray, vice-présidente de la stratégie et de la recherche en optimisation des moteurs de recherche chez Amsive, une société de marketing.
« En autorisant l'affichage des aperçus IA pour les requêtes de numéros de téléphone professionnels, ils ouvrent une nouvelle opportunité aux escrocs, une opportunité qu'ils exploitent déjà manifestement à leur avantage », a déclaré Ray par courriel.
Ray et Blumenthal affirment que Google dispose de bases de données d'informations vérifiées, notamment pour les entreprises, et que l'entreprise devrait s'assurer que les résultats de recherche et les résultats IA n'en extraient que des informations.
De retour chez lui cette semaine après un excellent voyage, Rivlin a déclaré être attentif aux nouvelles accusations frauduleuses ou aux tentatives d'usurpation d'identité. Il souhaite faire savoir que même s'il est bien informé sur les escroqueries et qu'il croit en l'IA, cela ne l'immunise pas contre les arnaques.
« Je n'arrive pas à croire que je me sois laissé avoir », a-t-il déclaré. "Sois prudent."