Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 5024

Incidents associés

Incident 10081 Rapport
AI-Generated Voice Purporting to Be Daughter Allegedly Used to Coerce $2,000 from Colorado Mother

Loading...
La voix paniquée au téléphone ressemblait à celle de sa fille. Ce n'était pas le cas.
wsj.com · 2025

Linda Roan se préparait un bol de soupe un lundi soir de février lorsque son téléphone portable a sonné. L'appel provenait d'un numéro local, elle a donc répondu.

« Maman, je vais bien, mais il s'est passé quelque chose de terrible », a sangloté une jeune femme. « J'ai besoin de ton aide. »

Roan a immédiatement reconnu la voix : on aurait dit celle de la plus jeune de ses trois filles adultes.

Puis un homme est arrivé. Il a mentionné la fille de Roan par son nom et a demandé si c'était sa mère. L'homme a dit que sa fille avait été témoin de son trafic de drogue. Elle avait crié à la vue des armes, faisant fuir les acheteurs. Il se retrouvait maintenant avec beaucoup de cocaïne, et la fille de Roan, âgée de 26 ans. Il a dit qu'elle était dans sa camionnette.

« J'étais dans un état de calme », se souvient Roan, 62 ans, bien qu'elle soit pétrifiée. « C'était bizarre. »

Quand l'homme lui a dit qu'il avait perdu beaucoup d'argent et qu'il avait besoin d'elle pour arranger les choses, l'idée lui a traversé l'esprit qu'il pouvait s'agir d'une arnaque. Mais elle avait entendu la voix de sa fille et son cri caractéristique. N'est-ce pas ?

Un trajet stressant

L'homme au téléphone a dit à Roan que si elle voulait revoir sa fille un jour, elle devrait lui envoyer de l'argent.

Il lui a conseillé d'aller dans un Walmart près de chez elle, dans la banlieue de Denver, et d'envoyer de l'argent au Mexique via Western Union. Il lui avait préparé une histoire au cas où l'employé aurait des soupçons. Elle devait dire que son beau-frère vivait au Mexique, qu'il était tombé gravement malade du Covid et qu'il avait besoin d'oxygène immédiatement.

En mars, la Commission fédérale du commerce a identifié les escroqueries par imposteur (https://consumer.ftc.gov/consumer-alerts/2025/03/top-scams-2024), dans lesquelles une personne se fait passer pour un proche, un collègue ou un fonctionnaire, comme le type d'escroquerie le plus signalé l'année dernière, entraînant des pertes de près de 3 milliards de dollars.

Les criminels utilisent de plus en plus l'IA générative pour imiter la voix d'un proche, ce qui rend ce type d'escroquerie plus crédible, a averti le Federal Bureau of Investigation. Il suffit de trois secondes d'audio pour cloner une voix avec une précision de 85 %, selon l'entreprise de logiciels de sécurité McAfee, dont l'enquête menée auprès de 7 000 personnes dans le monde a révélé que plus de la moitié d'entre elles partagent régulièrement du contenu vocal en ligne.

Les criminels peuvent également utiliser l'IA pour reproduire la voix d'une personne, quel que soit son âge, son sexe ou son dialecte. Dans une situation de stress intense, la voix générique d'une jeune femme pourrait être confondue avec celle d'une fille, selon des experts en cybersécurité.

Alors que Roan se dirigeait vers Walmart, l'homme lui a conseillé de conduire prudemment et de respecter la limitation de vitesse. Il lui a conseillé de mettre son téléphone sur haut-parleur et de le cacher. Il l'écouterait en permanence et, si elle déviait du script, il le saurait. À son arrivée, elle a caché son téléphone dans sa chemise et est entrée. On lui a cependant dit qu'elle ne pouvait pas transférer d'argent avec une carte de crédit, mais seulement avec une carte de débit, qu'elle n'avait pas.

L'homme au téléphone lui a demandé de rentrer chez elle et d'effectuer un virement Western Union en ligne. Il avait chronométré son trajet jusqu'à Walmart et lui avait donné 16 minutes, a-t-il dit. Si elle s'arrêtait, il le saurait.

Vraisemblablement pour la calmer, l'homme l'a abordée, lui demandant ce qu'elle aimait faire pour s'amuser. Elle a tenté de se montrer amicale en retour, pensant que cela pourrait aider sa fille. Mais lorsqu'elle a posé des questions sur lui, il s'est énervé. « Ce n'est pas vous qui posez les questions », a-t-il crié. « C'est moi qui pose les questions. »

De retour chez elle, l'homme lui a expliqué comment effectuer un virement en ligne, mais pour le finaliser, elle devait appeler un numéro. Elle a raconté à l'agent l'histoire de son beau-frère atteint de la Covid et a réussi à transférer 1 000 $ au Mexique.

Une deuxième tentative d'escroquerie

La peur elle-même peut suspendre notre jugement dans ces situations, nous convainquant que ce que nous entendons est réel, explique Mary Poffenroth, biopsychologue et maître de conférences à l'Université d'État de San José.

L'amygdale, qui régule les émotions et déclenche la réaction de combat ou de fuite de notre cerveau, s'active. Le cortex préfrontal, centre du raisonnement et du contrôle des impulsions, passe au second plan. « Il ne peut y avoir qu'un seul chauffeur de bus », explique Poffenroth. « C'est pourquoi nous ne prenons pas de bonnes décisions quand nous avons peur. »

Après que Roan eut viré l'argent, l'homme a dit qu'il libérerait sa fille. Puis, suite à un vacarme audible, l'homme est remonté et a dit que son patron était furieux. Il avait mis tellement de temps à obtenir l'argent qu'ils en voulaient maintenant plus.

Il a dit que son patron pouvait vendre sa fille pour 30 000 dollars. Roan a entendu ce qu'elle pensait être sa fille pleurer et crier : « Non, non, s'il vous plaît, laissez-moi partir ! » L'homme lui a aboyé pour qu'elle se taise.

Roan raconte qu'elle l'a supplié de la laisser parler à sa fille. Il a refusé. Roan se demandait encore si tout cela n'était pas une arnaque, mais… cette voix. « Ce n'est pas que ça lui ressemblait presque », dit-elle. « C'était juste elle. »

Il a dit à Roan qu'ils pourraient enfin mettre fin à leur relation si elle transférait 1 000 $ supplémentaires via MoneyGram, changeant de service pour éviter tout soupçon. Une fois l'argent transféré, l'homme a dit qu'il laissait partir la fille de Roan et a raccroché.

Roan a immédiatement appelé sa fille, mais elle n'a pas décroché. Elle a réessayé. Et encore. À la quatrième tentative, sa fille a répondu. « Maman, que se passe-t-il ? » Elle était dans son appartement, en sécurité et ignorant ce que Roan avait vécu. Roan a pleuré de soulagement.

Dans l'enquête McAfee, un répondant sur dix a déclaré avoir reçu des appels similaires, la plupart ayant perdu de l'argent à cause de cela.

Une fois calmée, Roan a appelé la police. Un agent s'est rendu à son domicile et a examiné ses transactions. Il a cherché le numéro de téléphone de l'appelant mystère dans une base de données. Rien n'a été trouvé. Idem pour les noms des bénéficiaires du virement.

Selon le rapport de police, Roan a été informé qu'il était peu probable d'obtenir suffisamment de preuves pour engager des poursuites, l'argent étant parti au Mexique. L'agent a conseillé à Roan de contester les frais, mais l'agent de la société de carte de crédit a déclaré qu'elle ne pouvait pas récupérer son argent car elle avait autorisé les frais. Sa banque a déclaré au Wall Street Journal que c'était une pratique courante.

Roan dit être profondément gênée d'avoir été trompée. Mais lorsqu'elle a raconté son calvaire à ses amis, ils ont fait preuve de compassion.

« Toutes les mères à qui j'ai parlé ont dit qu'elles auraient fait la même chose », confie Roan.

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd