Incidents associés
Beth Hyland pensait avoir rencontré l'amour de sa vie sur Tinder.
En réalité, cette assistante administrative basée dans le Michigan avait été manipulée par un escroc en ligne qui se faisait passer pour un Français nommé « Richard », utilisait des vidéos truquées lors d'appels Skype et publiait des photos d'un autre homme pour mener à bien son arnaque.
Un « deepfake » est une vidéo ou un son manipulé, créé grâce à l'intelligence artificielle (IA) pour paraître réel. Elles sont souvent difficiles à détecter sans outils spécialisés.
En quelques mois, Hyland, 53 ans, a contracté des prêts totalisant 26 000 dollars (95 497 dirhams), a envoyé l'argent à « Richard » et est devenu la proie d'un cas classique d'appât amoureux.
Le gouvernement britannique prévoit que huit millions de deepfakes seront partagés dans le monde en 2025, contre 500 000 en 2023.
Selon un rapport de janvier de l'entreprise spécialisée en cybersécurité McAfee, environ un cinquième d'entre eux relèveront d'escroqueries amoureuses.
« C'est comme faire le deuil d'un décès », a déclaré Hyland. Quand je l'ai vu en vidéo, c'était la même chose que les photos qu'il m'envoyait. Il avait l'air un peu flou, mais je ne connaissais pas les deepfakes.
Manipulation et mensonges
Hyland vit à Portage, à environ 230 km à l'ouest de Détroit, et était divorcée depuis quatre ans lorsqu'elle a recommencé à sortir avec quelqu'un.
Elle a rencontré sur Tinder un homme dont le profil semblait correspondre au sien.
Aujourd'hui, elle affirme que ce « match parfait » était probablement orchestré.
« Richard » a déclaré être né à Paris, mais avoir vécu dans l'Indiana et travaillé comme chef de projet indépendant pour une entreprise de construction, ce qui nécessitait de nombreux déplacements, notamment au Qatar.
S'en sont suivis des mois de manipulation émotionnelle, de mensonges, de fausses photos et d'appels Skype manipulés par l'IA. L'escroc lui a promis son amour éternel, mais avait de nombreuses raisons de manquer chaque rencontre potentielle.
Quelques semaines après leur rencontre, « Richard » a convaincu Hyland qu'il avait besoin de son aide pour payer un avocat et un traducteur au Qatar.
« Je lui ai dit que j'allais contracter un prêt et il s'est mis à pleurer, me disant que personne ne l'avait jamais aimé comme ça », a déclaré Hyland dans une interview en ligne.
Mais « Richard » a continué à réclamer plus d'argent et lorsque Hyland a finalement raconté ce qui se passait à son conseiller financier, celui-ci a déclaré qu'elle était probablement victime d'une arnaque amoureuse.
« Je n'arrivais pas à y croire, mais je ne pouvais pas l'ignorer », a déclaré Hyland.
Elle a confronté « Richard » ; Il a d'abord nié en bloc, puis est resté silencieux lorsque Hyland lui a demandé de « prouver qu'elle avait tort » et de lui rembourser.
La police a indiqué à Hyland qu'elle ne pouvait pas poursuivre son affaire car il n'y avait eu « aucune coercition, menace ou force », selon une lettre du directeur de la sécurité publique de Portage, consultée par la Fondation Thomson Reuters.
Le bureau de la sécurité publique, qui supervise les services de police et d'incendie, n'a pas répondu à une demande de commentaire.
Dans un courriel envoyé à Hyland après qu'elle a signalé le compte de l'escroc à Tinder, consulté par la Fondation Thomson Reuters, l'entreprise a déclaré supprimer les utilisateurs qui enfreignent ses conditions d'utilisation ou ses directives.
Tinder a déclaré ne pas pouvoir communiquer les résultats de l'enquête pour des raisons de confidentialité, mais a précisé que le signalement de Hyland avait été « évalué » et « traité conformément à nos politiques ».
Un porte-parole de Tinder a déclaré que l'entreprise appliquait une « tolérance zéro » envers les fraudeurs et utilisait l'IA pour débusquer les escrocs potentiels. et avertit ses utilisateurs. L'application propose également des fiches d'information sur les arnaques sentimentales.
En mars, Hyland a assisté à une audition devant une commission sénatoriale américaine lors du dépôt d'un projet de loi visant à obliger les applications de rencontre à supprimer les arnaqueurs et à avertir les utilisateurs qui interagissent avec de faux comptes.
Le sénateur à l'origine du projet de loi a déclaré que l'histoire de Hyland démontrait la nécessité de cette législation.
En général, les applications de rencontre n'informent pas les utilisateurs ayant communiqué avec un arnaqueur une fois son compte supprimé, ni n'émettent d'alertes sur la manière d'éviter d'être victime d'une arnaque, comme l'exige le nouveau projet de loi.
Selon le FBI, les États-Unis ont enregistré plus de 4 milliards de dollars de pertes dues aux arnaques sentimentales en 2023.
Microsoft, propriétaire de Skype, a demandé à la Fondation Thomson Reuters de publier des articles de blog informant les utilisateurs sur la prévention des arnaques sentimentales et sur les mesures prises pour lutter contre le contenu généré par l'IA, comme l'ajout de filigranes aux images.
L'entreprise n'a pas fourni d'autres commentaires.
Jason Lane-Sellers, directeur de la fraude et de l'identité chez LexisNexis Risk Solutions a déclaré que seulement 7 % des escroqueries sont signalées, les victimes étant souvent freinées par la honte.
« Course à l'armement de l'IA »
Jorij Abraham, directeur général de la Global Anti-Scam Alliance, une organisation néerlandaise de protection des consommateurs, a déclaré que les humains ne seront pas capables de détecter les médias manipulés bien longtemps.
« Dans deux ou trois ans, ce sera l'IA contre l'IA », a-t-il déclaré.
« [Il existe des logiciels] capables de suivre votre conversation – en observant les yeux, s'ils clignent – ce sont des indices révélateurs d'un phénomène invisible aux humains, mais visible aux logiciels. »
Lane-Sellers de LexisNexis Risk Solutions a décrit cette situation comme une « course à l'armement » de l'IA entre les escrocs et les entreprises de lutte contre la fraude qui tentent de protéger les consommateurs et les entreprises.
Richard Whittle, expert en IA à la Salford Business School, dans le nord de l'Angleterre, a déclaré qu'il s'attend à ce que les futures technologies de détection des deepfakes soient intégrées par des fabricants de matériel tels qu'Apple, Google et Microsoft, qui peut accéder aux webcams des utilisateurs.
Ni Apple ni Google n'ont répondu aux demandes de commentaires sur la manière dont ils protègent les consommateurs contre les deepfakes, ni sur les futurs développements de produits.
Abraham a déclaré que le véritable défi était d'attraper les escrocs, qui opèrent souvent dans des pays différents de ceux ciblés.
Malgré son impasse, Hyland estime toujours qu'il est important de signaler les escroqueries et d'aider les autorités à les réprimer.
Et elle veut que les victimes sachent que ce n'est pas de leur faute.
« J'ai appris la terminologie… on ne perd pas (d'argent) et on ne le donne pas – c'est volé. On ne tombe pas dans le piège des escroqueries – on est manipulé et victimisé. »