Incidents associés
Les compliments commencent à pleuvoir dès qu'elle répond à l'appel vidéo. « Waouh, tu es si jolie, chérie », dit l'homme de l'autre côté de l'écran. Son flux vidéo montre qu'il est blanc, avec les cheveux courts, probablement quelques années plus jeune qu'elle, et qu'il est assis devant sa caméra, vêtu d'une chemise à carreaux.
« Tu as l'air différente avec cette barbe et tout ça », dit la femme avec un accent américain alors que la conversation s'engage. L'homme ne perd pas une miette. « Je t'avais dit que j'allais me raser la barbe pour avoir une belle apparence. »
Sauf qu'il n'est pas celui qu'il prétend être. Son flux vidéo est un mensonge. Et, barbe ou pas, le visage que la femme peut voir lors de l'appel vidéo n'est pas le sien : c'est un deepfake.
En réalité, l'homme est un escroc qui utilise une technologie d'échange de visages pour changer totalement son apparence en temps réel. Dans une vidéo de l'appel, filmée par le complice de l'escroc, probablement à des milliers de kilomètres de la femme, on peut voir son vrai visage sur cet ordinateur portable aux côtés de la fausse identité alors qu'il parle à sa victime.
Cette vidéo auto-tournée est l'une des nombreuses vidéos publiées en ligne par des escrocs connus sous le nom de Yahoo Boys, un collectif informel d'escrocs, souvent basé au Nigéria. La vidéo révèle comment ils utilisent des deepfakes et des échanges de visages pour piéger les victimes dans des escroqueries amoureuses, en établissant une relation de confiance avec les victimes en utilisant de fausses identités, avant de les tromper pour qu'elles se séparent de milliers de dollars. Plus de 650 millions de dollars ont été perdus dans des escroqueries amoureuses l'année dernière, selon le FBI [https://www.ic3.gov/Media/PDF/AnnualReport/2023_IC3Report.pdf).
Un escroc des Yahoo Boys utilise plusieurs téléphones et un logiciel de permutation de visages contre une victime. C'est l'une des deux techniques utilisées par le groupe pour les appels en temps réel.
Les Yahoo Boys expérimentent des clips vidéo deepfake depuis environ deux ans et sont passés à des appels vidéo deepfakes en temps réel au cours de l'année dernière, explique David Maimon, professeur à la Georgia State University et responsable des analyses de fraude chez SentiLink, une société de vérification d'identité. Maimon surveille les Yahoo Boys sur Telegram depuis plus de quatre ans et a partagé des dizaines de vidéos avec WIRED révélant comment les escrocs utilisent les deepfakes.
Une analyse par WIRED des vidéos et de trois chaînes Telegram Yahoo Boy associées montre comment les techniques des escrocs ont évolué à mesure que les applications deepfake et l'intelligence artificielle se sont améliorées. C'est l'une des premières fois que les tactiques spécifiques et les techniques farfelues des escrocs utilisant des appels vidéo deepfake sont documentées avec autant de détails.
Les vidéos montrent les Yahoo Boys utilisant cette technologie sur des configurations impliquant à la fois des ordinateurs portables et des téléphones. Dans plusieurs vidéos, les escrocs montrent souvent effrontément leur propre visage, ainsi que celui des victimes qu'ils escroquent. « Je ne pense pas qu'ils le fassent parce qu'ils sont stupides », déclare Maimon. « Je pense qu'ils s'en moquent tout simplement et qu'ils n'ont pas peur des répercussions. »
Les Yahoo Boys sont des escrocs expérimentés, et ils s'en vantent ouvertement. Des photos et des vidéos de leurs escroqueries et de leur recrutement peuvent être trouvées partout sur les réseaux sociaux, de Facebook à TikTok. Cependant, les cybercriminels, qui ont des liens vers des escroqueries par courrier électronique impliquant des princes nigérians, sont sans doute les plus ouverts sur Telegram.
Dans des groupes contenant des milliers de membres, les Yahoo Boys organisent et font la promotion de leurs compétences individuelles pour un assortiment d'escroqueries. Ce sont des manipulateurs sociaux qualifiés, qui peuvent avoir des effets durables sur leurs victimes. Les escroqueries par courrier électronique professionnel, les escroqueries par cryptomonnaie et les escroqueries par usurpation d'identité sont toutes présentées dans des centaines de messages par jour. Les membres prétendent vendre des compétences en retouche photo et vidéo et des albums entiers de photographies explicites qui peuvent être utilisées pour créer une personnalité convaincante. De fausses pièces d'identité et des profils de réseaux sociaux d'apparence légitime sont à vendre. Des « scripts » d'escroquerie sont téléchargeables gratuitement.
« Les Yahoo Boys ont des éléments de crime organisé et de crime désorganisé », déclare Paul Raffile, analyste du renseignement au Network Contagion Research Institute, qui a enquêté sur les adolescents victimes de sextorsion commis par les Yahoo Boys](https://networkcontagion.us/wp-content/uploads/Yahoo-Boys_1.2.24.pdf) et les incitant [vers suicide](https://www.bloomberg.com/features/2024-sextortion-teen-suicides/?accessToken=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJzb3VyY2UiOiJTdWJzY3JpYmVyR2lmdGVkQXJ0aWNsZSIsImlhdCI6MTc « Ils n'ont pas de leader, ils n'ont pas de structure de gouvernance. » Au contraire, dit Raffile, ils s'organisent en groupes et partagent des conseils et des astuces en ligne. Telegram n'a pas répondu à la demande de commentaires de WIRED sur les chaînes des Yahoo Boys, mais les trois chaînes ne semblent plus accessibles.
Les escrocs numériques ont commencé à utiliser des deepfakes dans le cadre de leurs escroqueries amoureuses vers mai 2022, explique Maimon. « Ce que faisaient les gens, c'était simplement publier des vidéos d'eux-mêmes, changer leur apparence, puis les envoyer à la victime, en essayant de l'inciter à leur parler », dit-il. Depuis, ils ont évolué.
Pour créer leurs vidéos, les Yahoo Boys utilisent une poignée de logiciels et d'applications différents. WIRED ne nomme pas le logiciel spécifique, afin de limiter la capacité des gens à copier les attaques. Cependant, les outils qu'ils utilisent sont souvent annoncés à des fins de divertissement, par exemple en permettant aux gens d'échanger leur visage avec des célébrités ou des influenceurs.
Les appels deepfake en direct des Yahoo Boys se déroulent de deux manières différentes. Dans la première, illustrée ci-dessus, les escrocs utilisent une configuration de deux téléphones et une application d'échange de visage. L'escroc tient le téléphone avec lequel il appelle sa victime - on le voit principalement utiliser Zoom, explique Maimon, mais il peut fonctionner sur n'importe quelle plateforme - et utilise sa caméra arrière pour enregistrer l'écran d'un deuxième téléphone. Ce deuxième téléphone a sa caméra pointée vers le visage de l'escroc et exécute une application d'échange de visage. Ils placent souvent les deux téléphones sur des supports pour s'assurer qu'ils ne bougent pas et utilisent des anneaux lumineux pour améliorer les conditions d'un échange de visage en temps réel, comme le montrent les vidéos.
La deuxième tactique courante - illustrée ci-dessous - utilise un ordinateur portable au lieu d'un téléphone. (WIRED a flouté les vrais visages dans les deux vidéos.) Ici, l'escroc utilise une webcam pour capturer son visage et un logiciel exécuté sur l'ordinateur portable modifie son apparence. Les vidéos de la configuration montrent que les escrocs sont capables de voir leur propre visage à côté du deepfake modifié, avec seulement l'image manipulée affichée sur l'appel vidéo en direct.
Maimon affirme que lui et ses équipes ont retrouvé certaines des victimes, à la fois dans des vidéos deepfakes et dans des albums photo vendus par Yahoo Boys, et ont essayé de les contacter. WIRED n'a pas été en mesure de déterminer la véritable identité des victimes ou des escrocs, et on ne sait pas exactement combien de fois les deepfakes ont été utilisés. Pourtant, les vidéos qui semblent mettre en scène des victimes révèlent la manière dont les escrocs établissent un lien avec leurs cibles.
Les vidéos montrent des escrocs disant aux gens qu'ils les « aiment » et complimentant fréquemment leur apparence. Dans une vidéo, un escroc dit qu'il veut se rendre au Canada pour rencontrer sa cible, et quand il le fera, il la paiera « instantanément », suggérant que la cible lui a envoyé de l'argent que l'escroc a faussement promis de rembourser. D'autres vidéos contiennent des informations très personnelles, montrant le niveau de confiance que les escrocs peuvent créer avec les personnes qu'ils ciblent. « Certaines victimes parlent de leurs troubles alimentaires, de leur dépression », explique Maimon.
Les vidéos ne sont probablement qu'un aperçu des activités d'escroquerie sentimentale des Yahoo Boys, et bon nombre des vidéos qu'ils publient eux-mêmes sont en partie destinées à montrer leurs capacités pour permettre à d'autres de « croquer » cette approche. Raffile dit que, alors qu'il enquêtait sur les groupes de sextorsion, il a remarqué que la plupart des échanges de visages étaient utilisés pour des escroqueries sentimentales. Cependant, il y a également eu des cas où les Yahoo Boys ont prétendu utiliser des générateurs de faux « nus » sur des photographies](https://www.wired.com/story/deepfake-nude-generator-chilling-look-at-its-victims/).
Les escrocs peuvent exécuter un logiciel d'échange de visages sur des ordinateurs portables. Il imite leurs expressions faciales et les mouvements de leur bouche.
L'intelligence artificielle va dynamiser les escroqueries. Bien que les vidéos deepfake existent depuis plus d'une demi-décennie (https://www.wired.com/story/deepfake-app-ai-porn-fake-reddit/), principalement utilisées pour la pornographie non consensuelle, elles présentent souvent des défauts et sont faciles à repérer. Les lèvres ne se synchronisent pas lorsque les gens parlent et les erreurs sont relativement faciles à détecter. Cependant, la technologie s'améliore rapidement et devient plus facile à utiliser pour tout le monde.
Certaines des vidéos de Yahoo Boy sont des faux incroyables et évidents, tandis que d'autres semblent plausibles. Lorsqu'elles sont visionnées en direct, sur un téléphone portable, avec des connexions instables, tout défaut évident peut être masqué, surtout si un escroc a passé des mois à manipuler sa victime par ingénierie sociale.
Rachel Tobac, cofondatrice et PDG de SocialProof Security, qui a examiné avec le directeur technique de la société Evan Tobac une sélection de vidéos de Yahoo Boy pour WIRED, dit qu'elle a généralement vu des échanges de visages utilisés dans les arnaques sentimentales au cours des 12 derniers mois. « Elles n'étaient pas très convaincantes l'année dernière, lorsque je les ai examinées. Cette année, beaucoup de choses ont changé », dit Rachel Tobac. « Surtout celles où ils peuvent changer le ton de leur voix et l'apparence de leur visage - parfois changer le teint, les cheveux, la couleur des yeux, tout est assorti. C'est assez fou. »
Les Yahoo Boys semblent souvent utiliser des personnages et des visages existants intégrés aux applications. Les arnaqueurs parlent en grande partie en utilisant leur propre voix, bien que dans quelques vidéos, cela ait également pu être modifié. Dans de nombreuses vidéos vues par WIRED, les personnages à l'écran peuvent tourner la tête mais ne peuvent pas bouger tout leur corps. Leurs lèvres et leurs expressions faciales bougent avec celles du visage de l'arnaqueur. Les capacités de ces outils ne feront que s'améliorer au fil du temps.
Andrew Newell, directeur scientifique de la société de vérification d'identité iProov, affirme avoir constaté un « changement massif » dans le nombre de systèmes d'échange de visages utilisés au cours de l'année dernière, en recensant plus de 100 outils différents. Seule une fraction de ces outils permet l'échange de visages en temps réel, dit-il. « Nous avons constaté des progrès assez importants en termes de qualité de ces outils en direct. »
Bien que les Yahoo Boys ne développent pas leur propre logiciel ou ne soient pas techniquement sophistiqués, Maimon affirme qu'ils sont polyvalents. Ils peuvent exécuter plusieurs escroqueries à la fois, parler à des dizaines de victimes à la fois, et différentes personnes auront les compétences nécessaires pour mener à bien une escroquerie complète. « Il y a une évolution constante », déclare Maimon.
Ronnie Tokazowski, le chef de la lutte contre la fraude chez Intelligence for Good, qui travaille avec les victimes de cybercriminalité, affirme que parce que les Yahoo Boys ont utilisé des deepfakes pour des escroqueries amoureuses, ils vont se tourner vers l'utilisation de cette technologie pour leurs autres escroqueries. « C'est une sorte d'avertissement précoce qui dit : "OK, ils sont vraiment bons dans ce domaine. Maintenant, quelle est la prochaine chose qu'ils vont faire ?" »