Incidents associés
La semaine dernière, la Commission des valeurs mobilières de Hong Kong (SFC) a mis en garde contre une arnaque utilisant des deepfakes d'Elon Musk vantant les mérites d'une plateforme d'échange de cryptomonnaies appelée « IA quantique ». Cette arnaque est ancienne, mais elle met en évidence une augmentation alarmante du recours à l'intelligence artificielle (IA) pour commettre des fraudes, et l'Asie s'y est révélée particulièrement vulnérable. Dans son avertissement public du 8 mai, la SFC a déclaré que Quantum AI prétendait pouvoir générer des rendements « trop beaux pour être vrais » et a demandé à la police de Hong Kong de bloquer l'accès aux sites web et aux pages de réseaux sociaux concernés. Les domaines liés étaient inaccessibles depuis cette semaine, et les groupes Facebook semblent avoir été supprimés.
De nombreux cas de fraudes liées aux deepfakes ont déjà été recensés à Hong Kong, mettant le gouvernement en état d'alerte. Les incidents de deepfakes en Asie-Pacifique ont bondi de 1 530 % l'an dernier, le Vietnam et le Japon étant les pays les plus touchés, selon un rapport de la plateforme de vérification d'identité Sumsub.
« Grâce à l'augmentation des transactions financières numériques sur le marché émergent d'Asie, le vivier de cibles pour les deepfakes est plus large », a déclaré Penny Chai, vice-présidente du développement commercial de Sumsub en Asie-Pacifique. Étant donné le volume important de transactions transfrontalières instantanées dans la région, notamment à Hong Kong, les escrocs utilisant le deepfake peuvent exploiter la complexité et le volume des transactions financières pour mener des activités frauduleuses.
[Un site web utilisant l'arnaque à l'IA quantique se décrit comme une « plateforme révolutionnaire » conçue par Elon Musk, PDG de Tesla.] Photo : Capture d’écran](https://img.i-scmp.com/cdn-cgi/image/fit=contain,width=1024,format=auto/sites/default/files/d8/images/canvas/2024/05/16/c32ac7c1-6c63-4048-9981-8e4a997c4dcc_00d05c81.jpg « Un site web utilisant l’arnaque de l’IA quantique se décrit comme une « plateforme révolutionnaire » conceptualisée par Elon Musk, PDG de Tesla. Photo : Capture d’écran »)
Un site web utilisant l’arnaque de l’IA quantique se décrit comme une « plateforme révolutionnaire » conceptualisée par Elon Musk, PDG de Tesla. Photo : Capture d’écran
L’arnaque de l’IA quantique remonte à au moins un an, bien qu’elle semble avoir été reprise sous différentes formes pour cibler différents groupes.
Une vidéo diffusée sur Facebook l'année dernière, démentie par PolitiFact, mettait en scène Elon Musk, PDG milliardaire de Tesla et SpaceX, aux côtés de Jack Ma, cofondateur d'Alibaba Group Holding et propriétaire du South China Morning Post, faisant la promotion de la plateforme. Il s'agissait d'une adaptation d'une vidéo où Elon Musk et Ma apparaissaient ensemble à la Conférence mondiale sur l'IA de 2019 à Shanghai.
Une autre vidéo a été modifiée à partir d'une apparition d'Elon Musk dans l'émission de l'expert conservateur Tucker Carlson sur Fox News, selon Reuters Fact Check.
Certains domaines utilisant ce stratagème s'appuient sur des hébergeurs bon marché et des technologies back-end flexibles comme WordPress. L'un des principaux résultats de recherche pour Quantum AI est un site web exigeant un dépôt minimum de 250 dollars américains, accompagné d'un avertissement invitant les utilisateurs à « n'investir que ce qu'ils sont prêts à perdre complètement ».
Les cas de fraude utilisant des deepfakes – des simulations convaincantes de personnes réelles utilisant l'IA générative – sont en augmentation. Sumsub – qui suit les cas d'usurpation d'identité, notamment par deepfakes – a détecté une multiplication par dix de leur utilisation l'année dernière, selon son rapport sur la fraude à l'identité.
Sumsub a identifié Hong Kong comme l'un des cinq premiers marchés d'Asie en matière d'usurpation d'identité, avec un taux de 3,3 % l'année dernière. Le Bangladesh affichait le taux le plus élevé, avec 5,4 %.
Au premier trimestre, la fraude dans le secteur des technologies financières à Hong Kong a progressé de 3,8 %, soit 216 % de plus que sur la même période un an plus tôt, a indiqué Sumsub au Washington Post.
Les deepfakes ont déjà causé des pertes de plusieurs dizaines de millions de dollars dans la ville.
En 2020, un directeur d'une banque japonaise a été trompé par un faux audio imitant la voix de son directeur pour transférer 35 millions de dollars américains. Une autre multinationale a perdu 25,6 millions de dollars à cause d'une fraude impliquant un appel vidéo truqué imitant l'image du directeur financier.
La SFC est devenue de plus en plus agressive dans le signalement des escroqueries liées aux cryptomonnaies sur son site web. Sur les 29 plateformes de négociation d'actifs virtuels suspectes répertoriées par la SFC, 18 ont été mises en garde cette année, et 24 depuis le scandale JPEX en septembre dernier.
« C'est effrayant » : Des escroqueries asiatiques aux cryptomonnaies escroquent des dizaines de milliers de victimes victimes d'un lavage de cerveau.
Cet incident a impliqué la plateforme d'échange de cryptomonnaies JPEX dans une perte d'environ 1,5 milliard de dollars de Hong Kong (192 millions de dollars américains), ce qui en fait l'une des plus importantes fraudes financières de l'histoire de la ville.
Le régulateur a également été plus actif dans le signalement d'autres produits suspects liés aux cryptomonnaies. Lundi, il a mis en garde contre un produit d'investissement appelé LENA Network, qui implique des accords de jalonnement, d'emprunt et de prêt de cryptomonnaies.
Les accords de jalonnement, qui nécessitent de bloquer une certaine quantité de crypto pour valider les transactions sur une blockchain, pourraient « s'apparenter à des systèmes d'investissement collectif non autorisés », a averti la SFC, et « peuvent être très risqués ».