Incidents associés
Tout ce que Steve Beauchamp voulait, c’était de l’argent pour sa famille. Et il pensait qu’Elon Musk pouvait l’aider.
M. Beauchamp, un retraité de 82 ans, a vu une vidéo à la fin de l’année dernière dans laquelle M. Musk soutenait une opportunité d’investissement radicale qui promettait des rendements rapides. Il a contacté la société à l’origine de la vidéo et a ouvert un compte pour 248 $. Au cours d’une série de transactions sur plusieurs semaines, M. Beauchamp a vidé son compte de retraite, investissant au final plus de 690 000 $.
Puis l’argent a disparu – perdu au profit d’escrocs numériques à l’avant-garde d’une nouvelle entreprise criminelle alimentée par l’intelligence artificielle.
Les escrocs avaient édité une véritable interview de M. Musk, remplaçant sa voix par une réplique à l’aide d’outils d’IA. L’IA était suffisamment sophistiquée pour pouvoir modifier les mouvements infimes de la bouche afin de correspondre au nouveau script qu’ils avaient écrit pour le faux numérique. Pour un spectateur occasionnel, la manipulation aurait pu être imperceptible.
« Je veux dire, la photo de lui, c'était lui », a déclaré M. Beauchamp à propos de la vidéo qu'il a vue de M. Musk. « Maintenant, je ne sais pas vraiment si c'était l'IA qui lui faisait dire ce qu'il disait. Mais en ce qui concerne la photo, si quelqu'un avait dit : "Choisissez-le dans une file d'attente", c'est lui. »
Des milliers de ces vidéos pilotées par l'IA, connues sous le nom de deepfakes, ont inondé Internet ces derniers mois, présentant de fausses versions de M. Musk trompant des dizaines d'investisseurs potentiels. Les deepfakes pilotés par l'IA devraient contribuer à des milliards de dollars de pertes dues à la fraude chaque année, selon les estimations de Deloitte](https://www2.deloitte.com/xe/en/insights/industry/financial-services/financial-services-industry-predictions.html#generative-ai-is-expected-to).
Les vidéos ne coûtent que quelques dollars à produire et peuvent être réalisées en quelques minutes. Elles sont promues sur les réseaux sociaux, notamment dans des publicités payantes sur Facebook, ce qui amplifie leur portée.
« C'est probablement la plus grande arnaque basée sur le deepfake jamais réalisée », a déclaré Francesco Cavalli, cofondateur et responsable du renseignement sur les menaces chez Sensity, une entreprise qui surveille et détecte les deepfakes.
Les vidéos sont souvent étrangement réalistes, capturant la cadence guindée emblématique de M. Musk et son accent sud-africain.
Les escrocs commencent par une vidéo authentique, comme cette interview du Wall Street Journal réalisée par Thorold Barker, un rédacteur dont la voix est également entendue dans le clip.
Les mouvements de la bouche de M. Musk sont édités à l'aide d'une technologie de synchronisation labiale, qui modifie la façon dont quelqu'un parle. Les escrocs ajouteront une voix d'IA à l'aide d'outils de clonage vocal, qui copient n'importe quelle voix à partir d'échantillons de clips.
Selon Sensity, qui a analysé plus de 2 000 deepfakes, M. Musk était de loin le porte-parole le plus courant dans les vidéos.
Il a été présenté dans près d'un quart de toutes les escroqueries deepfake depuis la fin de l'année dernière, a constaté Sensity. Parmi celles axées sur les cryptomonnaies, il était présent dans près de 90 % des vidéos.
Les publicités deepfakes mettaient également en vedette Warren Buffett, l'investisseur de premier plan, et Jeff Bezos, le fondateur d'Amazon, entre autres.
M. Musk n'a pas répondu aux demandes de commentaires.
Il est difficile de quantifier exactement le nombre de deepfakes qui circulent en ligne, mais une recherche dans la bibliothèque publicitaire de Facebook pour le langage couramment utilisé qui annonçait les escroqueries a révélé des centaines de milliers de publicités, dont beaucoup incluaient les vidéos deepfakes. Bien que Facebook ait déjà supprimé bon nombre d'entre elles pour violation de ses politiques et désactivé certains des comptes responsables, d'autres vidéos sont restées en ligne et de nouvelles semblaient apparaître chaque jour.
YouTube a également été inondé de faux, utilisant souvent une étiquette suggérant que la vidéo est « en direct ». En fait, les vidéos sont des deepfakes préenregistrés.
Arnaques YouTube « en direct »
Les résultats de recherche sur YouTube pour « Elon Bitcoin conference » ont montré des dizaines de vidéos prétendument en direct mettant en scène un deepfake de M. Musk vantant des escroqueries cryptographiques. Certaines vidéos ont été visionnées par des centaines de milliers de personnes.
Après que l'ancien président Donald J. Trump a pris la parole lors d'une conférence Bitcoin samedi, YouTube a hébergé des dizaines de vidéos utilisant l'étiquette « en direct » qui montraient une version deepfake préenregistrée d'Elon Musk déclarant qu'il doublerait personnellement toute cryptomonnaie envoyée sur son compte. Certaines des vidéos ont eu des centaines de milliers de spectateurs, bien que YouTube ait déclaré que les escrocs peuvent utiliser des robots pour gonfler artificiellement le nombre.
Un Texan a déclaré avoir perdu 36 000 dollars en bitcoins après avoir vu une « imitation » de M. Musk s'exprimant dans une vidéo YouTube en direct en février 2023, selon un rapport du Better Business Bureau (https://www.bbb.org/), l'association à but non lucratif de défense des consommateurs.
« J'ai envoyé mes bitcoins et je n'ai jamais rien reçu en retour », a écrit la personne.
YouTube a déclaré dans un communiqué avoir supprimé plus de 15,7 millions de chaînes et plus de 8,2 millions de vidéos pour avoir enfreint ses directives de janvier à mars de cette année, la plupart d'entre elles enfreignant ses politiques contre le spam (https://support.google.com/youtube/answer/2801973?hl=en).
La prévalence des fausses publicités a incité Andrew Forrest, un milliardaire australien dont les vidéos ont également été utilisées pour créer des publicités deepfake sur Facebook, à intenter une action civile contre Meta, sa société mère, pour négligence dans la gestion de son activité publicitaire. Il a affirmé que l'activité publicitaire de Facebook attirait « des utilisateurs innocents vers de mauvais investissements ».
Meta, propriétaire de Facebook, a déclaré que la société formait des systèmes de détection automatisés pour détecter les fraudes sur sa plateforme, mais a également décrit un jeu du chat et de la souris où des escrocs bien financés changeaient constamment de tactique pour échapper à la détection.
YouTube a souligné ses politiques interdisant les escroqueries et les vidéos manipulées. En mars, la société a imposé aux créateurs de divulguer lorsqu'ils utilisent l'IA pour créer du contenu réaliste.
Internet regorge désormais de rapports similaires de personnes escroquées de milliers de dollars, certaines d'entre elles ayant perdu toutes leurs économies. La Securities and Futures Commission de Hong Kong a émis un avertissement en mai concernant les escroqueries mettant en scène M. Musk. Plus tôt cette année, la Federal Trade Commission (FTC) et le Federal Bureau of Investigation (FBI) ont averti les Américains que la cybercriminalité et les escroqueries par deepfake utilisant l'IA étaient en hausse.
« Les criminels utilisent l'IA comme un multiplicateur de force » de manière à rendre « les cyberattaques et autres activités criminelles plus efficaces et plus difficiles à détecter », a déclaré le FBI dans un communiqué envoyé par courrier électronique.
Les escroqueries numériques sont aussi vieilles qu'Internet lui-même. Mais la nouvelle vague de deepfakes mettant en scène M. Musk est apparue l'année dernière après que des outils d'IA sophistiqués ont été mis à la disposition du public, permettant à n'importe qui de cloner des voix de célébrités ou de manipuler des vidéos avec une précision inquiétante. Pornographes, créateurs de mèmes et, de plus en plus, les escrocs en ont pris note.
'Deepfake Elon Musk'
Des milliers de publicités circulant en ligne présentent une version IA d'Elon Musk qui vend des produits de cryptomonnaie ou promet des retours sur investissement importants.
« Les choses changent maintenant parce que le crime organisé a compris qu'il était possible de gagner de l'argent avec ça », explique Lou Steinberg, fondateur de CTM Insights, un laboratoire de recherche en cybersécurité. « Nous allons donc voir de plus en plus de fausses tentatives pour vous soutirer de l'argent. »
Les vidéos générées par l'IA sont loin d'être parfaites. M. Musk peut avoir une voix robotique dans certaines vidéos et sa bouche ne correspond pas toujours à ses mots. Mais elles semblent suffisamment convaincantes pour certaines cibles de l'arnaque --- et s'améliorent constamment, selon les experts.
La création de ces vidéos ne coûte que 10 dollars, selon M. Cavalli de Sensity. Les escrocs --- basés principalement en Inde, en Russie, en Chine et en Europe de l'Est --- assemblent les fausses vidéos à l'aide d'un mélange d'outils gratuits et bon marché en moins de 10 minutes.
« Cela fonctionne », a déclaré M. Cavalli. « Ils continueront donc à amplifier la campagne, à travers les pays, à traduire dans plusieurs langues et à diffuser continuellement l'arnaque à encore plus de cibles. »
Certaines de ces escroqueries font souvent la publicité de faux logiciels alimentés par l'IA, en prétendant qu'ils peuvent produire des retours sur investissement incroyables. Les cibles sont encouragées à envoyer une petite somme au début - environ 250 $ - et sont progressivement incitées à investir davantage, car les escrocs prétendent que l'investissement initial augmente en valeur.
Dans une vidéo, tirée d'une réunion d'actionnaires de Tesla, le deepfake M. Musk explique un produit de trading automatisé alimenté par l'IA qui peut doubler un investissement donné chaque jour.
Les experts qui ont étudié les communautés cryptographiques ont déclaré que la base de fans mondiale unique de M. Musk, composée de conservateurs, de types anti-establishment et de passionnés de crypto, est souvent attirée par des voies alternatives pour gagner leur fortune - ce qui en fait des cibles parfaites pour les escroqueries.
« Il y a certainement un groupe de personnes qui croient que le secret de la richesse leur est caché », a déclaré Molly White, une chercheuse qui a étudié les communautés cryptographiques. Ils pensent que « s'ils peuvent trouver le secret, alors c'est tout ce dont ils ont besoin ».
Les escrocs ciblent souvent les internautes plus âgés qui connaissent peut-être la cryptomonnaie, l'IA ou M. Musk, mais qui ne connaissent pas les moyens les plus sûrs d'investir.
« Les personnes âgées ont toujours été une population très propice aux escroqueries et très rentable », a déclaré Finn Brunton, professeur d'études scientifiques et technologiques à l'Université de Californie à Davis, qui est un expert du marché des cryptomonnaies. Il a ajouté que les personnes âgées étaient la cible de fraudes bien avant que des plateformes comme Facebook ne les rendent plus faciles à arnaquer.
M. Beauchamp, qui est veuf et a travaillé jusqu'à l'âge de 75 ans comme représentant commercial dans une entreprise de l'Ontario, au Canada, est tombé sur une annonce peu de temps après avoir rejoint Facebook en 2023. Bien qu'il se souvienne d'avoir vu la vidéo en direct sur CNN, une porte-parole de CNN a déclaré que M. Musk n'avait pas accordé d'interview depuis des années. (Le New York Times n'a pas pu identifier de vidéo correspondant à la description de M. Beauchamp, mais il a déclaré que son histoire était presque identique à celle d'une autre femme escroquée en ligne par un faux escroc d'Elon Musk.)
Il a envoyé 27 216 $ en décembre dernier à une société se faisant appeler Magna-FX, selon des courriels entre M. Beauchamp et la société qui ont été partagés avec le New York Times. Magna-FX a fait croire que son investissement prenait de la valeur. À un moment donné, un agent commercial a utilisé un logiciel pour prendre le contrôle de l'ordinateur de M. Beauchamp, déplaçant des fonds pour apparemment les investir.
Pour retirer l'argent, M. Beauchamp a été obligé de payer des frais d'administration de 3 500 $ et une commission supplémentaire de 3 500 $. Il a envoyé l'argent, mais on lui a dit qu'il devait payer 20 000 $ pour débloquer une partie des fonds, soit environ 200 000 $. Il a également payé cette somme.
Bien que M. Beauchamp ait dit aux escrocs qu'il avait épuisé son épargne-retraite, atteint le maximum de ses cartes de crédit, utilisé une ligne de crédit et emprunté de l'argent à sa sœur pour investir et payer les frais, les escrocs en voulaient plus. Ils lui ont demandé de payer encore des frais. M. Beauchamp a contacté la police.
La plupart des traces de Magna-FX ont été supprimées, y compris le site Web de l'entreprise, le numéro de téléphone et les adresses e-mail utilisés par les agents avec lesquels M. Beauchamp a parlé. Une autre entreprise portant un nom presque identique et faisant la publicité de services similaires n'a pas répondu aux demandes de commentaires.
« Je suppose que le moment est venu de m'appeler stupide, idiot et de me traiter de tout autre superlatif », a écrit M. Beauchamp dans un rapport déposé auprès du Better Business Bureau (https://www.bbb.org/).
M. Beauchamp a déclaré qu'il parvenait à payer ses factures en utilisant un compte de retraite plus petit qu'il n'avait pas partagé avec les escrocs, ainsi que ses pensions. Il avait prévu de voyager dans le monde entier pendant sa retraite.
M. Beauchamp a déposé une plainte auprès de la police locale, mais peu de progrès ont été réalisés dans l'affaire, a-t-il déclaré.
« En raison de la quantité de fraudes qui se produisent partout, mon dossier a été mis en attente », a-t-il déclaré. « Je ne me fais pas d'illusions. »