Problème 4950

« Qui n'a pas reçu d'aide de ma part ? De quoi avez-vous besoin en ce moment ? » semble demander Prabowo aux spectateurs dans la vidéo publiée en novembre.

Mais si la bouche du dirigeant indonésien bouge et que ses yeux clignent, ses paroles font partie d'une arnaque deepfake frauduleuse, découverte par la police le mois dernier, qui a escroqué des Indonésiens dans 20 provinces.

Les personnes piégées par le message devaient contacter un numéro WhatsApp et verser entre 250 000 et un million de roupies (15 à 60 dollars) à titre de « frais administratifs » pour obtenir une aide qui ne s'est jamais matérialisée.

Depuis les élections indonésiennes de l'année dernière, les experts mettent en garde contre une vague de deepfakes – des fichiers audio, des images et des vidéos semblant provenir d'une personne connue, mais qui sont en réalité l'œuvre d'escrocs utilisant des outils d'intelligence artificielle.

Et les victimes affirment que ces canulars sont si sophistiqués qu'ils rendent d'autres personnes vulnérables.

« Les gens devraient être plus prudents. Ne vous laissez pas facilement berner par l'attrait des prix », a déclaré Aryani, 56 ans, qui a remis 200 000 roupies à des fraudeurs après avoir visionné une vidéo deepfake d'un important homme d'affaires indonésien.

« J'ai besoin d'argent, mais on me demande d'en envoyer. Ils m'ont même appelé par vidéo, comme si je leur parlais directement. »

Pendant la campagne présidentielle de ce pays d'Asie du Sud-Est, les deepfakes sont devenus un outil majeur pour diffuser de fausses informations, à la fois nuisibles et utiles aux candidats.

Mais cette technologie est désormais tombée entre les mains de criminels en quête d'argent liquide.

Large diffusion

Les vérificateurs de l'AFP ont découvert que le compte à l'origine de la vidéo de Prabowo avait publié des dizaines de vidéos similaires semblant montrer diverses personnalités, dont le vice-président indonésien Gibran Rakabuming Raka.

Ces vidéos font également la promotion de fausses aides financières.

La police a arrêté un suspect qui a empoché 65 millions de roupies (4 000 dollars) grâce à cette escroquerie, a déclaré Himawan Bayu Aji, directeur de l'Unité nationale indonésienne de lutte contre la cybercriminalité, aux journalistes en février.

Il a ajouté que les policiers avaient arrêté une deuxième personne impliquée dans une autre escroquerie utilisant également la technologie deepfake, sans divulguer le montant collecté.

L'enquête d'AFP Fact Check a révélé que la diffusion de ces vidéos avait une portée bien plus large que celle des deux comptes annoncés par la police.

Des vidéos deepfakes du président, un ancien général populaire, circulaient encore sur les réseaux sociaux après les arrestations, dont des dizaines sur TikTok avec le hashtag « Prabowo partage ses bénédictions ».

Au moins 22 comptes TikTok vantaient la même escroquerie depuis l'arrivée au pouvoir de Prabowo en octobre, ont constaté des journalistes de l'AFP, certains semblant profiter de sa récente accession à la présidence.

Un compte comptant plus de 77 000 abonnés a cumulé 7,5 millions de vues grâce à une vidéo fabriquée de toutes pièces montrant Prabowo distribuer une aide financière.

Un autre compte, comptant des milliers d'abonnés, a partagé 100 vidéos depuis janvier seulement, la plupart contenant des deepfakes montrant le président offrir de l'argent.

TikTok a annoncé avoir supprimé l'une des vidéos deepfakes et le compte associé, ajoutant qu'il continuerait de supprimer toute vidéo contraire aux règles de la communauté de la plateforme, qui interdisent les publications trompeuses.

Meta, la maison mère de Facebook, n'a pas répondu à la demande de commentaires de l'AFP.

L'AFP, comme plus de 100 autres organismes de vérification des faits, est rémunérée par TikTok et Meta pour vérifier les publications sur les réseaux sociaux potentiellement fausses.

Plus accessible

Aribowo Sasmito, cofondateur de l'organisme indonésien de vérification des faits Mafindo, a déclaré que son équipe découvrait chaque semaine de nouvelles arnaques deepfakes en raison de leur propagation prolifique en ligne.

« Nous avons commencé à voir des vidéos deepfakes depuis l'année dernière, car les outils d'IA sont devenus plus accessibles et abordables », a-t-il déclaré à l'AFP.

Les stratagèmes utilisant des deepfakes de personnalités semblent se multiplier.

Le milliardaire de la tech Elon Musk et le Premier ministre canadien Justin Trudeau font partie des nombreuses célébrités ciblées ces dernières années par des usurpations d'identité sophistiquées pour promouvoir des escroqueries financières.

Aribwo a déclaré que son équipe de vérificateurs de faits travaillait plus dur que jamais pour démystifier ces escroqueries en utilisant les dernières technologies à la disposition des criminels.

« Nous avons constaté que la qualité de ces vidéos s'est améliorée au fil du temps. Il est devenu plus difficile de distinguer les vidéos fausses des vraies », a-t-il ajouté.

« Le défi réside dans le volume de ces escroqueries. »