Incidents associés
La police civile du Rio Grande do Sul a lancé ce mercredi (1) une vaste opération contre une fraude sophistiquée impliquant la création de deepfakes basés sur l'intelligence artificielle, utilisant l'actrice et mannequin Gisele Bündchen comme modèle pour des produits contrefaits.
L'opération « Jungle Mode » a été lancée pour démanteler l'organisation criminelle impliquée dans cette fraude électronique ayant généré plus de 20 millions de réaux brésiliens.
L'escroquerie principale utilisait la technologie deepfake pour produire de fausses vidéos du mannequin Gisele Bündchen et d'autres célébrités, faisant la promotion de produits fictifs et incitant les victimes à payer les frais de livraison.
L'opération exécute 26 décisions de justice, dont sept mandats d'arrêt et neuf mandats de perquisition et de saisie, dans les États du Rio Grande do Sul, de Santa Catarina, de Pernambuco, de São Paulo et de Bahia.
Par ailleurs, le tribunal a également autorisé le gel d'avoirs pouvant atteindre 210 millions de réaux brésiliens. Selon le bilan final, quatre personnes ont été arrêtées et trois sont toujours en fuite.
Utilisation des deepfakes
Selon la police, les deepfakes ont servi à créer de fausses vidéos et à commettre des fraudes publicitaires.
Outre Gisele Bündchen, le système a également produit de fausses vidéos de célébrités faisant la promotion de « produits inexistants », selon le rapport de police. Angélica Huck, Juliette, Maisa et Sabrina Sato figurent parmi les célébrités dont les images ont été utilisées par les criminels.
L'escroquerie à l'origine de l'enquête impliquait un deepfake – défini comme des images et des sons humains créés grâce à l'intelligence artificielle – du mannequin international. La vidéo donnait l'impression que le mannequin recommandait un « kit antirides gratuit ». En réalité, le produit n'existait pas.
Programme promotionnel et « Université criminelle »
Le contenu généré par le deepfake a été largement diffusé via de faux profils sur les réseaux sociaux, principalement Facebook et Instagram, trompant les victimes intéressées par des promotions « incontournables » et les dirigeant vers des sites web frauduleux pour effectuer des paiements.
L'enquête a révélé une structure hiérarchique bien définie, dirigée par Levi Andrade da Silva Luz, qui non seulement planifiait les crimes, mais gérait également une « université du crime numérique » pour former d'autres personnes aux escroqueries, selon la police.
Cette « université du crime numérique » a été créée grâce à un profil Instagram où Levi enseignait à d'autres personnes comment devenir des « prédateurs numériques ».
« Son profil Instagram affichait le slogan "Je vous apprends à penser comme un prédateur numérique" et proposait un accompagnement pour enseigner les techniques d'escroquerie. C'était littéralement une école du crime opérant au vu et au su de tous », a expliqué la cheffe Isadora Galian, qui a mené l'enquête.
Même un blogueur comptant plus de 110 000 abonnés sur les réseaux sociaux était impliqué dans le stratagème. Selon la police, Lais Rodrigues Moreira, surnommé « Japa », utilisait les réseaux sociaux pour promouvoir les escroqueries et les jeux d'argent illégaux.
Elle a agi comme un « multiplicateur » de la portée criminelle : lorsque les escrocs créaient du contenu frauduleux, ils l'identifiaient simplement dans leurs publications pour que celui-ci apparaisse sur son profil, touchant ainsi des dizaines de milliers de personnes.
Outre les accusations de fraude et de blanchiment d'argent, le groupe était accusé d'avoir utilisé des fonds illicites pour faire étalage de biens luxueux et d'avoir exploité la vulnérabilité de personnes croyant aux miracles.
Levi et Lais ont tous deux été arrêtés lors de l'exécution de mandats d'arrêt à São Paulo.
Déclarations
CNN tente de contacter les artistes victimes des criminels impliqués dans l'escroquerie afin d'obtenir une déclaration. Le reportage tente également de contacter les avocats de Levi de Andrade et de Lais Rodrigues Moreira. La discussion reste ouverte.