Incidents associés
Un groupe d'escrocs présumés au Brésil (https://www.reuters.com/world/brazil/) utilisant des publicités Instagram présentant des deepfakes du mannequin Gisele Bündchen et d'autres célébrités semble avoir gagné des millions de dollars grâce à la fraude en ligne, selon les enquêteurs de la police.
Les autorités ont arrêté cette semaine quatre suspects liés à cette escroquerie et gelé des avoirs dans cinq États. L'enquête a révélé plus de 20 millions de réaux brésiliens (3,9 millions de dollars) de fonds suspects identifiés par l'agence fédérale de lutte contre le blanchiment d'argent (COAF).
Cette opération constitue l'une des premières tentatives au Brésil pour contrer l'utilisation croissante d'outils d'intelligence artificielle pour manipuler des images et des vidéos de célébrités à des fins d'escroqueries en ligne.
La Cour suprême du Brésil a statué en juin que les plateformes de réseaux sociaux peuvent être tenues responsables des publicités illégales publiées par leurs utilisateurs si elles ne suppriment pas rapidement le contenu, même sans décision de justice.
Meta, propriétaire d'Instagram, (META.O), ouvre un nouvel onglet, a déclaré que ses politiques interdisaient « les publicités qui utilisent de manière trompeuse des personnalités publiques pour tenter d'arnaquer des personnes » et qu'elles supprimaient ces publicités « lorsqu'elles étaient détectées ». L'entreprise a indiqué dans un communiqué disposer de « systèmes spécialisés pour détecter les publicités appâtées pour célébrités », investir massivement dans des équipes de vérification formées, partager des conseils pour éviter les arnaques et proposer des outils pour signaler les violations potentielles ».
Un porte-parole de l'équipe de Bundchen a conseillé aux consommateurs d'être vigilants face aux réductions inhabituelles dans les publicités mettant en vedette des célébrités, de vérifier l'authenticité des offres via les canaux officiels de la marque ou des célébrités, et de signaler toute escroquerie potentielle aux autorités.
L'enquête annoncée cette semaine par la police de l'État de Rio Grande do Sul, dans le sud du pays, a débuté en août 2024 après qu'une victime a déclaré avoir été trompée par une publicité Instagram montrant une vidéo modifiée de Bundchen faisant la promotion d'un produit de soin.
Une autre publicité utilisait l'image du mannequin pour promettre des valises gratuites, les acheteurs payant les frais de livraison pour des articles qui ne sont jamais arrivés.
« Nous avons identifié que le groupe criminel a perpétré une série d'autres escroqueries, impliquant des deepfakes d'autres célébrités et de fausses plateformes de paris », a déclaré à Reuters Eibert Moreira Neto, responsable de l'unité de cybercriminalité de Rio Grande do Sul.
Les enquêteurs portent plainte pour blanchiment d'argent et fraude en ligne. Ils ont constaté que la plupart des victimes ont perdu de petites sommes, généralement inférieures à 100 réaux brésiliens (19 dollars), et n'ont pas signalé les faits. « Cela a créé une situation perverse où les criminels bénéficiaient d'une sorte d'immunité statistique. Ils savaient que la plupart des gens ne les dénonceraient pas, alors ils ont agi à grande échelle sans crainte », a déclaré Isadora Galian, de l'unité de cybercriminalité, dans un communiqué.