Incident 1223: Des publicités Deepfake prétendument générées par l'IA sur Facebook se feraient passer pour Trump, Musk, Ocasio-Cortez, Warren, Sanders et Leavitt pour promouvoir des rabais frauduleux.
Description: Une enquête du Projet de Transparence Technologique a identifié sur Facebook des publicités deepfakes, prétendument générées par l'IA, se faisant passer pour le président Trump, Elon Musk, la représentante Alexandria Ocasio-Cortez, les sénatrices Elizabeth Warren et Bernie Sanders, et la porte-parole Karoline Leavitt. Ces publicités auraient fait la promotion de fausses remises gouvernementales de 5 000 $ et d'autres arnaques similaires, induisant les utilisateurs en erreur et générant des revenus publicitaires pour Meta avant leur suppression.
Editor Notes: Timeline note: This incident ID refers to a series of reported deepfake advertisements that began circulating during the summer of 2025. The activity was publicly documented by the Tech Transparency Project on 10/01/2025, which is used here as the canonical incident date. That date represents a lagging indicator for a purportedly months-long cluster composed of multiple discrete deceptive ad events.
Entités
Voir toutes les entitésAlleged: Meta , Unknown voice cloning technology developer et Unknown deepfake technology developer developed an AI system deployed by Unknown scammers operating Meta ad accounts , Unknown scammers , Unknown fraudsters , Senior Health Daily USA (advertiser) , RFY News Group (advertiser network) , Relief Eligibility Center (advertiser) , Meta , I Love My Freedom (advertiser) , Health Benefits for Seniors (advertiser) , Hannah Grace (advertiser) , Get Covered Today (advertiser) , Freedom Asset Advocates (advertiser) , End the Wokeness (advertiser) , Asking America (advertiser) et American Relief Programs (scam network), which harmed Public trust , Meta users , Karoline Leavitt , Instagram users , General public , Facebook users , Epistemic integrity , Elon Musk , Elizabeth Warren , Elderly individuals , Donald Trump , Bernie Sanders et Alexandria Ocasio-Cortez.
Systèmes d'IA présumés impliqués: Unknown voice cloning technology , Unknown deepfake technology , Meta ad targeting algorithm , Meta ad review automation system , Meta ad ranking algorithm , Meta ad library et Meta ad approval pipeline
Statistiques d'incidents
ID
1223
Nombre de rapports
2
Date de l'incident
2025-10-01
Editeurs
Daniel Atherton
Rapports d'incidents
Chronologie du rapport
Loading...
Une publicité, apparue sur des milliers de fils d'actualité Facebook cet été, présentait une vidéo modifiée de la porte-parole de la Maison-Blanche, Karoline Leavitt, lors d'un point de presse régulier. Elle semblait y annoncer que les Amér…
Loading...
Principales conclusions de l'enquête : - TTP a identifié 63 annonceurs frauduleux qui ont collectivement diffusé plus de 150 000 publicités politiques sur les plateformes Meta, dépensant 49 millions de dollars. - Les escrocs figuraient souv…
Variantes
Une "Variante" est un incident de l'IA similaire à un cas connu—il a les mêmes causes, les mêmes dommages et le même système intelligent. Plutôt que de l'énumérer séparément, nous l'incluons sous le premier incident signalé. Contrairement aux autres incidents, les variantes n'ont pas besoin d'avoir été signalées en dehors de la base de données des incidents. En savoir plus sur le document de recherche.
Vous avez vu quelque chose de similaire ?
Incidents similaires
Did our AI mess up? Flag the unrelated incidents
Incidents similaires
Did our AI mess up? Flag the unrelated incidents