インシデント 1223: FacebookでAIが生成したとされるディープフェイク広告が、トランプ、マスク、オカシオ・コルテス、ウォーレン、サンダース、リーヴィットを装い、不正なリベートを宣伝していると報じられている。
概要: テック・トランスペアレンシー・プロジェクトの調査により、Facebook上で、トランプ大統領、イーロン・マスク氏、アレクサンドリア・オカシオ=コルテス下院議員、エリザベス・ウォーレン上院議員とバーニー・サンダース上院議員、そして報道官のキャロライン・リービット氏を装った、AIによって生成されたとされるディープフェイク広告が発見されました。これらの広告は、偽の5,000ドルの政府還付金などの詐欺行為を宣伝し、ユーザーを欺き、削除されるまでMetaに広告収入をもたらしていたとされています。
Editor Notes: Timeline note: This incident ID refers to a series of reported deepfake advertisements that began circulating during the summer of 2025. The activity was publicly documented by the Tech Transparency Project on 10/01/2025, which is used here as the canonical incident date. That date represents a lagging indicator for a purportedly months-long cluster composed of multiple discrete deceptive ad events.
Alleged: Meta , Deepfake technology developers と Synthetic audio generation technology developers developed an AI system deployed by Scammers operating Meta ad accounts , Senior Health Daily USA (advertiser) , RFY News Group (advertiser network) , Relief Eligibility Center (advertiser) , Meta , I Love My Freedom (advertiser) , Health Benefits for Seniors (advertiser) , Hannah Grace (advertiser) , Get Covered Today (advertiser) , Freedom Asset Advocates (advertiser) , End the Wokeness (advertiser) , Asking America (advertiser) , American Relief Programs (scam network) と Scammers, which harmed Public trust , Meta users , Karoline Leavitt , Instagram users , General public , Facebook users , Epistemic integrity , Elon Musk , Elizabeth Warren , Elderly individuals , Donald Trump , Bernie Sanders と Alexandria Ocasio-Cortez.
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
4.3. Fraud, scams, and targeted manipulation
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Malicious Actors & Misuse
Entity
Which, if any, entity is presented as the main cause of the risk
Human
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Intentional
インシデントレポート
レポートタイムライン
Loading...
今夏、Facebookの数千のフィードに表示された広告には、ホワイトハウス報道官のキャロライン・リービット氏が定例記者会見で語る改変された動画が掲載されていました。リービット氏は、政府公式サイトで国民が5,000ドルの救済小切手を請求できると発言しているように見せかけていました。しかし、その後に表示された矢印は、「Get Covered Today」という広告主へと誘導するものでした。
同様の広告では、バーモント州選出のバーニー・サンダース上院議員とマサチューセッツ州選出のエ…
Loading...
調査の主な結果: - TTPは、Metaプラットフォーム上で合計15万件以上の政治広告を掲載し、4,900万ドルを費やした63の詐欺広告主を特定しました。 - 詐欺師は、2025年のさまざまな期間にわたって、FacebookとInstagramで上位の政治広告費を費やしていることがよくありました。 - 詐欺広告の中には、トランプ大統領、イーロン・マスク、著名な民主党員のディープフェイク動画を使用して、架空の政府支出カードや景気刺激策の小切手を宣伝するものもありました。 - 広…
Loading...