インシデント 969: ロシアの偽情報キャンペーンは、偽ニュースサイト「KBSF-サンフランシスコニュース」とディープフェイク動画を利用して、カマラ・ハリスを2011年のひき逃げ事件で虚偽告発したとされる。
概要: ロシアによる偽情報キャンペーンは、フェイクニュースサイト「KBSF-San Francisco News」とAI生成のディープフェイク動画を利用し、2011年にサンフランシスコで起きたひき逃げ事故でカマラ・ハリス氏を虚偽の容疑で告発したとされています。このディープフェイク動画には、架空のアフリカ系アメリカ人被害者が登場し、AI生成の証言がソーシャルメディアで広く拡散されました。マイクロソフトは、このデマは2024年の米国大統領選挙を狙ったロシアのサイバー影響力作戦の一環であり、サイトはアイスランドに登録されていると特定しました。
Editor Notes: The KBSF-San Francisco News site was registered on August 20th, 2024, in Reykjavík, Iceland. The deepfake video and hoax about Kamala Harris emerged on September 2nd, 2024. While it has not been conclusively proven, there are strong indications that KBSF-San Francisco News may be part of the network of fake news sites disseminating pro-Kremlin propaganda and which is potentially linked to John Mark Dougan. See Incident 701 for more information.
Alleged: John Mark Dougan と Government of Russia developed an AI system deployed by Storm-1516 , KBSF-San Francisco News , John Mark Dougan と Government of Russia, which harmed Kamala Harris , General public of the United States , General public , Epistemic integrity , Journalistic integrity , National security and intelligence stakeholders と Democratic integrity.
関与が疑われるAIシステム: Deepfake technology と Synthetic audio generation technology
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
4.1. Disinformation, surveillance, and influence at scale
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Malicious Actors & Misuse
Entity
Which, if any, entity is presented as the main cause of the risk
AI
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Intentional