概要: マルコ・ルビオ米国務長官を装ったディープフェイク音声クリップが、ルビオ氏がイーロン・マスク氏に圧力をかけ、ウクライナのスターリンクへのアクセスを遮断すると誓ったと虚偽の主張をした。この偽造クリップは、CNNの改ざんされたインタビューに挿入された。その後、複数の言語に拡散され、米ウクライナ関係に関する偽情報を拡散させた。フォレンジック分析により、この音声はAIによって生成されたことが確認された。
Editor Notes: For another prominent but unrelated AI incident involving Marco Rubio, see Incident 1141.
Alleged: Unknown voice cloning technology と Unknown deepfake technology developers developed an AI system deployed by Unknown disinformation actors , Disinformation spreaders と Misinformation spreaders, which harmed Truth , Relations between the United States and Ukraine , Media integrity , Marco Rubio , Government of Ukraine , Government of the United States , Journalistic integrity , Epistemic integrity と National security and intelligence stakeholders.
関与が疑われるAIシステム: Unknown voice cloning technology と Unknown deepfake technology
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
4.1. Disinformation, surveillance, and influence at scale
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Malicious Actors & Misuse
Entity
Which, if any, entity is presented as the main cause of the risk
AI
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Intentional
インシデントレポート
レポートタイムライン
Loading...
ネット上で拡散している動画には、マルコ・ルビオ米国務長官がCNNで億万長者のイーロン・マスク氏を説得してウクライナのスターリンク・イ ンターネット・サービス・プロバイダーへのアクセスを遮断すると誓う様子が映っているとされており、ドナルド・トランプ大統領政権の他の発言と矛盾している。しかし、音声は捏造であり、CNNで放映されたインタビューではそのような脅迫は聞こえず、メディア鑑識の専門家はAFPに対し、ナレーションは人工知能によって生成されたようだと語った。
「マルコ・ルビオ米国…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？