インシデント 1207: アイルランドのフィナ・ゲール党大統領候補ヘザー・ハンフリーズのAI生成ディープフェイクとされる動画が、メタプラットフォーム上の偽投資動画に使用されている。
概要: メタプラットフォーム上で、アイルランドのフィナ・ゲール党の大統領候補ヘザー・ハンフリーズ氏を模倣したとされるディープフェイク動画が拡散したと報じられています。ハンフリーズ氏が高収益の投資スキームを推奨しているように見せかけるためとされています。AIによって生成されたとされるこの画像と音声の複製は、消費者の信頼を悪用し、詐欺に誘い込むことを目的としていました。アイルランド銀行は、さらなる詐欺やリスクの発生を警告しました。
Alleged: Unknown deepfake technology developers と Unknown voice cloning technology developers developed an AI system deployed by Unknown scammers impersonating Heather Humphreys , Unknown scammers , Quantum AI と Quantum AI scammers, which harmed Heather Humphreys , General public of Ireland , Fine Gael , Epistemic integrity と Electoral integrity.
関与が疑われるAIシステム: Quantum AI , Unknown voice cloning technology , Unknown deepfake technology , Meta Platforms , Instagram と Facebook
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
4.3. Fraud, scams, and targeted manipulation
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Malicious Actors & Misuse
Entity
Which, if any, entity is presented as the main cause of the risk
Human
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Intentional
インシデントレポート
レポートタイムライン
Loading...
詐欺師たちは既にディープフェイク技術を用いて、大統領選挙候補ヘザー・ハンフリーズ氏の画像と音声を複製し、偽の投資動画をオンラインで拡散させています。
アイルランド銀行は、今後数週間のうちに、主にMetaプラットフ ォームから発信されるこうした広告がさらに増える可能性があるため、消費者に注意を促しています。
この動画は、ヘザー・ハンフリーズ氏が高利回りの投資スキームを推奨しているという虚偽の描写を含んでおり、その内容はAIによる音声と画像の複製によって完全に捏造されています。
ア…
Loading...
ボリス・ピストリウス国防相がカメラをまっすぐ見つめている。ドイツ国防相は国民に向けて演説を行い、「急速な変化、新たな雇用、そして先進技術」によってドイツが世界経済の最前線に立つと述べている。動画の最後に、ピストリウス氏はFacebookの視聴者に対し、この新たな政府プログラムはすべての国民に「利益をもたらす」と述べている。アイルランドのフィナ・ゲール党の政治家で現大統領候補のヘザー・ハンフリーズ氏は、Facebookの人気投稿のニュース記事に登場している。「アイルランドの家族…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ 知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか?