インシデント 919: ロシアと関係があるとされるネットワークが、FacebookとBingでマリア・レッサのディープフェイクを使い、フィリピン人を狙った暗号通貨詐欺を宣伝していたとされる。
概要: ロシアと関連があるとされる詐欺ネットワークが、ジャーナリストのマリア・レッサ氏のAI生成ディープフェイク動画をFacebookとMicrosoft Bingで拡散したとされています。この動画は2022年のインタビューを操作し、レッサ氏が仮想通貨を支持しているように見せかけていたと報じられています。また、RapplerとCNN Philippinesを装ったとされる詐欺ウェブサイトがこの詐欺行為を拡散させたと報じられています。捜査当局は、この行為がフィリピンの視聴者を狙った詐欺ネットワークと関連している可能性があると指摘しています。MetaとMicrosoftは該当コンテンツを削除しましたが、同様の詐欺行為が依然として発生しているとのことです。
Alleged: Unknown deepfake technology developers と Unknown AI voice cloning developers developed an AI system deployed by TD Globus Contract , Russian-linked scam network と M1 Shop, which harmed Rappler , Public trust in media institutions , Potential cryptocurrency scam victims , Maria Ressa , Filipino social media users と CNN Philippines.
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
4.3. Fraud, scams, and targeted manipulation
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Malicious Actors & Misuse
Entity
Which, if any, entity is presented as the main cause of the risk
AI
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Intentional
インシデントレポート
レポートタイムライン
Loading...
2024年2月6日火曜日、懸念を抱いた個人が、ノーベル平和賞受賞者でラップラーのCEOであるマリア・レッサが暗号通貨ビットコインで収入を得ていると述べたように見えるディープフェイク動画についてラップラーに警告した。ディープフェイク動画は、2022年11月のアメリカのトークショー司会者スティーヴン・コルベアによるレッサへのインタビューを自身の番組で操作したものだ。動画は、新しく作成されたFacebookページとMicrosoftのBingプラットフォーム上の広告を使用して配布さ…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではイン シデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか?
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents


