概要: 中国のある詐欺師は、AI生成のディープフェイク技術を用いて、あるビジネスマンの信頼できる友人をビデオ通話で偽装し、430万元（61万2000ドル）を送金させました。詐欺師は友人の顔と声を真似て、別の取引先が取引のために資金を必要としていると主張しました。被害者は送金を確認せずに送金してしまいました。後に詐欺に気づき、警察に通報しました。警察は340万元を回収することができました。
Editor Notes: This incident is reported to have occurred sometime in April 2023 (04/15/2023 is an approximation).
Alleged: Unknown deepfake technology developers と Unknown voice cloning technology developers developed an AI system deployed by Scammers impersonating friend of Guo と Unknown scammers, which harmed Guo (surname of deepfake scam victim) , Friend of Guo (surname of deepfake scam victim) と General public of China.
関与が疑われるAIシステム: Unknown deepfake app と Unknown voice cloning technology
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
4.3. Fraud, scams, and targeted manipulation
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Malicious Actors & Misuse
Entity
Which, if any, entity is presented as the main cause of the risk
AI
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Intentional
インシデントレポート
レポートタイムライン
Loading...
北京 – 当局によると、中国の詐欺師が人工知能（AI）を使ってビジネスマンの信頼できる友人を装い、数百万元を渡すよう説得した。
郭という姓の被害者は4月に、親しい友人のように見える人物からビデオ通話を受けた。
しかし、月曜日に南部の都市福州にある政府関連のメディアポータルに掲載された記事によると、その発信者は実際には「スマートAI技術を使って（自分の）顔」と声を変えた詐欺師だった。
記事によると、詐欺師は「郭の親友になりすまして詐欺を行っていた」。
郭氏は、別の友人が公共入札…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents