Description: A scammer in China used AI-generated deepfake technology to impersonate a businessman’s trusted friend in a video call, convincing him to transfer 4.3 million yuan ($612,000). The fraudster mimicked the friend’s face and voice, claiming another associate needed funds for a business transaction. Without verifying the transfer, the victim sent the money. He later realized the deception and contacted police, who managed to recover 3.4 million yuan.
Editor Notes: This incident is reported to have occurred sometime in April 2023 (04/15/2023 is an approximation).
Alleged: Unknown deepfake technology developer と Unknown voice cloning technology developer developed an AI system deployed by scammers , Fraudsters と Scammers impersonating friend of Guo, which harmed Guo (surname of deepfake scam victim) , Friend of Guo (surname of deepfake scam victim) と General public of China.
関与が疑われるAIシステム: Unknown deepfake app と Unknown voice cloning technology
インシデントのステータス
インシデントID
992
レポート数
1
インシデント発生日
2023-04-15
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン
北京 – 当局によると、中国の詐欺師が人工知能（AI）を使ってビジネスマンの信頼できる友人を装い、数百万元を渡すよう説得した。
郭という姓の被害者は4月に、親しい友人のように見える人物からビデオ通話を受けた。
しかし、月曜日に南部の都市福州にある政府関連のメディアポータルに掲載された記事によると、その発信者は実際には「スマートAI技術を使って（自分の）顔」と声を変えた詐欺師だった。
記事によると、詐欺師は「郭の親友になりすまして詐欺を行っていた」。
郭氏は、別の友人が公共入札…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーショ ンとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents