概要: 中国出身の俳優で、中国人民政治協商会議（政協）委員でもあるジン・ドン氏は、ディープフェイク技術を用いて自身になりすます犯罪者について警告を発した。報道によると、詐欺師たちはドン氏の肖像や声を模倣し、高齢者を騙して詐欺行為を行っているという。ジン・ドン氏は警告に加え、AIの悪用を抑制するための法整備と技術規制の導入を訴えている。
Alleged: Unknown deepfake technology developer と Unknown voice cloning technology developer developed an AI system deployed by scammers と Scammers impersonating Jin Dong, which harmed Fans of Jin Dong , Elderly individuals , General public of China と Elderly individuals in China.
関与が疑われるAIシステム: Unknown deepfake apps と Unknown voice cloning technology
インシデントのステータス
インシデントID
978
レポート数
1
インシデント発生日
2025-03-09
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン
[#ジン・ドンがAIの本物と偽物のジン・ドンに反応#] 政治協商会議委員で俳優のジン・ドンは、2025年全国人民代表大会と中国人民政治協商会議中に起きた「AIの本物と偽物のジン・ドン」現象に反応し、犯罪者がAI変顔技術を使って彼のイメージと声を偽造し詐欺を働き、一部の視聴者に重大な財産的または精神的損失を与えたと指摘した。彼はAI技術の悪 用を抑制するために法律や技術規制を通じてルールを確立するよう求めた。 この事件はネットユーザーの間で大きな反響を呼び、「在宅高齢者が騙された…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents