Description: A criminal group in China used AI face-swapping technology to bypass face recognition systems on major platforms, steal personal data, and sell it to fraud syndicates. The group generated convincing video simulations from static photos to breach accounts, reportedly earning 200,000 yuan. After an investigation by the Hangzhou Public Security Bureau, four suspects were arrested across the provinces of Anhui, Guizhou, and Zhejiang.
Alleged: Unknown deepfake detection technology developers developed an AI system deployed by Hu Mouyun , Hu Mouliang , Zhang Mouguo と Wu Mouhao, which harmed Chinese citizens , Zhejiang citizens , Anhui citizens と Guizhou citizens.
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
4.3. Fraud, scams, and targeted manipulation
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Malicious Actors & Misuse
Entity
Which, if any, entity is presented as the main cause of the risk
Human
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Intentional
インシデントレポート
レポートタイムライン
静止した顔写真を「顔認証」機能に変換し、他人のアカウントにログインして個人情報を収集し、その情報を詐欺集団に販売する…最近、AI技術を利用して国民の個人情報を侵害する事件が多発している。情報 浙江省杭州市の警察が摘発。
9月13日、浙江省杭州市公安局は夏の公安取り締まり結果について記者会見を開き、事件を公表した。
今年6月、杭州インターネット警察は、犯罪組織が海外プラットフォーム上で「AI変面」技術を利用し、ヘッドプラットフォームのログイン認証を突破し、ユーザーがプラットフォ…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents