概要: 中国の犯罪グループが、AIによる顔認識技術を用いて主要プラットフォームの顔認証システムを回避し、個人情報を盗み出し、詐欺組織に売却していた。このグループは静止画から本物らしい動画シミュレーションを作成し、アカウントに侵入して20万元（約2000万円）の利益を得たと報じられている。杭州市公安局の捜査後、安徽省、貴州省、浙江省で4人の容疑者が逮捕された。
Alleged: Unknown deepfake detection technology developers developed an AI system deployed by Hu Mouyun , Hu Mouliang , Zhang Mouguo と Wu Mouhao, which harmed Chinese citizens , Zhejiang citizens , Anhui citizens と Guizhou citizens.
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
4.3. Fraud, scams, and targeted manipulation
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Malicious Actors & Misuse
Entity
Which, if any, entity is presented as the main cause of the risk
Human
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Intentional
インシデントレポート
レポートタイムライン
静止した顔写真を「顔認証」機能に変換し、他人のアカウントにログインして個人情報を収集し、その情報を詐欺集団に販売する…最近、AI技術を利用して国民の個人情報を侵害する事件が多発している。情報 浙江省杭州市の警察が摘発。
9月13日、浙江省杭州市公安局は夏の公安取り締まり結果について記者会見を開き、事件を公表した。
今年6月、杭州インターネット警察は、犯罪組織が海外プラットフォーム上で「AI変面」技術を利用し、ヘッドプラットフォームのログイン認証を突破し、ユーザーがプラットフォ…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents