CCTVニュース： 先日、南京市宣武区人民法院は「AI顔変換」詐欺事件の審理を行いました。被告人の傅（フー）は、不法に入手した195万件以上の市民の個人情報とAI顔変換ソフトウェアを用いて被害者の決済口座にログインし、銀行カードを盗んで消費していました。
「AI顔変換」で他人の金融口座に侵入した男
捜査の結果、傅はオンラインショッピングを通じて195万件以上の市民の個人情報を不法に入手し、これらの市民の個人情報を用いてAI顔変換ソフトウェアを介して23人の被害者の金融プラットフォームの決済口座にログインしていたことが判明しました。このうち、5人の決済パスワードと紐付けされた携帯電話番号を不法に変更し、1人の決済口座に紐付けられた銀 行カードを使用し、携帯電話2台を購入しました。合計金額は15,996人民元でした。
江蘇省南京市宣武区人民検察院副検事、張海月氏：テクノロジーの融合により、AIは口を左右に振ったり振ったりする動画を生成する。こうした金融動画は、ユーザーがログインする際に何らかの指示を出すことがよくあるため、金融決済プラットフォームの防御線を突破できる可能性がある。
この間、傅氏はAIによる顔認識技術を用いて、複数の金融決済プラットフォームの「顔認証」認証システムを突破しようと試みたが、成功したのは金融決済プラットフォームのみだった。
江蘇省南京市宣武区人民検察院副検事、徐佳氏：彼は試行錯誤を繰り返し、多くのプラットフォームを試したが、リスク管理体制が厳格だったため、他のプラットフォームではこのプラットフォームに抜け穴があった可能性がある。
[江蘇省南京] 複数の罪で男性に懲役4年6ヶ月の判決
検察は、傅氏の行為は刑事犯罪を構成するだけでなく、社会の公共利益を著しく損なったと判断し、刑事付随民事公益訴訟を提起しました。2024年10月、裁判所は個人情報侵害とクレジットカード詐欺の罪で傅氏に懲役4年6ヶ月の判決を下しました。傅氏は有罪を認めました。また、本件で摘発された金融決済プラットフォームに存在する技術的リスク問題に対し、検察は速やかに法的リスク注意書を発行しました。現在、当該金融決済プラットフォームは是正を完了しています。
**徐佳：**この事件が発生した理由は、顔をブラッシングするだけでプラットフォームにログインでき、パスワードを変更できるためです。もしここに 追加の本人認証レイヤーがあれば、変更は不可能です。 AIによる顔面スワッピングによる犯罪は、現在も発生していません。
「AIによる顔面スワッピング」は顔認証の防御線を突破できるのか？
AIによる顔面変更、身元偽造などの技術が継続的に進化する中、顔認証による本人確認は果たして安全なのでしょうか？
**対外経済貿易大学デジタル経済・法務イノベーション研究センター所長の許可を得て：**サイバーセキュリティの専門家として、常に安全なネットワークなど存在せず、アップデートやイテレーションのたびに新たな脆弱性が生じる可能性があると断言します。
AIガバナンスによる顔認証の信頼性向上
脆弱性は避けられませんが、慌てる必要はありません。技術がもたらすリスクは、技術自体の発展によって解決できます。AIガバナンスを通じて、私たちが直面している顔認証攻撃の問題を解決できるのです。
AIセキュリティ分野の実務家、朱孟氏：実際、業界トップクラスの技術の検知率は95%を超えており、AIによるリスクへの対応は実務的にも成功しています。例えば、私たちが一方向を向くと、両目は左または右前方を向きますが、AIが生成した画像では、両目が2つの角度から見ている可能性があります。
専門家によると、現在、顔認識技術を応用した一部の機器では、顔認識システムの信頼性を向上させるために、同様の偽造防止識別手順が採用されているとのことです。
中国電子技術標準化研究院サイバーセキュリティ研究センター評価実験室副所長、何延哲氏：例えば、ある最新のスマートフォンには、ビデオ通話時に相 手の顔が偽造かどうかを識別する機能が搭載されています。実際に、そのような技術がいくつか応用されています。
顔認識を利用する組織は、より厳格なセキュリティ対策を講じる必要がある
専門家は、技術手段の継続的な改善と偽造防止識別能力の強化に加え、個人情報保護が依然として非常に重要な要素であると考えています。一方で、一般の人々は自己防衛意識を高め、個人情報を安易に開示しないよう努めるべきです。他方、顔認識を利用する組織も、より厳格なセキュリティ対策を講じる必要があります。