人工知能 (AI) テクノロジーは急速に発展しており、一部の犯罪者は人工知能 (AI) テクノロジーを利用して違法な犯罪活動を実行しており、ネットワーク セキュリティに深刻な課題をもたらしています。最近、公安機関は人工知能が関係する多くの事件を捜査している。
今年6月、浙江省紹興市上虞区の警察は、ネットユーザーが上虞工業団地の火災に関する動画を投稿したことを発見し、再生回数が短期間で急増した。ビデオでは、上虞区の工業団地で激しく火災が発生し、公園全体が濃い煙に覆われ、時折爆発音が聞こえ、その光景はスリリングでした。
警察は、ビデオ内の建物や森林火災のシーンが工業団地の実際のシーンではなく、他のビデオからのものである可能性があることを確認した。警察は分析の結果、この動画は人工知能合成技術を利 用してインターネット上の複数の異なる動画クリップをつなぎ合わせて作成されたものと断定した。捜査の結果、警察はネットワーク技術会社の従業員が犯罪を犯した疑いがあると判断し、ただちに会社の所在地に出向き、タン氏を含む容疑者３人を逮捕した。
「容疑者はまずインターネット上で話題のトピックを収集し、生成型人工知能サービスを通じてスクリプトを自動的に生成し、インターネットから関連するビデオクリップを取得し、次に AI ソフトウェアを使用して音楽と字幕を備えた完全なビデオを合成しました。1 分も経たないうちに、上虞区局の警察官、沈林峰氏は、犯罪組織はトラフィックを獲得し、人々の注目を集めるために、今年5月以来、人工知能技術を使用して偽のビデオを作成していると述べた。 、噂を広めたり、未確認のビデオをオンラインで公開したりする偽ビデオは合計 3,000 本以上あります。
顔認識技術の普及が進むにつれ、一部の犯罪者が「AI変顔」などの技術を利用して窃盗や詐欺などの犯罪を犯すようになり、個人情報の保護に対する国民の懸念が高まっている。
「私のAPPがハッキングされたようです！」 今年4月13日、朱さんは地元の警察署に通報し、何者かが政府のAPPにログインし、朱さんの会社の電子ビジネスライセンスを無断でダウンロードしたと告げた。認可。警報を受けて地元公安当局はすぐに捜査を開始し、曽氏が重大な犯罪を犯した疑いがあることをすぐに確認した。
審査の結果、犯罪容疑者の曽毛蒙容疑者は携帯電話番号を使用してアカウントを登録し、朱さんの名前、ID番号などの情報による実名認証を行った後、顔認識によってバ インドし、最終的にログインに成功しました。犯罪を犯すアカウント。
「Zeng Moumouは、オンラインショッピングストアからトラフィックを迂回し、『顧客』から提供された顔写真を使用し、プロのAIソフトウェアを使用して合成顔アニメーションを作成し、顔認識認証を使用してさまざまなAPPにログインし、関連情報を違法に入手しました。」と、この事件を扱う警察官を紹介しました。場合。 。
「それぞれの取引の価格は異なります。私はこの方法でお金を稼ぐのが簡単だと思っただけです。まさか法律に違反したとは思いませんでした。」曾さんはそれを後悔した。 Zeng氏はこのような方法で1,000以上のダイナミックな顔を作成し、9万元以上の利益を得たと理解されている。現在、曾蒙蒙氏は刑事強制措置の対象となっており、事件は進行中である。
公安省サイバーセキュリティ局の関係者は、「犯罪者が『AI顔変更』を実行するために使用する資料は主に写真、特にIDカードの写真であり、人物の名前と組み合わせられている」と述べた。この新しいタイプの犯罪を防止し、これに対抗するために、公安機関は科学研究部門と協力して、顔認識および生体検出技術の安全性評価を実施し、広範囲にわたる顔認識技術の安全性評価を実施しています。国内ユーザー数と顕著な問題点と隠れた危険性。さまざまな主要APPは、顔認識検証システムのリスクと危険性を迅速に発見し、セキュリティ保護措置と顔認識アルゴリズムをアップグレードするよう運営組織に通知しました。「報告書によると、公安機関は「クリーンネットワーク」の特別作戦に依存しました。 IDカードの写真などの画像情報を漏洩する犯罪の根源を取り締まるための特別な戦いを組織し、多くの「AI顔変更」事件を解明し、関連する犯罪容疑者を逮捕し、この種の犯罪の勢いを効果的に抑制しました。
「犯罪者は人工知能技術を悪用し、社会に重大な害を及ぼし、関連法に違反する。」警察は、同法によれば、人工知能技術を利用して虚偽の情報を作成・拡散し、社会秩序を混乱させることは、虚偽の情報を捏造し、意図的に拡散する行為に当たる可能性があると述べた。犯罪; 人工合成技術を使用して他人のアカウントをクラッキングし、他人の個人情報を盗むことは、国民の個人情報を侵害する犯罪となる可能性があります。また、人工知能等の技術的手段を利用していじめ、脅迫、脅迫等を行った場合には、喧嘩売・トラブル誘発罪が成立する可能性があります。
人工知能技術は操作が簡単で、高度にカスタマイズ可能で、幅広い応用シナリオを備えているため、連鎖犯罪の難易度が軽減され、ハッカーなどの犯罪者が使用すると非常に有害です。報告書によると、人工知能技術によって生み出された新しいアプリケーションや新しいビジネス形式について、公安機関は価値指針と技術的な「エラー修正」を並行して遵守し、同時に人工知能技術の健全な発展を保護し、その使用を防止し取り締まっているとのことです。人工知能技術を利用して国民の権利を侵害し、新たな事件を危険にさらし、クリーンで公正なネットワーク環境を維持し、サイバー空間のセキュリティを確保するためにあらゆる努力を払っています。
この事件を担当した警察は、人工知能技術を利用した新たな犯罪への警戒を呼び掛け、個人の情報保護 意識を強化し、情報漏洩を防止し、顔や指紋などの個人生体情報を安易に他人に提供しないよう呼びかけている。 ; 自分の「友達の輪」を管理し、プライバシーを過度に公開しないように努めます。未知のプラットフォームから送信される広告、宝くじの当選、その他のリンクに注意し、だまされないように任意にクリックしたり情報を入力したりしないでください。
『人民日報』（2023年10月26日18面）