公安省は4月12日、ネット上の噂や犯罪を取り締まる典型的な事例10件を発表したが、そのうち4件は人工知能（以下、AI）技術を利用して虚偽の情報を捏造するものだった。インターネット法廷はAI生成音声人格権侵害事件の第一審公判を開いた。
近年、AI技術の急速な発展に伴い、仕事や生活においてAI技術による新たな体験を享受する人が増えていますが、それに伴ってAI技術が違法行為に利用・悪用されるケースも増えています。そして、犯罪行為（以下、AI犯罪）は日々増加しています。
この点において、政治および法務当局は法律に従って職務を遂行し、AI犯罪の徹底的な捜査を継続し、事件処理の結果を継続的に拡大し、取り締まりの質と有効性の向上に努め、安全を確保するためにあらゆる努力を払ってきた。国民の正当な権利と 利益。
「政治および法的機関は、その主要な責任と主要な業務に集中し、機能的な役割を果たし、AI犯罪と闘い、犯罪者がAI技術を使用または悪用して国民の権利を侵害し、公共の安全を危険にさらすことを防ぎ、安全を確保するためにあらゆる努力をすべきである」 AI技術は常に正しい軌道に沿って発展するものだ」と師範大学政治法学部法学部准教授の崔俊傑氏は法治日報の記者に語った。
AI犯罪の「トリック」は際限なく現れる
「コンピューターAIがキャベツの値段で服を脱いでくれる。」
2023年6月、もともと北京のインターネット企業で技術者だったバイ・モウモウさんは、海外のソーシャルメディアで「ワンクリックで衣服を脱げる」というAI技術に触れ、興味を持ちました。
Bai Moumou は海外のウェブサイトを通じて広告を掲載し、特定のソーシャル ソフトウェア上で 7,000 枚近くのディープフェイク ポルノ画像を販売し、1 万元以上の利益を得ていました。現在、バイ・モウモウ氏は起訴されている。
「ワンクリック衣類除去」とはどのような技術ですか？記者が知ったところによると、この技術は実際には「衣服を脱がす」のではなく、該当するわいせつ画像素材を使用し、その写真をもとに絵を描き直し、同様に「AI顔変更」「AI音声変更」を行う技術であるということを知りました。 AIディープラーニングや仮想現実などの生成合成アルゴリズムを使用して、テキスト、画像、オーディオ、ビデオ、仮想シーン、その他の情報を生成します。
「電子詐欺犯罪組織は、AI テクノロジーを使用して『顔を変えたり、声を変えたり』、さらには『顔を動的に 変える』ことができます。これにより、従来の犯罪行為の被害が増大するだけでなく、AI の「ペイント」テクノロジーを使用して、 「絵画は他人の著作権を侵害している可能性がある。」崔俊傑氏は、現在AI技術はフィッシング、高度な偽造、本人確認の回避、「脱獄」サービス、人体捜索と監視の5つの側面で犯罪者に利用されていると述べた。犯罪の閾値。
5月6日午後、江西省鷹潭市余江区の人民法院は、国内初の「AIゲームプラグイン」訴訟を公に発表し、被告の汪牧和に対し、法に基づき有期懲役を言い渡した。コンピュータ情報システムに侵入し、違法に制御するプログラムやツールを提供した場合は 3 年間、停止期間は 5 年間です。判決発表後、王牧和氏は判決に従い、控訴はしないと述べた。
裁判の結果、Wang Mouheは2022年にWan Mouzhi、Zhang Mou（別件で処理）らに「AIプラグイン」を書くよう次々と連絡を取り、利益を得ていたことが判明した。プログラム。事件当時、王氏の不法利益は総額629万元以上に達していた。
このプログラムは、複数のゲームの画面データに不正アクセスし、ゲーム内で処理されるマウスデータの命令を不正に変更し、プレイヤーがゲームプレイ中に何も操作せずに「自動照準」や「自動射撃」を引き起こす可能性があると報告されています。 . これはゲームの通常の動作環境を妨害し、破壊的なプログラムです。
Cui Junjie 氏によると、AI テクノロジーは標準化の度合いが低く、カスタマイズ性が高く、犯罪者の犯罪手口はますます多様化しており、AI 犯罪の継続的なエスカレーションにつながっています。時間が経てば取り締まられると、ネットワークのセキュリティに影響を与え、さらには一般の人々の生命と財産の安全に重大な脅威をもたらすことになります。
効果的な抑止力を形成するために強く攻撃してください
この課題に応えて、政治および法的当局は、AI犯罪と闘い、AI技術の良好な開発環境を維持し、その適用によって引き起こされる無秩序やアノミーを回避するための一連の措置を講じてきた。
2023年9月、最高人民法院、最高人民検察院、公安省は共同で「法律に基づくインターネット暴力犯罪の処罰に関する指導意見」を発表し、「インターネット暴力犯罪の処罰に関する指導意見」を明らかにし、「違法情報公開の「深層合成」は厳罰に処せ。
4月23日、中国初のAI生成音声による人格権侵害訴訟が北京インターネット裁判所の第一審で宣告され、裁判所は被告による原告の音声の使用とAI音声合成の開発を認定した。訴訟に関与した製品は法的に許可されておらず、侵害に該当し、同社は原告に25万元の損害を賠償し、書面による謝罪を行った。
6月25日、江蘇省張家港市人民検察院は恐喝と詐欺事件に関して市人民法院に公訴を提起した。容疑者が所属する国内暴力団が、仮想測位や写真を合成するAI技術などを利用し、出会い系ソフト上で中国人留学生に扮し、留学生らに名目で金銭を要求していたことが報じられている。恋に落ちること。現時点で、この暴力団は50人以上を恐喝し、騙し取ったことが確認されており、その金額は100万元以上に達している。
最高人民検察院が昨年11月に「電気通信ネットワーク詐欺および関連犯罪と闘うための検察の取り組み（2023年）」を発表して以来、各地の検察機関は 国民の個人情報、特に個人情報の不法取得に対する侵害への取り組みを強化している。 AI やその他の最先端技術を使用して、関連する要件に従って顔や声を偽造し、その他の情報犯罪を取得します。
さらに昨年、全国の公安機関は「クリーンネットワーク」キャンペーンに基づき、IDカードの写真やその他の画像情報を漏洩した犯罪源を取り締まる特別キャンペーンを実施し、AI技術を利用した詐欺事件を79件摘発した。 「顔を交換」し、515人の容疑者を逮捕し、この種の犯罪の勢いを効果的に抑制した。
政治的および法的当局は法に基づいてAI犯罪を取り締まり、典型的な事件を処理することで抑止力を構築しているため、AI技術を利用して違法に利益を得ようとする人々は恐れています。
症状と根本原因の両方を治療するためにガバナンスを強化します
記者は、法律に従ってAI犯罪を取り締まる過程で、政治および法的機関がこの違法犯罪の通常の特徴を深く調査し、道路の開放、攻撃と防止を同時に行うという原則を遵守していることを知りました。情報源を管理し、包括的な政策を実施し、関連部門や部門と協力して業界ガバナンスと包括的なガバナンスを深く推進し、主要な責任を強化し、業界の監督を強化し、規制の抜け穴をふさぎ、関連する違法および犯罪行為のスペースを完全に圧迫し、正規化された統治メカニズムの改善、および違法行為のコストの実質的な増加。
「AI顔変更」犯罪を防止し、これに対抗するため、全国の公安機関が国の主要研究所やその他の部門と協力して、顔認識および生体検出技術の安全性評価を実施していると報告されている。イン スタント メッセージング、ウェブキャスティング、オンライン ソーシャル ネットワーキング、電子商取引プラットフォーム、金融などの主要なアプリは、顔認識検証システムのリスクと危険性を迅速に発見し、セキュリティ保護対策と顔認識アルゴリズムをアップグレードするよう運営会社に通知する必要があります。犯罪者がそれらを利用するのを防ぎます。
同時に、さまざまな地方自治体が、AI テクノロジーの使用または悪用によって引き起こされる法的リスクを国民がより明確に理解し、AI 犯罪の防止に対する全員の意識を高めるために、さまざまな形の広報や教育を活用してきました。
今年4月、安徽省合肥市の警察は「AIソフトウェアが噂作りのツールになる」という中央メディア番組を通じて噂作りのプロセスを明らかにし、ネットユーザーがAIの噂売りについて理解を深められるようにした。直感的に操作でき、宣伝効果も抜群です。
2024 年以来、浙江省杭州市臨平区は「不正防止インテリジェント AI 広報および防止アウトバウンド コール システム」を利用して、潜在的な詐欺リスクを自動的に特定、分析、警告し、電話の形で市民にリマインド メッセージを送信しています。これにより、業務の効率が大幅に向上しただけでなく、詐欺のリスクに対する国民の警戒心が効果的に向上し、詐欺事件の発生率が減少しました。
「AI テクノロジーの急速な進歩に伴い、犯罪者による AI の使用や悪用を防ぐためのより高い要件が提示されています。たとえば、AI 犯罪はより隠蔽され、複雑になっており、そのため証拠収集が困難になっています。」と崔俊傑氏は述べました。 AI 犯罪 をローカルで防止および制御することは、コンテンツ生成プラットフォーム、業界の規制当局、さらには政治機関や法的機関にとっても課題となります。
崔俊傑氏は、AI犯罪の特性を踏まえ、科学技術の発展と社会の変化に科学的かつ適切なガバナンス方法とガバナンス方法で対応し続ける必要があると提言した。関連する法律を遵守し、良い法律で良いガバナンスを推進し、法律に従ってガバナンスのレベルを向上させ、さまざまな部門間の連携を強化し、ビッグデータの法的監督モデルの適用を強化します。社会ガバナンスにおける重要な監督の手がかりと困難な問題を発見し、正確な監督と効果的な監督を実現し、正確なガバナンスを達成するために業界の健全で健全な発展を確保します。