カバーニュース記者ゴ・チュン
近年、AI のテキストや画像の生成機能は、一部の犯罪者によって虚偽の情報を編集するために使用されており、犯罪者が噂を作成し広める敷居が低くなりました。 7月23日、取材記者は四川省公安部サイバーセキュリティ隊から、四川省インターネット警察がAI関連のネット上の噂を厳しく取り締まるために積極的な行動をとったことを知り、AIに関する噂の典型的な10件を発表した。物売り。
事例1：AIソフトを利用して「土砂崩れで8人死亡」というネット上のデマを捏造
AIソフトを使って「土砂崩れで8人死亡」というネット上のデマを捏 造
2024年1月23日、あるネットユーザーは「雲南省の土砂災害で8人が死亡した」という記事をプラットフォームに投稿した。捜査の結果、不法実行犯ヤン・モウモウはトラフィックを獲得して利益を上げるため、インターネット上で関連情報を収集し、AIソフトを使って「雲南省の土砂災害で8人が死亡した」という虚偽のニュース情報を生成し、インターネット上で公開した。インターネットプラットフォームに悪影響を与える。現在、四川省広源公安局は法律に基づきヤン・モウモウに対し行政罰を課している。
事例 2: AI ソフトウェアを使用して「西徳県地震」に関するインターネット上の噂を捏造
AIソフトウェアを使用して「西徳県地震」に関するインターネットの噂を捏造
2024年6月9日、あるネチズンは動画プラットフォームに「5月27日に四川省涼山イ族自治州でマグニチュード5.0の地震が発生した。震源地は西徳県であった。地震波は西徳県に伝播した」という動画を投稿した。時速80キロの地震で家屋に多くの被害と死傷者が出て、災害は深刻だった。調査の結果、5月27日に梁山市でマグニチュード5.0の地震が発生した。震源地は木里県であったが、死傷者は出ず、一部の家屋に被害が出た。違法犯のルオ・モウモウはAIソフトウェアを使用した。虚偽の震災写真を生成し、ショートビデオプラットフォームで虚偽の情報を拡散する。現在、四川省梁山市公安局は法律に基づきルオ・モウモウ氏に行政処分を課している。
事例 3: AI ソフトウェアを使用して「八中の警察と市民 の対立」に関するネット上の噂を捏造
AIソフトウェアを使用して「八中の警察と民間人の対立」に関するネット上の噂を捏造
2024年5月18日、ネットユーザーはあるプラットフォームに「最近、八中市でスリリングな事件が起きた。現金輸送トラックが蹴られて爆発し、警察と市民が激しい戦闘を開始した。対立が始まった。」という記事を掲載した。捜査の結果、4月30日午前9時頃、四川省八中のバス停に現金輸送トラックが停車したことを交通警察が発見し、現金輸送トラックに退去を求めた。違法な人物であるシャン・モウモウは、インターネット上の関連画像を知った後、注目を集め、トラフィックと利益を得るために、幸運にも「AI Qianwen」を使用して、「スリリングなマネー戦争」というタイトルを生成しました。 「八中市での警察と民間人の対立は騒動を引き起こし、どちらが勝者になるかについて誤った情報を流した」とネット民を誤解させ、社会パニックを引き起こし、治安を混乱させた。現在、四川省八中公安局は法律に基づきシャン・モウモウに対し行政罰を課している。
事例4：AIソフトを利用して「90歳男性が子供に捨てられた」というネット上の噂を捏造
AIソフトウェアを使用して、90歳の男性が子供たちに捨てられたというオンラインの噂を捏造
2024年6月24日、あるネチズンは「成都新都区大峰街で90歳の男性が子供たちに置き去りにされた。長年 放浪と物乞いをしており、現在は皮も骨も。」調査の結果、記事内の写真は外国人のホームレス高齢者を救出する外国人ブロガーの動画からのものであり、記事内の「李老人」もトラフィックを集めるために海を越えて遠く離れた場所にいたことが判明した。注目を集める中、違法加害者である張氏はAIプログラムを利用して、自身の「考え」に基づいてこの虚偽の記事を捏造し、発表した。現在、四川省成都の公安機関は法律に基づき張氏に行政罰を課している。
事例5：AIソフトを利用して「生後4か月の女児を捨てた」というネット上のデマを捏造
AIソフトを利用して「生後4か月の女児が捨てられた」というネット上の噂を捏造
2024年1月12日、あるネットユーザーが「貴州省貴陽市華西区で悲痛なニュースが流れた。生後4か月の女児がスーパーマーケットの隅に置き去りにされた」という記事を投稿した。調査の結果、違法加害者の周容疑者は、記事を自動的に編集できるAIツール「エメラルドペンとインク」とサポート管理システムを開発し、作業グループを作成するためにボランティアを募集し、プラットフォームアカウントの提供をボランティアに要求した。彼が開発した管理システムは、アカウントにログインした後、Zhou 氏は AI ツールを使用して関連記事を自動的に生成し、管理システムを通じてボランティア プラットフォーム アカウントの「ドラフト ボックス」に自動的に保存されました。タスクはワーク グループを通じてリリースされ、ボランティアが選択されました。 2023 年 11 月以降、周氏は募集を通じて 300 を超える関連アカウントを取得し (すべて閉鎖されています)、AI ツールを使用して 420,000 件以上の情報を捏造しました。全てクリア済みです）。現在、四川省達州市の公安機関は法律に基づき周氏に行政罰を課している。
事例 6: AI を使用して「成都のバスが制御不能になった」というインターネット上の噂を捏造
AIを利用して「成都のバスが暴走」というネットの噂を捏造
2023年11月20日、あるネチズンは「四川省成都市のバスが制御を失い、川に突入した」という記事を投稿し、捜査の結果、犯人の陳は「重慶のバスが制御を失って転落した」という写真を見た。ニュースが流れた後、注目を集めてトラフィックを増やすために、コンテンツは AI ソフトウェア合成を通じて改ざんされ、「成都龍泉宜バスが制御を失い、川に転落し、10 人が死亡、2 人が負傷した」と書かれていました。傷害2」をインターネット上に投稿し、社会的に悪影響を及ぼした。現在、四川省成都の公安機関は法律に基づき陳氏に行政罰を課している。
事例 7: AI ソフトウェアを使用して「地下熱管の破裂」に関するインターネット上の噂を捏造
AIソフトウェアを使用して「地下熱管の破裂」に関するインターネットの噂を捏造
2023年12月27日、一部のネットユーザーは「西安市恵区で地中から熱水が噴出、調査の結果、地下のヒートパイプの破裂が原因と みられる」との記事を掲載した。違法行為を行った王氏と劉氏はプラットフォームで報酬を得てAIソフトウェアを使用していたことが判明した。このファイルは、「西安市恵区で壊れた地下熱パイプライン」に関する記事を自動的に生成し、河南省のShangqiu.comが公開した「河南省商丘区で壊れた地下熱パイプライン」の写真を移植した。これはインターネットプラットフォーム上で公開され、多くのネットユーザーの注目を集め、社会に悪影響を及ぼしました。現在、四川省綿陽市の公安機関は法律に基づき王氏と劉氏に行政罰を課している。
事例8：AIを活用してネット上で「建設現場事故」のデマを捏造
AIを利用してネット上で「建設現場事故」のデマを捏造
2023年11月28日、あるネチズンは「成都龍泉区の建設現場で、足場を使って高所作業をしていたところ、高圧線に触れて残念ながら作業員4名が死亡した」という記事を投稿した。捜査中、朱蒙容疑者がインターネットで見た不法行為者「四川省」達州市屈県で注意を引いて交通を集めるために高所の足場を使って高圧電線に触れ、4人が死亡したというニュースの後、事故現場はAIソフトによって龍泉義区に改ざんされた。成都で投稿され、その後インターネットに投稿され、社会に悪影響を及ぼしました。現在、四川省成都の公安機関は法律に基づき朱氏に行政罰を課している。
事例9：AIソフトを利用して「売春婦が突然心臓発作で死亡した」というネット上の噂を捏造
AIソフトウェアを使用して「売春婦が心臓発作で死亡した」というネット上の噂を捏造
2024年5月11日、ネットユーザーは「梁山市西昌市の男性が売春が原因で心臓発作で死亡した。彼の家族は調査の結果、売春婦2人とホテルのオーナーに賠償を求めた」という記事を掲載した。加害者吉 ある人物がトラフィックを集めるために、AIツール「知埔青燕」を通じてこの虚偽記事をでっちあげ公開し、悪影響を及ぼしました。現在、四川省梁山市公安局は法律に基づきジ・モウモウに対し行政処分を課している。
事例 10: AI ソフトウェアを使用して「虚偽のバナー」オンラインの噂を捏造
AI ソフトウェアを使用して「虚偽のバナー」オンラインの噂を捏造
2024年4月、一部のネチズンが「成都ピドゥ区徳源鎮の某開発区の起工式」の動画を某プラットフォームに投稿した。 5月、ネットユーザーは「村全体に第二子を妊娠させるのは村党書記の避けられない責任だ」というバナーとともに別の写真と動画を投稿した。調査の結果、上記の動画はAIによって編集・生成されたものであり、全て虚偽の情報です。現在、四川省成都の公安機関は法律に基づき王氏に行政罰を課している。
インターネット警察は、インターネット上での虚偽の情報の公開・捏造・拡散、意図的な事実の歪曲、デマの捏造・流布、治安を乱す行為には公安機関が断固として厳正に対処することを念押しした。皆さんもこれを警告として受け止め、噂を広めたり、信 じたり、広めたりせず、クリーンなサイバー空間の構築に協力していただければ幸いです。
発行地: 四川省