近年、ビッグデータや人工知能（AI）などに代表される情報技術は日々変化しています。一方で、AIツールの合成技術によりデマの捏造が行われ、さらには現実に近い画像や音声、映像が生成され、「画像あるところに真実がある」という従来の認識が覆され、困難化が進んでいます。真と偽を区別するため。今日は、インターネット ポリスが AI ツールによって広まったデマの背後にある真実を理解するお手伝いをします。
[AIによる噂作りの定義]
AI 噂作成 とは、人工知能テクノロジーを使用してテキスト、写真、音声、ビデオなどの虚偽の情報を生成し、オンライン上の噂を作成することを指します。
[AIによる 噂作りの典型的な事例]
**ケース 1:**AI ソフトウェアを使用して製造する
「土砂崩れで8人死亡」ネットの噂
2024年1月23日、あるネットユーザーは「雲南省の土砂災害で8人が死亡した」という記事をプラットフォームに投稿した。捜査の結果、不法実行犯ヤン・モウモウはトラフィックを獲得して利益を上げるため、インターネット上で関連情報を収集し、AIソフトを使って「雲南省の土砂災害で8人が死亡した」という虚偽のニュース情報を生成し、インターネット上で公開した。インターネットプラットフォームに悪影響を与える。現在、公安機関は法律に基づきヤン・モウモウに対し行政罰を課している。
**ケース 2:**AI ソフトウェアを使用して製造する
「西徳県地震」ネットの噂
2024年6月9日、ネットユーザーは動画プラットフォームに「5月27日に四川省涼山イ族自治州でマグニチュード5.0の地震が発生した。震源地は西徳県であった。地震波は西徳県に伝播した」との動画を投稿した。時速80キロメートルの地震で家屋に多くの被害と死傷者が出て、災害は深刻だった。調査の結果、5月27日に梁山市でマグニチュード5.0の地震が発生した。震源地は木里県であったが、死傷者は出ず、一部の家屋に被害が出た。違法犯のルオ・モウモウはAIソフトウェアを使用した。虚偽の震災写真を生成し、ショートビデオプラットフォームで虚偽の情報を拡散する。現在 、公安機関は法律に従ってルオ・モウモウ氏に行政罰を課している。
**ケース 3:**AI ソフトウェアを使用して製造する
「電動自転車に乗った女性が拘束され急死」ネットの噂
2024年6月、オンラインプラットフォームに「法執行機関と人間の本性の衝突：電気自動車を没収された後、50代の女性が突然死亡した」というメッセージが表示された。記事は、「城城県の女性は、重病の父親の世話をしようと急いで駆けつけたが、交通警察と対峙した。懇願も無駄で電気自動車が押収されたため、彼女の気分は即座に崩壊した。彼女は重傷を負った」と述べた。心臓発作を起こし、その場で生き残ることができなかった。」この「ねじれた陰謀」を伴う記事はネットユーザーの注目を集め、地元に多大な悪影響を与えた。調査の結果、Tian氏はAIツールを使用して「城城県の女性が電気自動車を押収された後に突然死亡した」という虚偽の情報を処理して生成し、それを自身のプラットフォームアカウントの1つに投稿した。現在、ティアン氏はAIソフトを通じてデマを捏造したことを自白しており、公安機関は法律に基づいてティアン氏に行政処分を課した。
**上記の事件はすべて、AI ソフトウェアによって合成された虚偽の情報であり、プラットフォームの報酬を獲得したり、トラフィックを集めたりするために、犯罪者は AI ソフトウェアを使用して記事を自動的に生成し、実際の写真を接ぎ木してオンライン プラットフォームに公開します。そして社会秩序と公共秩序を著しく混乱させます 。 **