Incidents associés
Ces dernières années, les technologies de l’information représentées par le big data, l’intelligence artificielle (IA), etc. ont évolué chaque jour. Dans le même temps, la technologie de synthèse des outils d'IA est utilisée pour fabriquer des rumeurs, et même générer des images, des fichiers audio et vidéo proches de la réalité, renversant ainsi l'idée reçue selon laquelle « là où il y a une image, là est la vérité », ce qui rend la tâche difficile. pour distinguer le vrai du faux. Aujourd’hui, la Police d’Internet va vous aider à comprendre la vérité derrière les rumeurs propagées par les outils d’IA !
[Définition de la création de rumeurs sur l'IA]
La création de rumeurs par l'IA fait référence à l'utilisation de la technologie de l'intelligence artificielle pour générer de fausses informations, notamment du texte, des images, de l'audio et de la vidéo, etc., afin de créer des rumeurs en ligne.
[Cas typiques de rumeurs sur l'IA]
**Cas 1 :**Utilisation d'un logiciel d'IA pour fabriquer
"Un glissement de terrain tue 8 personnes" rumeur sur Internet
Le 23 janvier 2024, un internaute a publié un article sur une plateforme disant : « Le glissement de terrain catastrophique au Yunnan a tué 8 personnes ». Après enquête, l'auteur illégal Yang Moumou, afin d'obtenir du trafic et de réaliser des bénéfices, a collecté des informations pertinentes sur Internet, a utilisé un logiciel d'IA pour générer de fausses informations selon lesquelles « le glissement de terrain au Yunnan a tué 8 personnes » et les a publiées sur la plateforme Internet. Provoquer un impact social négatif. À l'heure actuelle, les organes de sécurité publique ont imposé des sanctions administratives à Yang Moumou conformément à la loi.
**Cas 2 :**Utilisation d'un logiciel d'IA pour fabriquer
Rumeur Internet sur le « tremblement de terre du comté de Xide »
Le 9 juin 2024, un internaute a publié une vidéo sur une plateforme vidéo disant : « Le 27 mai, un séisme de magnitude 5,0 s'est produit dans la préfecture autonome Yi de Liangshan, province du Sichuan. L'épicentre était situé dans le comté de Xide. Les ondes sismiques se sont propagées à une vitesse de 80 kilomètres par heure. Tremblement de terre Il a causé de nombreux dégâts aux maisons et fait des victimes, et la catastrophe a été grave. Après enquête, un tremblement de terre de magnitude 5,0 s'est produit à Liangshan le 27 mai. L'épicentre était situé dans le comté de Muli. Il n'y a eu aucune victime et certaines maisons ont été endommagées. Afin d'attirer l'attention et d'attirer la circulation, l'auteur illégal Luo Moumou a utilisé un logiciel d'IA. pour générer de fausses images de catastrophes sismiques. Et diffuser de fausses informations sur une courte plateforme vidéo. À l'heure actuelle, les organes de sécurité publique ont imposé des sanctions administratives à Luo Moumou conformément à la loi.
**Cas 3 :**Utilisation d'un logiciel d'IA pour fabriquer
"Une femme est décédée subitement après avoir été arrêtée sur un vélo électrique" rumeur sur Internet
En juin 2024, un message est apparu sur une plateforme en ligne sur « La collision entre les forces de l'ordre et la nature humaine : une femme d'une cinquantaine d'années est décédée subitement après la confiscation de sa voiture électrique ». L'article déclarait : « Une femme du comté de Chengcheng s'est précipitée pour prendre soin de son père gravement malade, mais elle a été confrontée à la police de la circulation. Après avoir plaidé en vain et que sa voiture électrique a été saisie, son humeur s'est effondrée instantanément. crise cardiaque et n'a pas pu survivre à l'incident". Cet article contenant des « intrigues tortueuses » a attiré l'attention des internautes et a eu un impact négatif énorme sur la région. Après enquête, Tian a utilisé des outils d'IA pour traiter et générer de fausses informations selon lesquelles « une femme du comté de Chengcheng est décédée subitement après la confiscation de son véhicule électrique » et les a publiées sur l'un de ses comptes de plateforme. À l'heure actuelle, Tian a avoué avoir fabriqué des rumeurs grâce à un logiciel d'IA, et les organes de sécurité publique lui ont imposé des sanctions administratives conformément à la loi.
**Les cas ci-dessus sont tous de fausses informations synthétisées via un logiciel d'IA. Afin de gagner des récompenses sur la plateforme ou d'attirer du trafic, les criminels utilisent un logiciel d'IA pour générer automatiquement des articles, les greffer avec de vraies images et les publier sur des plateformes en ligne. et perturber gravement l'ordre social et public. **