Incidents associés
Gou Chun, journaliste de couverture
Ces dernières années, les fonctions de génération de texte et d'images de l'IA ont été utilisées par certains criminels pour modifier de fausses informations, abaissant ainsi le seuil permettant aux criminels de créer et de propager des rumeurs. Le 23 juillet, un journaliste de couverture a appris du Corps de cybersécurité du Département de sécurité publique de la province du Sichuan que la police Internet du Sichuan avait pris des mesures actives pour réprimer sévèrement les rumeurs en ligne liées à l'IA et a annoncé 10 cas typiques de rumeurs sur l'IA. marchandage.
Cas 1 : Utilisation d’un logiciel d’IA pour fabriquer une rumeur sur Internet selon laquelle « 8 personnes ont été tuées dans un glissement de terrain »
Utiliser un logiciel d’IA pour fabriquer des rumeurs en ligne selon lesquelles « 8 personnes ont été tuées dans un glissement de terrain »
Le 23 janvier 2024, un internaute a publié un article sur une plateforme disant : « Le glissement de terrain catastrophique au Yunnan a tué 8 personnes ». Après enquête, l'auteur illégal Yang Moumou, afin d'obtenir du trafic et de réaliser des bénéfices, a collecté des informations pertinentes sur Internet, a utilisé un logiciel d'IA pour générer de fausses informations selon lesquelles « le glissement de terrain au Yunnan a tué 8 personnes » et les a publiées sur la plateforme Internet. Provoquer un impact social négatif. À l'heure actuelle, le bureau de la sécurité publique du Sichuan Guangyuan a imposé des sanctions administratives à Yang Moumou conformément à la loi.
Cas 2 : Utilisation d'un logiciel d'IA pour fabriquer des rumeurs sur Internet concernant le « tremblement de terre du comté de Xide »
Utiliser un logiciel d'IA pour fabriquer des rumeurs sur Internet sur le « tremblement de terre du comté de Xide »
Le 9 juin 2024, un internaute a publié une vidéo sur une plateforme vidéo disant : « Le 27 mai, un séisme de magnitude 5,0 s'est produit dans la préfecture autonome Yi de Liangshan, province du Sichuan. L'épicentre était situé dans le comté de Xide. Les ondes sismiques se sont propagées à une vitesse de 80 kilomètres par heure. Le tremblement de terre Il a causé beaucoup de dégâts aux maisons et de victimes, et la catastrophe a été grave. Après enquête, un tremblement de terre de magnitude 5,0 s'est produit à Liangshan le 27 mai. L'épicentre était situé dans le comté de Muli. Il n'y a eu aucune victime et certaines maisons ont été endommagées. Afin d'attirer l'attention et d'attirer la circulation, l'auteur illégal Luo Moumou a utilisé un logiciel d'IA. pour générer de fausses images de catastrophes sismiques. Et diffuser de fausses informations sur une courte plateforme vidéo. À l'heure actuelle, le bureau de la sécurité publique de Liangshan, dans le Sichuan, a imposé des sanctions administratives à Luo Moumou conformément à la loi.
Cas 3 : Utilisation d'un logiciel d'IA pour fabriquer des rumeurs en ligne sur la « confrontation entre la police de Bazhong et les citoyens »
Utiliser un logiciel d'IA pour fabriquer des rumeurs en ligne sur une « confrontation entre la police et les civils à Bazhong »
Le 18 mai 2024, un internaute a publié un article sur une certaine plateforme disant : « Un incident passionnant a eu lieu récemment dans la ville de Bazhong. Un camion de transport d'argent a reçu des coups de pied et a explosé, et la police et les citoyens ont commencé une bataille acharnée. Confrontation. Après enquête, vers 9 heures du matin le 30 avril, un camion de transport d'argent s'est arrêté à un arrêt de bus à Bazhong, dans le Sichuan. La police de la circulation l'a découvert et a demandé au camion de transport d'argent de partir. Après que la personne illégale Shang Moumou ait découvert les images pertinentes sur Internet, afin d'attirer l'attention, de gagner du trafic et des profits, et avec un sentiment de chance, il a utilisé "AI Qianwen" pour générer le titre "Une guerre d'argent passionnante" sans "La confrontation entre la police et les civils dans la ville de Bazhong a fait sensation et a publié de fausses informations sur le vainqueur", trompant les internautes, déclenchant une panique sociale et perturbant l'ordre public. À l'heure actuelle, le bureau de la sécurité publique de Bazhong, dans le Sichuan, a imposé des sanctions administratives à Shang Moumou conformément à la loi.
Cas 4 : Utilisation d'un logiciel d'IA pour fabriquer des rumeurs en ligne selon lesquelles "un homme de 90 ans a été abandonné par ses enfants"
Utiliser un logiciel d'IA pour fabriquer des rumeurs en ligne selon lesquelles un homme de 90 ans aurait été abandonné par ses enfants
Le 24 juin 2024, un internaute a publié un article sur une certaine plateforme intitulé « Un homme de 90 ans a été abandonné par ses enfants dans la rue Dafeng, district de Xindu, Chengdu. Il erre et mendie depuis de nombreuses années et est maintenant la peau et les os. » Après enquête, il a été découvert que les images de l'article provenaient d'une vidéo d'un blogueur étranger sauvant des personnes âgées étrangères sans abri, et que le « vieil homme Li » dans l'article était également loin de l'autre côté de l'océan afin d'attirer le trafic et. Pour attirer l'attention, l'auteur illégal Zhang était chez lui. Avec l'aide d'un programme d'IA, il a fabriqué et publié ce faux article basé sur ses propres « pensées ». À l'heure actuelle, les organes de sécurité publique de Chengdu, dans le Sichuan, ont imposé des sanctions administratives à Zhang conformément à la loi.
Cas 5 : Utilisation d'un logiciel d'IA pour fabriquer des rumeurs en ligne selon lesquelles "une petite fille de 4 mois a été abandonnée"
Utiliser un logiciel d'IA pour fabriquer des rumeurs en ligne selon lesquelles "une petite fille de 4 mois a été abandonnée"
Le 12 janvier 2024, un internaute a publié un article sur une certaine plateforme disant : « Une nouvelle déchirante s'est répandue dans le district de Huaxi, ville de Guiyang, province du Guizhou. Une petite fille de 4 mois seulement a été abandonnée dans le coin d'un supermarché. " Après enquête, l'auteur illégal Zhou a développé l'outil d'IA "Emerald Pen and Ink" et le système de gestion associé qui peut compiler automatiquement des articles, a recruté des bénévoles pour créer un groupe de travail et a demandé à des bénévoles de fournir des comptes de plateforme. Le système de gestion développé par lui Après s'être connecté au compte, Zhou a ensuite utilisé des outils d'IA pour générer automatiquement des articles pertinents, qui ont été automatiquement enregistrés dans la « boîte de brouillons » du compte de la plateforme des bénévoles via le système de gestion. Les tâches ont été publiées via le groupe de travail et les bénévoles sélectionnés. Depuis la « boîte de brouillons » via leurs téléphones portables. Libéré manuellement depuis novembre 2023, Zhou a obtenu plus de 300 comptes associés grâce au recrutement (tous ont été fermés) et a utilisé des outils d'IA pour fabriquer plus de 420 000 informations ( tous ont été effacés). À l'heure actuelle, les organes de sécurité publique de Dazhou, dans le Sichuan, ont imposé des sanctions administratives à Zhou conformément à la loi.
Cas 6 : Utilisation de l'IA pour fabriquer des rumeurs sur Internet concernant un « bus de Chengdu hors de contrôle »
Utiliser l’IA pour fabriquer des rumeurs sur Internet selon lesquelles « le bus de Chengdu deviendrait incontrôlable »
Le 20 novembre 2023, un internaute a publié un article sur une certaine plateforme disant : « Un bus à Chengdu, Sichuan a perdu le contrôle et s'est précipité dans la rivière. » Après enquête, l'agresseur Chen a vu la photo du « bus de Chongqing a perdu le contrôle et est tombé ». dans la rivière, tuant 10 personnes et en blessant 2 autres. » Après l'annonce de la nouvelle, afin d'attirer l'attention et d'attirer le trafic, le contenu a été falsifié grâce à la synthèse d'un logiciel d'IA pour lire « Le bus de Chengdu Longquanyi a perdu le contrôle et est tombé dans la rivière, tuant 10 personnes et en blessant 2 autres. » blessant 2", puis l'a publié sur Internet, provoquant un impact social négatif. À l'heure actuelle, les organes de sécurité publique de Chengdu, dans le Sichuan, ont imposé des sanctions administratives à Chen conformément à la loi.
Cas 7 : Utilisation d’un logiciel d’IA pour fabriquer des rumeurs sur Internet concernant « l’éclatement de canalisations thermiques souterraines »
Utiliser un logiciel d'IA pour fabriquer des rumeurs sur Internet concernant « l'éclatement de canalisations thermiques souterraines »
Le 27 décembre 2023, certains internautes ont publié un article sur une certaine plateforme disant : « De l'eau chaude jaillit du sol dans le district de Huyi, ville de Xi'an, soupçonnée d'être causée par la rupture de caloducs souterrains. Il a été constaté que les auteurs illégaux Wang et Liu gagnaient de l'argent. Obtenez des récompenses sur la plateforme et utilisez des logiciels d'IA. Le fichier a automatiquement généré un article sur « Le pipeline thermique souterrain brisé dans le district de Huyi, Xi'an » et l'a greffé avec l'image de « Le pipeline thermique souterrain brisé dans le district de Shangqiu, province du Henan » publiée par Shangqiu.com dans la province du Henan. Il a été publié sur la plateforme Internet, attirant l'attention d'un grand nombre d'internautes et provoquant un impact social négatif. À l'heure actuelle, les organes de sécurité publique de Mianyang, dans le Sichuan, ont imposé des sanctions administratives à Wang et Liu conformément à la loi.
Cas 8 : Utiliser l’IA pour fabriquer des rumeurs en ligne sur des « accidents de chantier »
Utiliser l’IA pour fabriquer des rumeurs en ligne sur les « accidents de chantier »
Le 28 novembre 2023, un internaute a publié un article sur une certaine plateforme disant : « Sur un chantier de construction dans le district de Longquanyi, à Chengdu, quatre ouvriers ont malheureusement été tués lorsqu'ils ont utilisé des échafaudages pour travailler en hauteur et ont touché des fils à haute tension. enquête, l'auteur illégal Zhu Mou a vu sur Internet "Sichuan Après l'annonce selon laquelle quatre personnes ont été tuées lorsqu'un échafaudage à haute altitude a été utilisé pour toucher des fils à haute tension dans le comté de Qu, Dazhou, afin d'attirer l'attention et de gagner du trafic, le lieu de l'accident a été falsifié par un logiciel d'IA pour être le district de Longquanyi. à Chengdu puis publié sur Internet, provoquant un impact social négatif. À l'heure actuelle, les organes de sécurité publique de Chengdu, dans le Sichuan, ont imposé des sanctions administratives à Zhu conformément à la loi.
Cas 9 : Utilisation d’un logiciel d’IA pour fabriquer des rumeurs en ligne selon lesquelles « des prostituées sont mortes d’une crise cardiaque soudaine »
Utiliser un logiciel d’IA pour fabriquer des rumeurs en ligne selon lesquelles « des prostituées sont mortes d’une crise cardiaque »
Le 11 mai 2024, un internaute a publié un article sur une plateforme disant : « Un homme de Xichang, Liangshan, est mort d'une crise cardiaque due à la prostitution. Sa famille a demandé réparation à deux prostituées et au propriétaire de l'hôtel. Après enquête, l'illégal. auteur Ji Afin d'attirer du trafic, une certaine personne a concocté et publié ce faux article via l'outil d'IA "Zhipu Qingyan", provoquant des effets néfastes. À l'heure actuelle, le bureau de la sécurité publique de Liangshan, dans le Sichuan, a imposé des sanctions administratives à Ji Moumou conformément à la loi.
Cas 10 : Utilisation d’un logiciel d’IA pour fabriquer des rumeurs en ligne sous forme de « fausses bannières »
Utiliser un logiciel d'IA pour fabriquer des rumeurs en ligne sous forme de « fausses bannières »
En avril 2024, certains internautes ont publié une vidéo de « la cérémonie d'inauguration d'une certaine zone de développement dans la ville de Deyuan, district de Pidu, Chengdu » sur une certaine plateforme. En mai, l'internaute a publié une autre photo et une autre vidéo avec la bannière "Il est de la responsabilité inéluctable du secrétaire du parti du village de mettre tout le village enceinte d'un deuxième enfant". Après enquête, les vidéos ci-dessus ont été éditées et générées par l’IA et sont toutes de fausses informations. Actuellement, les organes de sécurité publique de Chengdu, dans le Sichuan, ont imposé des sanctions administratives à Wang conformément à la loi.
La Police Internet a rappelé que les organes de sécurité publique traiteront avec détermination et rigueur tout comportement qui publie, fabrique et diffuse de fausses informations sur Internet, déforme délibérément les faits, fabrique et propage des rumeurs et trouble l'ordre public. J'espère que tout le monde prendra cela comme un avertissement et travaillera ensemble pour construire un cyberespace propre en ne répandant pas de rumeurs, en ne croyant pas aux rumeurs et en ne propageant pas de rumeurs.
Publié dans : Sichuan