Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 2451

Incidents associés

Incident 4383 Rapports
Chinese Province Developed System Tracking Journalists and International Students

Punir les journalistes du dernier projet de surveillance de masse de la province de la RPC, remporté par Neusoft Powered By Huawei
ipvm.com · 2021

Une province de la RPC a attribué un projet de surveillance qui spécifie le suivi des journalistes étrangers, des étudiants étrangers et des femmes migrantes, ainsi que le suivi des individus par origine ethnique, y compris les Ouïghours. Une société cotée en bourse de la RPC, Neusoft, a remporté le projet, qui spécifie l'utilisation du logiciel cloud Huawei.

Le projet de surveillance, qui ne ressemble à rien de ce que l'IPVM a connu auparavant, cible les journalistes de manière délibérée et calculée. Plus précisément, le système est conçu pour étiqueter les journalistes avec « 处置 » (en chinois, cette expression est généralement utilisée dans le contexte de traiter ou de punir des individus) en fonction de l'opinion des autorités de la RPC sur le risque qu'ils représentent pour l'État.

La RPC a l'habitude de détenir et de punir des journalistes, mais ce matériel illustre le premier exemple connu de la RPC qui a construit une technologie de sécurité personnalisée pour rationaliser la répression de la presse par l'État.

L'IPVM a rapporté cette histoire à Reuters, qui a publié une enquête basée sur les conclusions de l'IPVM (Voir [La province chinoise cible les journalistes, les étudiants étrangers avec un nouveau système de surveillance prévu](https://www.Reuters.com/technology/exclusive-chinese-province- cible-les-journalistes-etudiants-etrangers-avec-le-nouveau-2021-11-29/)).

Aperçu du projet

Henan Province's Public Security Department issued a 190-page tender on July 29th, 2021, seeking a système de sécurité pour suivre et surveiller les allées et venues des personnes « concernées » dans toute la province, qui compte environ 99 millions d'habitants. Cela survient quelques jours après que les journalistes étrangers ont été harcelés pour avoir couvert les inondations du Henan et les [](https://twitter. com/fccchina) [Club des correspondants étrangers de Chine] (https://fccchina.org/2021/07/27/fccc-statement-on-harassment-of-reporters-covering-henan-floods/) indiquant :

La rhétorique des organisations affiliées au Parti communiste au pouvoir en Chine met directement en danger la sécurité physique des journalistes étrangers en Chine et entrave la liberté de reportage.

Neusoft a remporté le projet le 16 septembre, 2021.

Appel d'offres supprimé

IPVM est l'autorité en matière de technologie de sécurité physique, y compris la vidéosurveillance, le contrôle d'accès, la détection d'armes et plus encore. Refusant d'accepter la publicité ou les parrainages, plus de 15 000 abonnés dans le monde font confiance et paient pour les rapports et les recherches indépendants d'IPVM.

Entrez votre e-mail pour être informé des nouvelles fusillades, tests, enquêtes, émissions en ligne et plus encore.

Après que l'IPVM et Reuters ont contacté les responsables de la RPC, le Henan a retiré l'appel d'offres, illustré ci-dessous :

IPVM s'y attendait et a archivé l'appel d'offres, accessible ici. Les responsables de la RPC n'ont pas répondu autrement à l'IPVM ni à Reuters.

Spécifie l'intervention physique contre les journalistes


Pour les journalistes, le document appelle "处置" comme résultat de l'évaluation / jugement des autorités. En chinois, cette expression signifie "s'occuper de" ou "punir". Le document du Henan montre donc les plans de la RPC d'utiliser la force physique contre les journalistes.

Le projet appelle à une bibliothèque de données des journalistes étrangers, comme indiqué dans ce schéma de l'architecture des données :

Les bibliothèques devraient être mises à jour et entretenues par les autorités de la RPC.

Système d'avertissement de feu stop pour les journalistes

Alors que le système est conçu pour être personnalisé, les journalistes sont identifiés et détaillés en détail en tant qu'individus pour alerter les autorités et surveiller. En fait, les bibliothèques de données sont triées et segmentées pour étiqueter les journalistes comme – « Rouge », « Jaune » ou « Vert ».

Le système peut alerter les journalistes en fonction d'un certain nombre de facteurs, notamment la raison de leur voyage, la nature du reportage et la destination du voyage.

Huawei Cloud / FusionInsight et One Person One File


Les services Huawei Cloud et FusionInsight de Huawei sont spécifiés dans le document comme « technologie clé » pour faire fonctionner le système de surveillance. Huawei décrit FusionInsight sur son site Web :

Extraire de la valeur des données massives pour accélérer la transformation intelligente

En outre, le document détaille l'utilisation de "une personne, un fichier", une technologie d'intelligence artificielle qui utilise une analyse de vidéosurveillance en temps réel liée à de vastes bases de données d'attributs d'individus.

Cette technologie était brevetée par Huawei en 2020, où elle décrivait l'obtention d'un dossier par personne comme un problème urgent :

Avec la popularisation de la reconnaissance faciale, une grande quantité de données de capture de visage est générée, par exemple, une ville de niveau intermédiaire avec 20 000 caméras, le nombre de captures de visage par an est de l'ordre de 100 milliards. Au fur et à mesure que de plus en plus de caméras intelligentes deviennent populaires à l'avenir, le nombre d'images de visages capturées en un an évoluera à des milliards, alors comment archiver ces données d'images de visage et obtenir un fichier par personne devient un problème urgent .

L'IPVM a obtenu des documents de Huawei qui mettent en avant « une personne, un fichier » comme solution de sécurité à l'usage du gouvernement de la RPC.

Dans un livre blanc intitulé Huawei Smart Security Open Architecture, "une personne, un fichier" est mis en évidence comme une application disponible dans un diagramme sous la section intitulée "智能视频云平台" ou "Intelligent Video Cloud Platform". Le diagramme met également en évidence GA/T1400, la norme nationale de la RPC pour les "systèmes d'application d'informations d'images vidéo de sécurité publique".

Dans un document séparé de Huawei, « une personne, un fichier » est répertorié comme une application d'IA disponible à des fins de sécurité :

Huawei: "Aucune connaissance" du projet, nie les groupes cibles des produits


Dans une déclaration à l'IPVM, un porte-parole de Huawei a affirmé « aucune connaissance » du projet de sécurité du Henan et a souligné que l'entreprise respecte les normes de l'industrie et ne développe/vend pas de produits pour cibler des groupes individuels de personnes :

Huawei n'a aucune connaissance du projet mentionné dans le rapport IPVM. Comme tous les autres grands fournisseurs de services, Huawei fournit des services de plate-forme cloud conformes aux normes courantes de l'industrie. Huawei ne développe ni ne vend de systèmes qui ciblent un groupe de personnes spécifique et nous exigeons que tous nos 31 000 partenaires respectent toutes les lois, réglementations et éthiques commerciales applicables.

En décembre 2020, IPVM a rapporté comment Huawei et Megvii ont travaillé ensemble pour tester et valider le ouïghour alarmes, selon un "rapport d'interopérabilité" Huawei trouvé par IPVM.

IPVM a répondu à Huawei, demandant maintenant que Huawei est au courant du projet Henan, ont-ils l'intention de faire quoi que ce soit. Un porte-parole de Huawei a répondu, déclarant :

Nous n'avons pas d'autres commentaires pour l'instant, je vous ferai savoir si cela change.

IPVM mettra à jour ce rapport si Huawei répond.

Personnalisable pour les autorités de la RPC

Le projet de sécurité est conçu pour permettre aux autorités de la RPC de créer des balises et des avertissements pour pratiquement tous les scénarios liés à des données sur des individus. Par exemple, le projet note ces balises :

  • Ethnie - Han / Ouïghour
  • Attributs comportementaux - comme fréquenter les bars
  • Profession / travail
  • Groupes communautaires / affiliations
  • Âge gendre
  • Attributs physiques - tels que le port de lunettes

Contrat attribué à Neusoft

Une société technologique chinoise cotée en bourse, Neusoft, [a obtenu le contrat](http://www.ccgp.gov.cn/cggg/dfgg/zbgg/202109/ t20210917_16895717.htm) le 16 septembre 2021.

IPVM a contacté Neusoft plusieurs fois au cours d'une semaine mais n'a pas reçu de réponse.

Wikipedia décrit Neusoft:

L'entreprise a été fondée en 1991 et, depuis 2020, est la plus grande entreprise basée en Chine fournissant des services informatiques[4] et, depuis 2012, la plus grande entreprise de externalisation de logiciels en Chine.[[5]](https://en.wikipedia.org/ wiki/Neusoft#cite_note-5) Neusoft a des filiales aux États-Unis ([Livonia, Michigan](https://en.wikipedia.org/wiki/ Livonie,_Michigan), Santa Clara, Californie, [Morrisville, Caroline du Nord](https://en.wikipedia.org/wiki/Morrisville, _North_Carolina)), Japon (Tokyo), [Suisse](https:/ /en.wikipedia.org/wiki/Suisse) (Appenzell), Allemagne (Hambourg, [Munich](https://en.wik ipedia.org/wiki/Munich)) et Roumanie (Cluj-Napoca).

Utilisation des questions de Human Rights Watch / PRC Pas de réponse

Dans une déclaration à l'IPVM, la directrice de Human Rights Watch Chine, Sophie Richardson, a contesté pourquoi les entreprises et les gouvernements utiliseraient une telle technologie pour surveiller les groupes minoritaires et les journalistes :

L'utilisation de la technologie de surveillance, y compris des outils comme les flux vidéo, devrait être régie par les principes de nécessité, de légitimité et de proportionnalité. Il incombe donc ** à ces entreprises et à tous les gouvernements et à toutes les entreprises et gouvernements d'expliquer pourquoi il est essentiel d'utiliser de tels outils **, d'expliquer comment la collecte de données est liée à un objectif clair et publiquement convenu, et comment une telle action est proportionnée avec une menace. Dans ce cas, il est difficile de voir comment l'utilisation de cette technologie répond à l'un de ces critères : ** ces journalistes, femmes et étudiants étrangers et Ouïghours se comportent-ils d'une manière qui nécessite un tel examen ? ** Nous sommes sceptiques.

L'IPVM a contacté le ministère des Affaires étrangères de la RPC à plusieurs reprises mais n'a reçu aucune réponse.

Conclusion

Lorsque les autorités de la RPC empêchent les journalistes de rapporter des nouvelles, la capacité de mettre les abus au premier plan est considérablement réduite. L'IPVM a publié de nombreux rapports sur la manière dont une technologie similaire est utilisée par les autorités de la RPC pour suivre et surveiller les Ouïghours. Cibler des groupes minoritaires ou des populations vulnérables avec des technologies de sécurité est contraire à l'éthique et devrait cesser. Ce projet révèle jusqu'où le CRP ira pour assurer sa pérennité.

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • a9df9cf