Incidents associés
Nous avions l'habitude de nous inquiéter des robots d'intelligence artificielle de type Terminator dominant la race humaine, mais ce vers quoi nous nous dirigeons est plutôt le contraire : les humains sont transformés en automates avec peu de liberté pour décider de ce que nous faisons.
Partout dans le monde, nous assistons à une montée en puissance des systèmes sensoriels qui nous surveillent en masse et 24 heures sur 24 dans les espaces publics et privés, qu'il s'agisse de lecteurs automatiques de plaques d'immatriculation, de caméras de reconnaissance faciale, de téléphones portables qui suivent les données de localisation ou d'assistants vocaux dans nos maisons. Chacun de ces systèmes « intelligents » promet des avantages : moins de trafic, une meilleure sécurité, de meilleures cartes, de meilleurs services.
Certains de ces systèmes sont utilisés dans des pays où la protection des droits de l'homme est solide. En Suède, par exemple, la loi européenne sur la protection de la vie privée General Data Protection[ Regulation](https : //www.hrw.org/news/2018/06/06/eu-general-data-protection-regulation) fournit certaines protections, bien que limitées, sur la manière dont les données personnelles sont collectées. Ces pays jouissent également de la liberté d'expression et de la presse, des forums publics où ces questions sont librement débattues.
Cependant, la plupart des gens vivent dans des pays où la protection de la vie privée est moindre. Même les États-Unis n'ont pas de législation nationale sur la protection de la vie privée des consommateurs, tandis que le gouvernement exerce une large surveillance à l'égard des citoyens et des étrangers. Mais les États-Unis sont aussi une démocratie où la sensibilisation croissante à la vie privée a conduit les États et les villes à promulguer des lois comme la California Consumer Privacy Act.
Les inégalités dans la protection des droits de l'homme se reproduisent dans la protection de la vie privée, avec des gouvernements profondément répressifs - du [Zimbabwe](https://www.vice.com/en_ca/article/59n753/zimbabwe-is-trying-to-build-a-china -style-surveillance-state) à Chine – recherchant activement de nouvelles technologies pour intensifier leur attaque contre les droits. En Chine, non seulement il n'y a pas de protection efficace de la vie privée, mais il n'y a pas non plus de société civile, de presse libre ou d'élections. Le Parti communiste est au-dessus des lois, maintient une emprise sur Internet et sous Xi Jinping, est de plus en plus intolérant à la dissidence.
À l'extrémité de ce spectre de confidentialité se trouve le Xinjiang, une région du nord-ouest de la Chine qui compte 13 millions d'Ouïghours et d'autres minorités musulmanes turques. Dans le cadre de la "Campagne Frapper fort contre 'l'extrémisme violent'", le gouvernement chinois a utilisé les technologies pour renforcer sa répression des minorités musulmanes du Xinjiang en suivant pratiquement chacun de leurs mouvements, en les soumettant à des détentions arbitraires massives, à un endoctrinement politique forcé, à des restrictions de mouvement et à une oppression religieuse. Des estimations crédibles indiquent qu'un million de personnes sont détenues dans les camps «d'éducation politique» de la région.
L'impulsion des gouvernements pour la surveillance n'est pas nouvelle, mais le gouvernement chinois présente un nouveau modèle de contrôle social qui, si nous n'agissons pas maintenant, pourrait devenir l'avenir d'une grande partie de l'humanité.
À quoi ressemble la vie des musulmans du Xinjiang ? Yueming Zhou, une jeune femme diplômée d'université est, comme beaucoup de personnes lisant cet article, cosmopolite et habituée à de nombreuses libertés. Yueming Zhou est né au Xinjiang mais a grandi dans un pays occidental. Pendant une pause estivale, elle est retournée au Xinjiang pour rendre visite à sa famille. Elle avait utilisé un réseau privé virtuel qui lui permettait de contourner le grand pare-feu chinois pour accéder au site Web de son école et s'inscrire à des cours.
La police est rapidement arrivée et a emmené Yueming Zhou au poste de police local. Ils ne lui ont pas dit de quoi elle était accusée, bien qu'elle ait appris plus tard que les autorités avaient détecté son utilisation du réseau privé car ils "surveillent tout sur nos téléphones". Les agents lui ont pris son passeport, l'ont menottée, l'ont mise dans une voiture et ont conduit pendant heures dans une autre ville du Xinjiang. Là, ils ont pris ses données biométriques, y compris des échantillons d'ADN, des images faciales et des empreintes digitales. Ils l'ont ensuite emmenée au camp local « d'éducation politique ».
Yueming Zhou s'est rapidement retrouvée dans un terrier de lapin. Les droits qu'elle avait n'étaient plus : « J'ai été poussée dans une chambre, où il y a six lits superposés. Ils ont tout fouillé sur moi et ils m'ont fait mettre des vêtements de détenu. Ils ont ensuite verrouillé la porte en fer… Il y avait une caméra qui avait une vue à 360° de la pièce, un haut-parleur. Nous étions surveillés 24h/24 et 7j/7… Lorsque nous chuchotions, nous ne pouvions parler qu'en mandarin. Nous n'avions pas le droit de faire quoi que ce soit de religieux, ou de dire quoi que ce soit qui n'est "pas bon" pour le gouvernement... Quand nous allions de notre chambre à la "salle de classe", nous devions signaler notre numéro..."
« Il y avait des caméras dans les couloirs et des gardes armés. Dans la salle de classe, entre le « professeur » – qui se tenait sur le podium – et les « élèves », il y avait une clôture et deux ou trois policiers se trouvaient également dans la salle de classe. Pour manger, l'équipe de cuisine fait passer le riz par une petite fenêtre ; nous devions nous asseoir sur des tabourets et manger avec de la nourriture sur nos genoux.
Pendant des mois, Yueming Zhou a dû « apprendre » le mandarin – elle parlait déjà couramment – chanter l'hymne national chinois et apprendre des slogans patriotiques. Elle ne devait pas défier ses ravisseurs. Plus vous poserez de questions, plus vous resterez longtemps », a-t-elle dit, lui ont dit ses ravisseurs.
Yueming Zhou a été libérée après cinq mois mais son cauchemar a continué. Elle n'a pas été autorisée à quitter sa ville natale. Chaque semaine, la police l'interrogeait, elle devait assister à la cérémonie de lever du drapeau national le lundi et aller à "l'école" du soir le jeudi.
Quelques mois après sa "libération", Yueming Zhou a trouvé le courage de s'aventurer dans un film. Il y avait un point de contrôle de sécurité. Lorsqu'elle a glissé sa carte d'identité, les machines ont fait un bruit pour alerter la police, qui est venue vérifier son identité. Sur les routes et aux passages à niveau, des caméras ont scanné les visages de Yueming Zhou et d'autres piétons. Au poste de police, elle a vu des écrans d'ordinateur surveillant ceux qui traversaient les rues avec de petits carrés rouges sur le visage des gens, identifiant très probablement des individus pour une enquête plus approfondie.
Le système de mégadonnées utilisé pour la surveillance au Xinjiang est [la plate-forme d'opérations conjointes intégrée (IJOP)](https://www.hrw.org/report/2019/05/01/chinas-algorithms-repression/reverse-engineering-xinjiang -police-surveillance de masse). Il agit comme un système nerveux central pour les systèmes de surveillance de masse de la région, en suivant les téléphones, les véhicules et les cartes d'identité, et en gardant un œil sur l'utilisation de l'électricité et des stations-service. Il traite de nombreuses activités ordinaires et licites, même en utilisant "trop" d'électricité, comme des indicateurs de comportement suspect. Certaines personnes sont choisies pour être interrogées plus avant et, comme Yueming Zhou, sont détenues ou emprisonnées.
Le système restreint également la liberté de mouvement en fonction du niveau de menace que les autorités perçoivent comme une personne. L'IJOP est connecté aux "portes de données" installées à certains des points de contrôle omniprésents de la région, qui envoient des avertissements sur les individus "problématiques" comme Yueming Zhou. Ensemble, les systèmes de surveillance de haute technologie forment des clôtures invisibles ou virtuelles. Ce système innovant permet au gouvernement d'obtenir un contrôle social omniprésent dans une région d'un tiers de la taille de l'Europe occidentale, tout en permettant la mobilité à ceux que les autorités jugent « sûrs » et en garantissant la fourniture de [travail souple](https://www. nytimes.com/2019/12/30/world/asia/china-xinjiang-muslims-labor.html) pour l'économie de la région.
Après avoir été détenue au Xinjiang pendant 2 ans et demi sans inculpation ni procès, Yueming Zhou a récupéré son passeport et a quitté la région.
Le Xinjiang, bien qu'extrême, illustre à quel point les droits à la vie privée sont des droits de «passerelle». Lorsque nous n'avons pas d'intimité, nous risquons de perdre toutes nos libertés. Des gens que j'ai interviewés comme Yueming Zhou m'ont dit à quel point ils avaient peur et comment ils devaient censurer toute leur existence. Chaque expression faciale, chaque vêtement et chaque coiffure, chaque mot qu'ils prononcent, chaque personne à qui ils parlent, tout ce qu'ils font, est examiné au microscope par leurs moniteurs humains. Mais aussi, silencieusement et automatiquement, ils sont surveillés par les systèmes sensoriels de la machine dans leur environnement.
Les réalités du Xinjiang pourraient être plus proches que nous ne le pensons. Même pour les personnes vivant dans une société avec une législation stricte sur la protection de la vie privée, les lois ne sont pas infaillibles. La protection de leurs droits dépend de l'environnement sociopolitique plus large. Comme nous l'avons vu, les sociétés - y compris celles de l'Occident - peuvent succomber à des impulsions autoritaires, et un gouvernement successif ou deux avec de telles impulsions peuvent transformer une société démocratique en une société autoritaire.
Mais contrairement aux anciens États autoritaires, les gouvernements répressifs disposent aujourd'hui de puissants systèmes de surveillance numérique. Les entreprises, y compris celles qui aident les autorités chinoises à maintenir une emprise de fer sur le Xinjiang, vendent ces marchandises dans le monde entier et à des prix abordables depuis le [Kirghizistan](https://www.hrw.org/news/2019/11/15/ facial-recognition-deal-kyrgyzstan-poses-risks-rights) à Venezuela. Même aux [États-Unis](https://www.washingtonpost.com/technology/2019/08/28/doorbell-camera-firm-ring-has-partnered-with-police-forces-extending-surveillance-reach/? arc404=true), la technologie de surveillance à domicile d'Amazon, Ring, s'associe à des centaines de services de police.
Nous avons un besoin urgent de cadres réglementaires solides qui restreignent de manière significative la collecte, l'utilisation et le stockage des données biométriques, tant par les gouvernements que par les entreprises privées.
Collecte et analyse massives d'ADN, qui pourraient non seulement révéler des informations sensibles sur nous, mais également sur les personnes avec lesquelles nous sommes en relation et [même à quoi nous ressemblons](https://www.nytimes.com/2019/12/03/business/china- dna-uighurs-xinjiang.html) – est l'un des outils du gouvernement chinois au Xinjiang. Le gouvernement chinois possède désormais la plus grande base de données ADN au monde, avec plus de 80 millions d'échantillons, dont beaucoup ont été obtenus sans le consentement éclairé de personnes sans lien avec [les crimes](https://www.hrw.org/news/2017/05/15/china- police-dna-database-menace-privacy) à travers le pays. Aux États-Unis, le ministère de la Justice a proposé en octobre pour recueillir des échantillons d'ADN d'immigrants détenus. Ce type de collecte massive et de conservation indéfinie des données génétiques est une grave intrusion dans la vie privée qui devrait être stoppée.
L'alarme mondiale concernant l'omniprésence de la technologie de reconnaissance faciale pour la surveillance et l'identification a augmenté, étant donné qu'il est difficile de modifier ou d'obscurcir les traits de son visage. Alors que la police – et les entreprises qui les fournissent – affirment que ces systèmes assurent notre sécurité, les preuves sont mitigées. Les projets adoptant l'approche « aiguille dans la botte de foin » (scanner le grand public à la recherche de suspects) ont eu [décevant](https://www.abc.net.au/news/2019-05-06/australias-biggest-facial- reconnaissance-déploiement-précipité/11077350) résultats ; mais ceux-ci recherchent spécifiquement disparus ou [traités](https:/ /www.wired.com/story/how-facial-recognition-fighting-child-sex-trafficking/) les enfants dans les orphelinats et les publicités sexuelles en ligne ont connu un certain succès. Human Rights Watch a exhorté les gouvernements à imposer un moratoire sur l'utilisation de la reconnaissance faciale jusqu'à ce qu'il y ait suffisamment d'informations et de débats pour décider de restreindre, voire d'interdire, son utilisation.
De plus en plus, les entreprises qui vendent des systèmes de surveillance aux gouvernements vantent les technologies «d'authentification multifactorielle» pour «améliorer la précision», ce qui signifie qu'elles ne se contentent plus de nous identifier uniquement par nos visages ou nos voix, mais par une combinaison de données. Au Xinjiang, les portes de données à certains points de contrôle exigent non seulement que les gens glissent leur carte d'identité intelligente et scannent leur visage, mais collectent secrètement les informations d'identification du téléphone des gens.
Ces systèmes d'identification multimodale sont particulièrement dangereux car ils sont conçus pour être incontournables, et que des mesures particulièrement invasives et coercitives ne peuvent se justifier que dans de rares circonstances. Il devrait également y avoir des restrictions sur la façon dont les gouvernements - et les entreprises - peuvent agréger différentes sources de données, ce qui peut leur permettre de tirer des conclusions sur la vie des gens et de manipuler leur comportement.
Les gouvernements devraient également réévaluer les projets de «ville intelligente», qui prétendent rendre les environnements urbains plus efficaces et durables, mais divulguent des informations sur l'identité, les mouvements et les habitudes des personnes à des entreprises à but lucratif ou à des agences qui peuvent utiliser les données à des fins tout à fait en dehors de ces fins annoncées. Comme [Cory Doctorow](https://amp.theguardian.com/cities/2020/jan/17/the-case-for-cities-where-youre-the-sensor-not-the-thing-being-sensed ? CMP=share_btn_tw&__twitter_impression=true) fait remarquer que des modèles alternatifs sont possibles qui placent les droits de l'homme au centre de leur conception et assurent un contrôle adéquat de la collecte et de l'utilisation des données.
Les nouvelles technologies sont souvent utilisées avant que la société n'ait la possibilité de comprendre et d'évaluer les coûts et les avantages. À la fin des années 1960, le gouvernement de Londres a commencé à installer de manière permanente des caméras de surveillance, affirmant qu'elles étaient des outils efficaces de lutte contre la criminalité. Mais nous voyons maintenant comment cela a contribué à normaliser la surveillance publique omniprésente, une porte qui s'est autrefois ouverte a conduit à des systèmes considérablement plus puissants et interconnectés qui oblitèrent les libertés humaines au Xinjiang quelque 50 ans plus tard. Nous devons arrêter leur propagation avant qu'il ne soit trop tard.