Incidents associés
La société responsable de la gestion du système de métro de São Paulo a reçu l'ordre de suspendre l'utilisation de la technologie de reconnaissance faciale.
Selon la décision rendue mardi par la juge Cynthia Thome à la Cour d'État de São Paulo, Companhia do Metropolitano de São Paulo (METRO) doit suspendre immédiatement le processus de capture et de traitement des données biométriques pour la reconnaissance faciale dans le cadre de la mise en œuvre d'un système de veille électronique.
De plus, la société a été sommée de suspendre immédiatement le déploiement de nouveaux équipements favorisant la capture de données et le traitement biométrique pour la reconnaissance faciale. La décision fixe également une amende journalière en cas de non-respect.
La décision fait suite à une action en justice intentée par plusieurs organisations de défense des droits civiques appelant à l'interdiction de l'utilisation de la technologie de reconnaissance faciale dans un contexte de discrimination. Selon la dernière phrase, les entités ont fait valoir que malgré le fait que cela n'était pas explicite dans l'avis public du système, l'un de ses objectifs est de mettre en œuvre un système de reconnaissance faciale de tous les usagers du métro, avec une capacité de stockage et de partage de données.
Les demandeurs ont fait valoir que le système de surveillance électronique impliquerait la reconnaissance faciale, avec des images des 4 millions d'utilisateurs quotidiens du métro capturées par un système appelé SecurOS. L'objectif est de stocker des données, et il est possible que SecurOS soit intégré à d'autres systèmes de surveillance électroniques basés sur la reconnaissance faciale.
Citant le procès civil, la phrase a noté que les organisations jugent la capture des données biométriques de tous les utilisateurs du métro comme "illégale et disproportionnée, puisque tous les visages, de tous les utilisateurs, seront lus, copiés, mesurés et enregistrés". En outre, les organisations ont fait valoir que malgré les activités de traitement des données, aucune mesure n'est en place pour obtenir le consentement et le non-consentement au traitement des données biométriques des usagers du métro.
En outre, la phrase note que les entités ont fait valoir qu'il existe un manque de transparence autour des caractéristiques et des risques liés au traitement des données personnelles par la société qui gère le système de métro de São Paulo. Les organisations ont noté que METRO n'a pas expliqué quelle base de données sera utilisée pour former des modèles de reconnaissance faciale, ce qui empêche d'évaluer l'efficacité du projet. En outre, il n'y a aucune information sur les mesures d'évaluation et d'impact et l'atténuation des risques dans la mise en œuvre du système de surveillance électronique avec reconnaissance faciale.
Selon la dernière décision, le juge Thome a noté que METRO n'a pas encore fourni d'informations précises sur la manière dont la reconnaissance faciale serait utilisée dans le système de métro et sur la manière dont les informations seraient traitées.
La phrase a fait valoir que l'affaire présente plusieurs problèmes techniques qui nécessitent des preuves supplémentaires, mais la mise en œuvre du système pourrait avoir un impact sur les droits fondamentaux des citoyens.
« Par contre, il faut considérer que le contrat administratif est en vigueur et qu'il y a eu un gros investissement de METRO. De plus, il ne fait aucun doute que la suspension de l'exécution du contrat concernant l'installation du système peut générer des dommages irréversibles », la phrase notée.
Contacté par ZDNet, METRO a déclaré ne pas avoir été informé de la décision. Cependant, la société a déclaré qu'elle "fera appel et fournira toutes les clarifications, car le nouveau système de surveillance est strictement conforme aux dispositions du Règlement général sur la protection des données". Depuis février, la protection des données personnelles est un droit fondamental au Brésil.