Incidents associés
La Nouvelle-Orléans envisage d'assouplir les restrictions sur l'utilisation de la reconnaissance faciale par la police, quelques semaines après que le Washington Post a rapporté que la police locale s'appuyait secrètement sur un réseau de caméras de surveillance alimentées par l'IA pour identifier les suspects dans la rue et les arrêter.
Selon le projet d'ordonnance publié sur le site web de la ville, la police serait autorisée à utiliser des outils de reconnaissance faciale automatisée pour identifier et suivre les déplacements des personnes recherchées, disparues ou soupçonnées d'infractions graves, annulant ainsi l'interdiction générale de la ville d'utiliser la reconnaissance faciale comme « outil de surveillance ».
Le projet de règlement, rédigé par un responsable de la police de La Nouvelle-Orléans, devrait être soumis au vote du conseil municipal plus tard ce mois-ci, selon une personne informée des projets du conseil qui s'est exprimée sous couvert d'anonymat, n'étant pas autorisée à en parler publiquement. Si la loi est adoptée, La Nouvelle-Orléans deviendrait la première ville américaine à autoriser officiellement la reconnaissance faciale comme outil de surveillance des résidents en temps réel.
Dans un communiqué envoyé par courriel, un porte-parole de la police a déclaré que le service « ne surveille pas le public » et que la surveillance n'est « pas l'objectif de cette révision de l'ordonnance ». Pourtant, le terme « surveillance » apparaît des dizaines de fois dans le projet d'ordonnance, y compris en autorisant explicitement la police à recourir à la « surveillance faciale ».
De nombreux services de police utilisent l'IA pour identifier des suspects à partir d'images fixes prises sur les lieux d'un crime ou à proximité, mais la police de La Nouvelle-Orléans a déjà poussé cette technologie plus loin. Au cours des deux dernières années, le département s'est appuyé sur un réseau privé de caméras équipées d'un logiciel de reconnaissance faciale pour surveiller en permanence les rues à la recherche de personnes recherchées et envoyer automatiquement une alerte à une application sur les téléphones portables des agents afin de leur transmettre les noms et les emplacements des correspondances possibles, a rapporté le Post le mois dernier.
En avril, après que le Post a demandé des documents publics sur ce système, la surintendante de la police de La Nouvelle-Orléans, Anne Kirkpatrick, a suspendu les alertes automatisées et ordonné une enquête sur la manière dont les agents utilisaient cette technologie et sur la question de savoir si cette pratique enfreignait les restrictions locales en matière de reconnaissance faciale.
David Barnes, lieutenant de la police de La Nouvelle-Orléans chargé de la recherche et de la planification juridiques, qui a rédigé le projet d'ordonnance, a déclaré espérer terminer l'examen et partager ses conclusions avant le vote du conseil municipal. Les alertes de reconnaissance faciale sont toujours suspendues, a-t-il déclaré mercredi.
Il n'existe aucune réglementation fédérale concernant l'utilisation de l'IA par les forces de l'ordre locales. La Nouvelle-Orléans a été l'une des nombreuses villes à interdire cette technologie lors de la réforme du maintien de l'ordre adoptée à la suite des manifestations Black Lives Matter de 2020. Le conseil municipal a déclaré (https://council.nola.gov/meetings/2020/20201217-regular-meeting/) avoir de « importantes inquiétudes quant au rôle des technologies de reconnaissance faciale et des bases de données de surveillance dans l'exacerbation des préjugés raciaux et autres ». Des études fédérales ont montré que cette technologie était moins fiable pour scanner les personnes de couleur, les femmes et les personnes âgées.
La Nouvelle-Orléans a partiellement levé ces restrictions en 2022, autorisant la police à utiliser la reconnaissance faciale pour les fouilles de suspects spécifiques de crimes violents, mais pas pour le suivi général des personnes dans les lieux publics. Chaque fois que la police souhaite scanner un visage, elle doit envoyer une image fixe à des examinateurs qualifiés dans un établissement public, puis fournir des détails sur ces scans au conseil municipal – des garde-fous destinés à protéger la vie privée du public et à empêcher que des erreurs logicielles ne conduisent à des arrestations injustifiées.
Aujourd'hui, les dirigeants municipaux souhaitent donner à la police un accès plus large à cette technologie, avec moins de restrictions, arguant que des outils de surveillance automatisés sont nécessaires pour lutter contre la criminalité. Le taux de criminalité violente à La Nouvelle-Orléans, comme dans une grande partie du pays, est à des niveaux historiquement bas, selon Jeff Asher, consultant qui suit les statistiques criminelles dans la région. Mais les caméras équipées de reconnaissance faciale se sont révélées utiles lors de quelques incidents récents très médiatisés, notamment l'évasion de dix détenus d'une prison locale le 16 mai et l'attaque du jour de l'An sur Bourbon Street, qui a fait 14 morts. « Les crimes violents sont à leur plus bas niveau historique, mais les meurtres et les fusillades de masse atteignent un niveau record », a déclaré Oliver Thomas, l'un des deux conseillers municipaux à l'origine de l'ordonnance, lors d'une interview cette semaine. « C'est un outil pour faire face à une partie de ces violences, meurtres et agressions de masse. » Après que le Post a informé Thomas qu'il y avait eu 310 fusillades mortelles et non mortelles à La Nouvelle-Orléans l'année dernière (de loin le nombre le plus bas depuis les 14 ans où le conseil municipal a publié ces statistiques sur son tableau de bord des données criminelles en ligne) (https://app.powerbi.com/view?r=eyJrIjoiNjlhMjVlYzUtYTI0ZS00MmQxLWI3MDgtM2JkNTQ4NjZiZGM2IiwidCI6IjFkYzNlZmNmLTVlMTQtNGRkNS1iMjE3LWE3NTBjNWIxMzIyZCIsImMiOjN9), il a reconnu que les fusillades étaient en baisse et a attribué cette baisse en partie à son travail auprès des jeunes et des anciens délinquants. Nora Ahmed, directrice juridique de l'Union américaine pour les libertés civiles de Louisiane, a déclaré que les membres du conseil municipal exploitent l'inquiétude du public face à l'actualité récente pour justifier l'adoption généralisée de la technologie de reconnaissance faciale, ou TRF, une technologie puissante susceptible de priver les citoyens de leurs droits.
« Au nom de la TRF, une technologie qui ne se pratique qu'une fois tous les dix ans, ce projet de loi ouvre la TRF à l'utilisation de cette technologie par les entités fédérales et étatiques, ainsi que par les services de police locaux les plus dynamiques », a déclaré Ahmed dans un SMS. « Ce type de surveillance ne devrait pas exister aux États-Unis, point final. »
La nouvelle ordonnance donnerait à la police le pouvoir d'utiliser des systèmes de « surveillance faciale » et de « suivi des caractéristiques » pour surveiller activement les rues à la recherche de personnes sous mandat ou faisant l'objet d'une enquête. Elle l'obligerait à continuer de partager les données relatives aux fouilles faciales avec le conseil municipal et à commencer à communiquer des informations sur les logiciels utilisés et leur exactitude.
Bien que l'ordonnance interdise à la police d'utiliser des outils de surveillance faciale pour cibler les personnes demandant un avortement ou les immigrants sans papiers, Ahmed affirme que ces protections sont « minces comme du papier » et craint que les agents ne trouvent des moyens de les contourner.
On ignore si La Nouvelle-Orléans prévoit de continuer à collaborer avec Project NOLA, une association à but non lucratif financée par des fonds privés qui a fourni des alertes de reconnaissance faciale automatisées aux agents malgré l'absence de contrat avec la ville. Barnes, le sergent de police, a déclaré que Project NOLA devrait conclure un accord formel de partage de données avec la ville s'il souhaitait continuer à envoyer des alertes automatiques aux agents connectés à un système Project NOLA pour les recevoir. En vertu de la nouvelle ordonnance, Project NOLA pourrait également être tenu de publier des informations sur toutes ses recherches au conseil municipal.
La communication de ces données pourrait être compliquée avec un système de reconnaissance faciale en direct, dans lequel des caméras scannent en permanence chaque visage à proximité. Avec des centaines de caméras capables de scanner des milliers de visages chaque jour, le Projet NOLA, ou la ville, pourrait théoriquement devoir déclarer des informations sur des millions de reconnaissances faciales dans chacun de ses rapports trimestriels que le département est tenu de fournir au conseil municipal.
Bryan Lagarde, fondateur du Projet NOLA, a refusé de commenter cette semaine, prétextant être en vacances.
L'adoption par la Nouvelle-Orléans du terme « surveillance » – qui apparaît 40 fois dans le texte du projet d'ordonnance – semble en contradiction avec les déclarations de Kirkpatrick, la plus haute responsable de la police de la ville. Lors d'une interview le mois dernier, Kirkpatrick a déclaré qu'elle estimait que les gouvernements devraient être empêchés de surveiller leurs citoyens, en particulier lorsqu'ils exercent leurs droits constitutionnels en public.
« Je ne crois pas à la surveillance des citoyens et des résidents de notre pays », avait déclaré Kirkpatrick à l'époque. « La surveillance est une atteinte à notre vie privée. »