Incidents associés
NOUVELLE-ORLÉANS --- Pendant deux ans, la police de La Nouvelle-Orléans a secrètement eu recours à la reconnaissance faciale pour scruter les rues de la ville à la recherche de suspects. Une méthode de surveillance sans précédent dans les grandes villes américaines, susceptible de violer les règles municipales relatives à l'utilisation de cette technologie, révèle une enquête du Washington Post. La police utilise de plus en plus les logiciels de reconnaissance faciale pour identifier des suspects inconnus à partir d'images fixes, généralement prises par des caméras de surveillance sur les lieux du crime ou à proximité. La police de La Nouvelle-Orléans a poussé cette technologie encore plus loin, utilisant un réseau privé de plus de 200 caméras de reconnaissance faciale pour surveiller les rues, traquant en permanence les suspects recherchés et en envoyant automatiquement des messages aux téléphones portables des agents via une application afin de leur communiquer les noms et les emplacements actuels des correspondances possibles. Cette mesure semble en contradiction avec une ordonnance du conseil municipal de 2022, qui limitait l'utilisation de la reconnaissance faciale à la recherche de suspects spécifiques dans le cadre d'enquêtes sur des crimes violents, et jamais comme un « outil de surveillance » plus généralisé pour la surveillance des personnes dans les lieux publics. Chaque fois que la police souhaite scanner un visage, l'ordonnance l'oblige à envoyer une image fixe à des examinateurs qualifiés dans un établissement public, puis à fournir des détails sur ces scans dans des rapports au conseil municipal. Ces garde-fous visent à protéger la vie privée du public et à empêcher que des erreurs logicielles ne conduisent à des arrestations injustifiées. Depuis début 2023, le réseau de caméras de reconnaissance faciale a joué un rôle dans des dizaines d'arrestations, dont au moins quatre personnes accusées uniquement de crimes non violents, selon les rapports de police, les dossiers judiciaires et les publications sur les réseaux sociaux de Project NOLA, une association à but non lucratif de prévention de la criminalité qui achète et gère de nombreuses caméras. Les policiers n'ont pas mentionné leur recours aux correspondances de reconnaissance faciale dans les rapports de police pour la plupart des arrestations pour lesquelles la police a fourni des rapports détaillés, et aucun de ces cas n'a été inclus dans les rapports obligatoires du service au conseil municipal sur son utilisation de cette technologie. Project NOLA n'a pas de contrat officiel avec la ville, mais travaille directement avec les policiers. « C'est le scénario cauchemardesque de la technologie de reconnaissance faciale qui nous inquiète », a déclaré Nathan Freed Wessler, directeur adjoint du projet Discours, vie privée et technologie de l'ACLU, qui suit de près l'utilisation des technologies d'IA par la police. « Le gouvernement s'octroie le pouvoir de pister n'importe qui – et même tout le monde – dans nos déplacements en public. » Anne Kirkpatrick, à la tête du département de police de La Nouvelle-Orléans, a suspendu le programme début avril, a-t-elle déclaré lors d'une interview, après qu'un capitaine eut identifié les alertes comme un problème potentiel lors d'une enquête. Dans un courriel du 8 avril consulté par le Post, Kirkpatrick a indiqué au Projet NOLA que les alertes automatiques devaient être désactivées jusqu'à ce qu'elle soit « certaine que l'utilisation de l'application respecte toutes les exigences de la loi et des politiques ». Le Post a commencé à demander des documents publics sur les alertes en février. Le service de police « ne possède pas, ne dépend pas, ne gère pas et ne cautionne pas l'utilisation par ses membres de systèmes d'intelligence artificielle associés au vaste réseau de caméras criminelles du Projet Nola », a déclaré Reese Harper, porte-parole de l'agence, dans un communiqué envoyé par courriel. Partout aux États-Unis, la police utilise des logiciels de reconnaissance faciale, qui utilisent l'intelligence artificielle pour cartographier rapidement les caractéristiques physiques d'un visage sur une image et les comparer aux visages contenus dans d'énormes bases de données d'images – généralement issues de photos d'identité judiciaire, de permis de conduire ou de photos publiées sur les réseaux sociaux – à la recherche de correspondances possibles. L'utilisation de la reconnaissance faciale automatisée par la Nouvelle-Orléans n'avait jamais été signalée auparavant et constitue la première tentative connue de la police d'une grande ville américaine d'utiliser l'IA pour identifier des personnes sur des images de caméras en direct afin de procéder à des arrestations immédiates, a déclaré Wessler. Le Washington Post a rapporté que certains services de police utilisent des logiciels de reconnaissance faciale basés sur l'IA en violation des lois locales, abandonnant les normes d'enquête traditionnelles et mettant en danger des innocents. La police a parfois arrêté des suspects sur la base de correspondances IA sans preuve indépendante les reliant au crime, augmentant ainsi le risque d'arrestation injustifiée. Souvent, la police omet d'informer les accusés de son utilisation de logiciels de reconnaissance faciale, les privant ainsi de la possibilité de contester les résultats d'une technologie qui s'est démontrée moins fiable pour les personnes de couleur, les femmes et les personnes âgées. L'un des rares endroits où la reconnaissance faciale en direct est connue pour être largement utilisée est Londres, où la police gare des fourgons à l'extérieur des zones à forte circulation et utilise des caméras équipées de reconnaissance faciale pour scanner les visages des passants et confronter les personnes considérées comme correspondant à celles figurant sur une liste de surveillance. Français Bien que la ville affirme que le programme n'a jamais conduit à une fausse arrestation depuis son lancement en 2016, Big Brother Watch, un groupe de défense des libertés civiles basé à Londres, soutient que la pratique traite tout le monde comme un suspect potentiel, faisant peser sur les personnes faussement appariées la charge de prouver leur innocence. Alertes en temps réel ---------------- Le programme de surveillance de la Nouvelle-Orléans s'appuyait sur Project NOLA, un groupe privé dirigé par un ancien policier qui a assemblé un réseau de caméras à l'extérieur des commerces dans des zones à forte criminalité, notamment le quartier français de la ville. Project NOLA a configuré les caméras pour rechercher des personnes figurant sur une liste de suspects recherchés. Lorsque le logiciel déterminait qu'il avait trouvé une correspondance, il envoyait des alertes en temps réel via une application que certains agents avaient installée sur leurs téléphones portables. Les agents effectuaient ensuite rapidement des recherches sur le sujet, se rendaient sur place et tentaient de procéder à des arrestations. La police n'a pas configuré le programme et ne peut pas rechercher directement des personnes spécifiques, ni ajouter ou supprimer des personnes de la liste de surveillance du système de caméras, selon Bryan Lagarde, fondateur de Project NOLA. Cet arrangement ne ressemble guère au processus décrit dans l'ordonnance du conseil municipal d'il y a trois ans, qui prévoyait que les détectives n'utiliseraient les logiciels de reconnaissance faciale que dans le cadre d'enquêtes méthodiques et rigoureusement surveillées. Chaque fois que la police souhaite scanner un visage, l'ordonnance exige qu'elle envoie une image fixe à un « centre de fusion » géré par l'État à Baton Rouge, où divers services de police collaborent aux enquêtes. Là, des enquêteurs formés à l'identification des visages utilisent un logiciel d'IA pour comparer l'image à une base de données de photos et ne renvoient une « correspondance » que si au moins deux enquêteurs concordent. Français Les enquêteurs se sont plaints que le processus prend trop de temps et ne donne souvent aucune correspondance, selon un audit mandaté par le gouvernement fédéral du département en 2023. Il ne s'est avéré utile que dans une seule affaire ayant conduit à une arrestation depuis octobre 2022, selon les documents fournis par la police au conseil municipal. En revanche, le Projet NOLA affirme que ses caméras de reconnaissance faciale ont joué un rôle dans au moins 34 arrestations depuis leur activation début 2023, selon les publications Facebook du groupe --- un nombre qui ne peut être vérifié car la ville ne suit pas ces données et l'association à but non lucratif ne publie pas de compte rendu complet de ses affaires. Sans liste des cas, il est impossible de savoir si des personnes ont été mal identifiées ou quelles mesures supplémentaires les agents ont prises pour confirmer leur implication dans les crimes. Kirkpatrick a déclaré que son service avait lancé une enquête officielle sur le nombre d'agents ayant utilisé les alertes en temps réel, le nombre de personnes arrêtées suite à ces alertes, la fréquence à laquelle les correspondances semblaient erronées et la question de savoir si ces utilisations enfreignaient l'arrêté municipal. « Nous allons faire ce que l'arrêté et les politiques prévoient, et si nous constatons que nous ne respectons pas ces règles, nous les arrêterons, les corrigerons et resterons dans les limites de l'arrêté », a-t-elle déclaré. Il n'existe aucune réglementation fédérale concernant l'utilisation de l'IA par les forces de l'ordre locales. Quatre États – le Maryland, le Montana, le Vermont et la Virginie – ainsi qu'au moins 19 villes dans neuf autres États interdisent explicitement à leur propre police d'utiliser la reconnaissance faciale pour l'identification ou le suivi en temps réel, automatisé ou en temps réel, selon la Security Industry Association, un groupement professionnel. Les législateurs de ces endroits ont exprimé leurs inquiétudes lors de réunions publiques quant au fait que la technologie pourrait porter atteinte aux droits constitutionnels des citoyens ou inciter la police à commettre des erreurs lorsqu'elle arrête précipitamment un suspect potentiel avant de prendre des mesures pour confirmer son lien avec le crime, car de nombreuses personnes se ressemblent. Au moins huit Américains ont été arrêtés à tort grâce à la reconnaissance faciale, ont rapporté le Washington Post et d'autres sources. Le programme de surveillance non autorisé de la Nouvelle-Orléans souligne la difficulté de réglementer une technologie largement disponible, à une époque où certains policiers considèrent l'IA comme un outil précieux de lutte contre la criminalité. Même dans certaines villes où la reconnaissance faciale est interdite, notamment à Austin et à San Francisco, des agents ont contourné l'interdiction en demandant discrètement à des agents des villes voisines d'effectuer des recherches par IA pour leur compte, a rapporté le Washington Post l'année dernière. Le taux de criminalité violente à La Nouvelle-Orléans, comme dans une grande partie du pays, est à des niveaux historiquement bas, selon Jeff Asher, consultant qui suit les statistiques de la criminalité dans la région. Mais les responsables municipaux ont profité des récents cas de crimes violents pour affirmer que la police a besoin des outils les plus puissants à sa disposition. Le mois dernier, un rapport indépendant commandé après l'attentat du Nouvel An qui a fait 14 morts sur Bourbon Street a révélé que la police de La Nouvelle-Orléans manquait de personnel et de préparation. Ce rapport, supervisé par l'ancien commissaire de police de New York, William Bratton, recommandait à La Nouvelle-Orléans d'envisager l'adoption de plusieurs nouveaux outils, notamment des drones, des systèmes de prédiction des menaces et la modernisation du centre de lutte contre la criminalité en temps réel de la ville, mais ne recommandait pas l'ajout d'une quelconque forme de reconnaissance faciale. Kirkpatrick, le plus haut responsable de la police de la ville, et Jason Williams, son procureur général, ont tous deux déclaré être en discussion avec le conseil municipal pour réviser l'ordonnance sur la reconnaissance faciale. Kirkpatrick se dit favorable à l'idée que la ville gère légalement son propre programme de reconnaissance faciale en direct, sans l'implication du Projet NOLA et avec certaines limites, comme l'interdiction de l'utilisation de cette technologie pour identifier les personnes lors d'une manifestation. « Peut-on avoir accès à la technologie sans violer et surveiller ? » a-t-elle demandé. « Oui, c'est possible. Et c'est ce que nous défendons. » 5 000 caméras ------------- Peu de gens ont autant de visibilité sur la vie quotidienne des habitants de La Nouvelle-Orléans que Lagarde, ancien agent de patrouille et enquêteur qui a lancé sa propre entreprise de vidéosurveillance à la fin des années 1990 avant de lancer le Projet NOLA en 2009. Financé par des dons et dépendant des entreprises qui acceptent d'héberger les caméras dans leurs bâtiments ou de connecter les caméras de surveillance existantes à son réseau centralisé, Lagarde a déclaré que le Projet NOLA a accès à 5 000 caméras de surveillance criminelle à La Nouvelle-Orléans, dont la plupart ne sont pas équipées de reconnaissance faciale. Les caméras sont toutes connectées à une seule salle de contrôle dans un espace de bureaux loué sur le campus de l'Université de La Nouvelle-Orléans, a déclaré Lagarde lors d'une interview sur place. Certains flux de caméras sont également surveillés par les forces de l'ordre fédérales, étatiques et locales, a-t-il ajouté. Le Projet NOLA a généré un chiffre d'affaires de 806 724 $ en 2023, selon les déclarations fiscales. Une grande partie de cette somme provient des « frais de cloud » facturés par le groupe aux collectivités locales situées hors de La Nouvelle-Orléans – de Monticello, en Floride, à Frederick, dans le Colorado – qui installent des caméras du Projet NOLA dans leurs villes et comptent sur l'aide de Lagarde pour surveiller la criminalité. Il a expérimenté la reconnaissance faciale dans le Mississippi, a-t-il déclaré, mais sa « première expérience de reconnaissance faciale à l'échelle d'une ville est à La Nouvelle-Orléans ». La Nouvelle-Orléans ne verse pas de fonds au Projet NOLA. Pendant plus de dix ans, Lagarde a utilisé des caméras standard à l'extérieur des commerces pour surveiller la criminalité et a fourni des clips de surveillance aux policiers pour leurs enquêtes. Les caméras de Lagarde sont devenues si répandues que la police a commencé à l'appeler lorsqu'elle a repéré une caméra du Projet NOLA à proximité d'une scène de crime sur laquelle elle enquêtait, selon des rapports d'incidents de la police, des entretiens avec la police et des courriels obtenus grâce à une demande d'accès aux archives publiques. Lagarde a commencé à ajouter des caméras de reconnaissance faciale à son réseau début 2023, grâce à un legs de 87 000 dollars d'une habitante de la région. Lagarde a utilisé cet argent pour acheter un lot de caméras capables de détecter des personnes à environ 210 mètres de distance et de les associer automatiquement aux traits du visage, aux caractéristiques physiques et même aux vêtements des personnes figurant dans une base de données de noms et de visages qu'il a compilée. Lagarde explique avoir construit sa base de données en partie à partir de photos d'identité judiciaire des forces de l'ordre locales. Celle-ci comprend plus de 30 000 « criminels locaux présumés et connus », a écrit Project NOLA sur Facebook en 2023. Lagarde peut identifier rapidement toute personne figurant dans la base de données dès qu'elle se présente devant une caméra Project NOLA, a-t-il déclaré. Il peut également saisir un nom ou une image pour afficher tous les clips vidéo de cette personne capturés par le Projet NOLA au cours des 30 derniers jours. Après cela, Lagarde précise que les vidéos sont automatiquement supprimées « pour des raisons de confidentialité ». Le Projet NOLA a trouvé des partenaires enthousiastes parmi les commerçants locaux, dont certains étaient excédés par ce qu'ils considéraient comme l'incapacité de la ville à lutter contre la criminalité dans le Quartier français – moteur de son économie touristique, mais aussi plaque tournante pour les trafiquants de drogue et les voleurs qui s'en prennent aux touristes, a déclaré Tim Blake, propriétaire du Three Legged Dog, un bar qui a été l'un des premiers à accueillir l'une des caméras de reconnaissance faciale du Projet NOLA. « Le Projet NOLA n'existerait pas si le gouvernement avait fait son travail », a déclaré Blake. Bien que Lagarde apparaisse aux côtés des responsables municipaux lors de conférences de presse annonçant des arrestations importantes, il n'est ni un employé ni un sous-traitant du gouvernement de La Nouvelle-Orléans. Par conséquent, Lagarde et l'organisation ne sont pas tenues de partager des informations sur les correspondances de reconnaissance faciale qui pourraient constituer des preuves cruciales au tribunal, a déclaré Danny Engelberg, avocat commis d'office en chef de La Nouvelle-Orléans. « Lorsqu'on privatise cette entité, tous les garde-fous censés protéger les forces de l'ordre et les poursuites judiciaires disparaissent, et nous n'avons plus les outils nécessaires pour faire ce que nous faisons, c'est-à-dire demander des comptes aux personnes », a-t-il déclaré. Lagarde affirme s'efforcer d'être transparent en publiant sur Facebook des informations sur certaines de ses correspondances réussies, tout en reconnaissant n'en publier qu'une petite partie et en affirmant qu'il serait « irresponsable » de publier des informations sur des enquêtes en cours. Le projet NOLA, a-t-il ajouté, est responsable devant les entreprises et les particuliers qui hébergent les caméras et choisissent volontairement de partager leurs flux avec le réseau. « C'est un système qui peut être désactivé aussi facilement qu'il a été activé », a-t-il déclaré. « Si jamais nous devions trahir la confiance du public, les gens pourraient individuellement désactiver ces caméras. » Appareils interdits -------------- Lagarde a refusé de dire qui fabrique l'équipement qu'il utilise, affirmant qu'il ne voulait soutenir aucune entreprise. Plusieurs caméras du Projet NOLA dans le Quartier français sont quasiment identiques à celles du site web de Dahua, un fabricant chinois de caméras, et les codes produit estampillés au dos de ces appareils correspondent à une caméra identique vendue par ENS Security, un détaillant d'équipements basé à Plainview, dans l'État de New York, qui a déjà reconnu revendu des caméras Dahua. Le site web du Projet NOLA contient également un lien pour télécharger une application permettant aux policiers de visualiser et de gérer les images. Cette application, appelée DSS, est développée par Dahua. En 2018, le Congrès a interdit aux agences fédérales d'utiliser les produits ou services de Dahua et d'une liste d'autres entreprises chinoises, invoquant des inquiétudes quant à l'utilisation de ces équipements par le gouvernement du président Xi Jinping pour espionner les Américains. Depuis 2020, la loi interdit à toute agence ou entrepreneur recevant des fonds fédéraux d'utiliser ces fonds pour acheter ces produits interdits. Un porte-parole de Dahua a refusé de commenter les caméras de La Nouvelle-Orléans et a déclaré que l'entreprise avait cessé de vendre des équipements aux États-Unis l'année dernière. Le département de police de La Nouvelle-Orléans a reçu des dizaines de millions de dollars du gouvernement fédéral ces dernières années et a confirmé que certains agents avaient installé cette application DSS sur des téléphones portables et des postes de travail de police. Kirkpatrick a déclaré ignorer l'identité du fabricant de l'application ou des caméras, mais qu'elle enquêterait. Lagarde a déclaré que le projet NOLA utilise « des serveurs de marque américaine pour exploiter notre programme de caméras ». Certains responsables municipaux affirment que la police n'enfreint pas l'ordonnance municipale sur la reconnaissance faciale, car elle ne possède pas les caméras et n'a pas de contrat avec Lagarde ; elle reçoit simplement des informations d'un groupe extérieur qui effectue lui-même des reconnaissances faciales. « Si Bryan Lagarde appelle un policier et dit "Je pense qu'un crime est en train de se produire au 1800 Bienville Block", c'est comme si Mlle Johnson regardait par sa fenêtre et disait "Je pense qu'un crime est en train de se produire au 1850 Bienville" », a déclaré Williams, procureur de la paroisse d'Orléans, lors d'une interview. Mais dans de nombreux cas, la police s'est adressée à Lagarde pour demander des images ou de l'aide pour identifier et localiser des suspects, selon les rapports de police, les publications du Projet NOLA sur les réseaux sociaux et les courriels internes de la police. Suivi d'un suspect ------------------ Dans un cas l'année dernière, un détective de police enquêtant sur un téléphone portable volé s'est appuyé sur le Projet NOLA pour identifier l'auteur et le retrouver à l'aide d'alertes de reconnaissance faciale, selon les comptes rendus de l'enquête tirés en partie du rapport d'incident de la police et en partie de la publication Facebook du Projet NOLA [https://www.facebook.com/ProjectNOLA/posts/pfbid0cRAdFaWWAhJ1RP2QMuHURPevBj5c4BxPpPuZCBHQoUWoTsjkExBdVUyybC2TvTknl?rdid=OuuVcbjT5D6WN7Fq# ). Le détective a contacté Lagarde « pour aider à localiser l'auteur sur les caméras du Projet NOLA », selon le rapport de police, en fournissant des images fixes prises à partir des images des caméras de surveillance de la ville. Lagarde a utilisé l'outil de reconnaissance de vêtements du Projet NOLA pour trouver des séquences vidéo antérieures d'un suspect. Grâce aux nouvelles images améliorées de son visage, le Projet NOLA a utilisé la reconnaissance faciale pour découvrir son identité potentielle et la communiquer à l'inspecteur. Ce dernier a relevé ce nom et a trouvé sur les réseaux sociaux des photos d'un homme dont l'apparence et les tatouages correspondaient à ceux du voleur de téléphone. La police a obtenu un mandat d'arrêt contre lui. Lagarde a ajouté ce nom et ce visage à la liste de surveillance du Projet NOLA, et quelques jours plus tard, des caméras l'ont automatiquement identifié dans le Quartier français et ont alerté la police, qui l'a retrouvé et arrêté. L'homme a été inculpé de vol, mais a plaidé coupable de vol, une infraction moins grave, selon les archives judiciaires. Le rapport de police mentionnait que Lagarde avait contribué à l'identification du suspect, mais ne précisait pas s'il avait utilisé la reconnaissance faciale pour ce faire, ni s'il avait utilisé la reconnaissance faciale en direct et des alertes automatiques pour le surveiller et le localiser. David Barnes, sergent de police de La Nouvelle-Orléans chargé de la recherche et de la planification juridiques, a déclaré que les agents étaient formés à toujours rechercher une cause probable avant de procéder à une arrestation. Il a ajouté que Lagarde exagérait parfois, dans ses publications Facebook, le rôle joué par sa technologie dans certaines affaires. Il a déclaré que l'enquêteur enquêtant sur l'affaire du vol de téléphone demandait uniquement à Lagarde de trouver des vidéos du suspect, et non sa localisation. Par un matin pluvieux de mai, devant le Three Legged Dog, une caméra du Projet NOLA pivotait, faisant clignoter des lumières rouges et bleues, et se balançant latéralement, suivant des voitures et des personnes grâce à un programme automatisé. La caméra ne contacte plus la police via une application, à la demande de Kirkpatrick. « Comme vous et tout le monde, je ne veux perdre aucune affaire de criminels violents pour violation du règlement ou de nos ordonnances », a déclaré Kirkpatrick dans un courriel adressé à Lagarde le mois dernier. Mais les alertes continuent d'être transmises au personnel du Projet NOLA, qui, selon Lagarde, transmet la localisation des suspects recherchés à la police par téléphone, SMS et courriels.