Incidents associés
Un soir de fin novembre, l'avocate du New Jersey, Kelly Conlon, accompagnait la troupe d'éclaireuses de sa fille pour assister à un spectacle des Rockettes au Radio City Music Hall.
Peu de temps après son arrivée sur le site historique de New York, elle a été écartée par la sécurité et invitée à confirmer son identité. Ils lui ont dit que leur système de reconnaissance faciale savait déjà qui elle était et, plus important encore, où elle travaillait, [Conlon a dit The New York Times](https://www.nytimes.com/2022/12/22/nyregion/madison- square-garden-facial-recognition.html).
Elle s'est vu refuser l'entrée.
Le problème était que son cabinet d'avocats était impliqué dans un litige contre la société mère du Radio City Music Hall, Madison Square Garden Entertainment (MSGE). En conséquence, Conlon - ainsi que des avocats d'autres cabinets poursuivant des poursuites contre MSGE - avaient été placés sur une "liste d'exclusion" dans une série de lieux populaires appartenant au groupe.
L'histoire est devenue un point d'éclair dans le débat autour de la technologie de reconnaissance faciale. Alors que les partisans disent qu'il a la capacité de garder les gens en sécurité, les critiques rétorquent qu'il y a peu de soutien à cette idée et avertissent qu'une utilisation incontrôlée de la technologie pourrait avoir des conséquences indicibles.
"Les experts pensent que la reconnaissance faciale est si particulièrement dangereuse, et s'apparente davantage aux armes nucléaires ou biologiques, où elle est si profondément nocive, qu'elle a un énorme potentiel de préjudice à nos droits humains fondamentaux, [et] à la sécurité des personnes ", déclare Evan Greer, directeur de Fight for the Future, une organisation de défense des droits numériques.
Comment fonctionne un logiciel de reconnaissance faciale ?
La reconnaissance faciale est une forme de surveillance biométrique qui fonctionne essentiellement en comparant deux images l'une à l'autre, explique Greer.
"Vous disposez d'une base de données de cibles, puis vous pouvez utiliser un algorithme pour passer au crible des séquences ou des images fixes", ont-ils déclaré. "Ou dans le cas de [Conlon], ils faisaient de la reconnaissance faciale en temps réel, où les caméras de surveillance de la salle étaient constamment analysées par un logiciel à la recherche de personnes spécifiques."
Il ne faut pas grand-chose pour ajouter une nouvelle personne dans le système, a déclaré Greer. Prendre une photo d'un site Web d'entreprise, une photo d'une base de données d'arrestations ou même une capture d'écran d'un profil de réseau social peut suffire à l'algorithme pour cibler puis tenter d'identifier une personne.
Interrogé sur le cas de Conlon, MSGE a déclaré que sa politique était de ne pas autoriser les avocats des cabinets à poursuivre des litiges actifs, que l'avocat soit ou non impliqué dans l'affaire.
"Bien que nous comprenions que cette politique est décevante pour certains, nous ne pouvons ignorer le fait que les litiges créent un environnement intrinsèquement contradictoire", a déclaré MSGE dans un communiqué. "Tous les avocats concernés ont été informés de la politique. Nous continuons à préciser que les avocats concernés seront les bienvenus dans nos locaux une fois le litige résolu."
Actuellement, la technologie de reconnaissance faciale est légale à New York. Il n'y a pas de loi fédérale qui traite spécifiquement de la reconnaissance faciale, laissant certains endroits comme San Francisco, Boston, Portland et l'État de l'Illinois adopter divers types de réglementations ou d'interdictions de la technologie au cours des dernières années.
Cette lente exploration de la réglementation disparate au niveau de l'État inquiète les experts en matière de confidentialité.
D'une part, c'est la simplicité d'ajouter des cibles à une base de données qui rend cette technologie si potentiellement dangereuse pour la vie privée des utilisateurs, explique Albert Fox Cahn, directeur exécutif du Surveillance Technology Oversight Project (STOP) basé à New York. Ensuite, il y a le fait que les données biométriques sont propres à vos fonctionnalités et permanentes.
"Vous pouvez changer votre nom, vous pouvez changer votre numéro de sécurité sociale, vous pouvez changer presque n'importe quoi, mais vous ne pouvez pas changer votre visage", a déclaré Cahn. "Donc, si vos données biométriques sont compromises une fois, elles sont compromises à vie."
On s'inquiète également de savoir qui pourrait potentiellement souffrir le plus de la technologie. Bien qu'il y ait des signes sur les sites MSGE indiquant que la reconnaissance faciale est utilisée à des fins de sécurité, les critiques disent qu'il n'y a pas eu beaucoup de preuves que la technologie soutient cet objectif.
Au contraire, les défauts inhérents au logiciel exacerbent la discrimination existante envers les groupes minoritaires, les exposant à un risque plus élevé d'être faussement accusés de crimes, déclare Hannah Bloch-Wehba, professeure de droit associée à Texas A&M, spécialisée dans la confidentialité, la technologie et la démocratie. gouvernance.
"La technologie de reconnaissance faciale a tendance à mal identifier les personnes de couleur, et en particulier les femmes de couleur", a-t-elle déclaré. "Et je pouvais donc voir une sérieuse inquiétude quant au type d'implications raciales et sexistes de ce type de technologie utilisée pour filtrer les gens."
Certaines versions de la technologie se sont révélées moins aptes à différencier les personnes aux teints plus foncés dans le passé. Et Greer dit que la surveillance traditionnelle des forces de l'ordre a également conduit historiquement à une surveillance excessive des communautés de couleur. Ils craignent que la combinaison des deux ne conduise à un effet amplifié.
"En raison de l'héritage du racisme au sein de la police aux États-Unis, les bases de données d'arrestations sont remplies de manière disproportionnée de visages de personnes noires et brunes, et en particulier d'hommes noirs", a-t-elle déclaré. "Si vous êtes arrêté et qu'ils scannent votre visage avec la reconnaissance faciale, vous êtes simplement plus susceptible d'obtenir un match si vous êtes un homme noir que si vous êtes un homme blanc à cause de ce genre d'héritage raciste qui est maintenant exacerbée en utilisant cette technologie."
Au cours des dernières années, un certain nombre d'hommes noirs ont été faussement identifiés comme suspects dans des enquêtes criminelles utilisant un logiciel de reconnaissance faciale, dans [certains cas entraînant des arrestations et des accusations injustifiées] (https://www.wired.com/story/ arrestations injustifiées-ai-déraillé-3-mens-lives/).
À Détroit, un adolescent noir a été expulsé d'une patinoire en 2021 après que la technologie de reconnaissance faciale l'ait identifiée par erreur comme quelqu'un qui s'était déjà battu dans la propriété.
"Nous pouvons entendre ces histoires très médiatisées sur les avocats", déclare Greer, "Mais en fin de compte, nous savons que cette technologie est utilisée de manière disproportionnée sur les communautés marginalisées et nuit de manière disproportionnée aux communautés marginalisées."
Une question de sécurité
Dans une déclaration à NPR, MSGE a déclaré que la technologie de reconnaissance faciale était largement utilisée dans tout le pays, y compris dans l'industrie du sport et du divertissement, ainsi que dans les magasins, les casinos et les aéroports "pour protéger la sécurité des personnes qui visitent et travaillent dans ces endroits".
"Nos sites sont des destinations mondiales et plusieurs se trouvent sur les principaux centres de transit au cœur de New York", a-t-il déclaré. "Nous avons toujours indiqué clairement à nos clients et au public que nous utilisons la reconnaissance faciale comme l'un de nos outils pour fournir un environnement sûr et sécurisé à nos clients et à nous-mêmes."
Pour des critiques comme Bloch-Wehba, l'idée de sécurité nécessite plus de nuances.
« Nous devons vous demander, de qui essayez-vous de protéger les [clients] ? » dit-elle. « Comment décidez-vous qui représente la menace ? Est-ce une décision prise par la direction du lieu ou est-ce une décision prise par le produit technologique ? Et qui contrôle cette décision ? »
Fox Cahn dit qu'un manque de réglementation pour la technologie de reconnaissance faciale à New York ne le laisse pas surpris par les récents titres qui ont attiré tant d'attention.
"New York a donné carte blanche aux entreprises pour utiliser la reconnaissance faciale dans leurs propriétés. Et ce n'était qu'une question de temps avant que nous voyions des propriétaires l'utiliser pour riposter de cette façon", a-t-il déclaré.
STOP, et d'autres groupes de défense comme Amnesty International et Immigrant Defense Project, travaillent à une législation qui limitera l'utilisation de ce logiciel dans les lieux publics à New York, et espèrent également une interdiction fédérale.
Le processus n'a pas été rapide, ce qui, selon Fox Cahn, a ajouté au défi de suivre l'évolution constante de la technologie.
Il a déclaré que de nombreux législateurs de la ville de New York étaient impatients de réglementer, mais qu'il pensait que certaines personnes au conseil municipal bloquaient les progrès. Il a attribué le manque de soutien aux inquiétudes que certains politiciens pourraient avoir concernant les affrontements avec le département de police de New York et les entreprises qui fournissent à la ville ce type de technologie.
Tiffany Cabán, membre du conseil municipal représentant le 22e arrondissement de New York, voit un lien clair entre la volonté politique et le maintien du statu quo.
"C'est en partie l'histoire séculaire de l'argent en politique", a-t-elle déclaré. "Si vous injectez de l'argent dans le système et que les gens se considèrent comme responsables, ou [voyez que] vos contributions sont responsables du fait qu'ils occupent leur poste ou sont en position de pouvoir, alors ce ne sera pas dans leur meilleur intérêts pour faire avancer une législation qui entrave la capacité de ces gens à faire les choses qu'ils veulent faire. »
Ancienne défenseure publique, Cabán se souvient qu'une technologie défectueuse était utilisée comme preuve dans des affaires pénales, et elle aimerait qu'elle soit interdite.
"Des efforts ont été déployés pour présenter et adopter une législation qui renforce la responsabilité de la police. Et je pense qu'une législation sur la reconnaissance faciale ferait partie intégrante de cela", a-t-elle déclaré. "J'espère donc au moins que nous verrons certaines de ces choses sortir et au cours de l'année prochaine que nous venons de commencer."
L'appel à la loi et à l'ordre est fort
Le fossé entre les politiciens new-yorkais commence au sommet, le maire Eric Adams préconisant la technologie dans une récente [_POLITICO_interview](https://www.politico.com/news/2022/12/24/eric-adams-policing- technologie-new-york-00075359).
Adams, un ancien capitaine du NYPD, a fait campagne sur une plate-forme de sécurité publique et considère la technologie de reconnaissance faciale comme un outil dans son arsenal.
"Cela me fait perdre la tête à quel point nous n'avons pas adopté la technologie, et c'est en partie parce que beaucoup de nos élus ont peur", a déclaré Adams. "Tout ce qu'ils pensent de la technologie, 'Oh, c'est un boogeyman. C'est Big Brother qui vous regarde.' Big Brother vous protège."
Le NYPD n'est pas non plus étranger à la technologie. [Une FAQ sur son site Web] (https://www.nyc.gov/site/nypd/about/about-nypd/equipment-tech/facial-recognition.page) indique qu'il utilise la reconnaissance faciale depuis 2011 pour identifier les suspects dans divers types de crimes.
"[Le NYPD] ne connaît aucun cas à New York dans lequel une personne a été faussement arrêtée sur la base d'une correspondance de reconnaissance faciale", lit-on dans la FAQ.
"Les garanties intégrées aux protocoles du NYPD pour la gestion de la reconnaissance faciale, qui fournissent un examen humain immédiat des résultats du logiciel, empêchent les erreurs d'identification."
Jake Parker est le directeur principal des relations gouvernementales de la Security Industry Association, une association professionnelle pour les entreprises de sécurité, et préconise l'utilisation de la technologie de reconnaissance faciale.
Au milieu des critiques concernant l'utilisation de la technologie par MSGE dans l'affaire Conlon, Parker a déclaré que son application démontrait également certains des avantages potentiels en matière de sécurité.
"Cela me fait penser au nombre de fois où une personne soumise à une ordonnance d'éloignement s'est présentée sans avertissement sur un lieu de travail et a commis des violences malgré la restriction. Et malheureusement, cela se produit tout le temps, et les femmes en sont souvent les victimes", a déclaré Parker.
Il pense que la technologie peut aider à sécuriser les espaces publics tels que les écoles, les aéroports, les salles de concert et d'autres lieux pouvant nécessiter une vérification d'identité, ainsi qu'à les rendre plus efficaces.
"Avec presque toutes les applications de reconnaissance faciale, cela augmente et aide un processus de contrôle humain à devenir plus rapide et plus précis", a-t-il déclaré.
"La position des leaders technologiques dans cet espace, nous pensons que toute technologie, y compris la reconnaissance faciale, ne devrait être utilisée qu'à des fins légales, éthiques et non discriminatoires."
Parker et le NYPD réfutent les affirmations selon lesquelles les personnes de couleur sont plus susceptibles de souffrir de ce logiciel.
Le NYPD affirme que les personnes identifiées par la technologie sont régulièrement examinées, ce qui signifie que "les correspondances logicielles erronées peuvent être rapidement corrigées par des observateurs humains".
Parker, quant à lui, cite des études du National Institute of Standards and Technology (NIST) du gouvernement fédéral.
"Vous regardez les données les plus récentes du programme d'évaluation du gouvernement fédéral, auquel la plupart des principaux fournisseurs ont participé, les 150 meilleures technologies sont précises à plus de 99% dans l'ensemble, et même pour les populations noires, blanches, masculines et féminines", Parker a dit.
Un porte-parole de l'équipe de reconnaissance faciale du NIST a déclaré que cette interprétation de leurs données semblait correcte, mais ils ont noté que les études avaient été réalisées en laboratoire, avec un éclairage dédié et des participants coopératifs.
"Sans cette coopération, nous nous attendrions, comme le montrent nos tests, à ce que la valeur de 99 % diminue", ont-ils déclaré dans un communiqué. "Les tests du NIST sur des sujets coopératifs ont montré une amélioration des performances de différence démographique. Des problèmes de capture d'image, tels que l'éclairage, peuvent toujours exister et avoir un impact sur les performances."
La possibilité d'une réglementation généralisée de la technologie de reconnaissance faciale est une priorité absolue pour les groupes d'activistes, non seulement parce qu'elle pourrait freiner des scénarios comme celui du Radio City Music Hall, mais parce qu'à qui elle s'applique pourrait avoir un impact considérable.
Bloch-Wehba affirme qu'il existe déjà plus de réglementations concernant la technologie de reconnaissance faciale à l'usage du gouvernement et des forces de l'ordre aux États-Unis qu'il n'y en a pour les entreprises privées.
"Si nous devions simplement réglementer l'utilisation de la reconnaissance faciale par la police, mais que toute agence ou entreprise privée peut l'utiliser comme bon lui semble, cela crée une dynamique dans laquelle nous avons permis au secteur privé de devenir, à certains égards, plus puissant que le gouvernement lui-même », a déclaré Bloch-Wehba.
La semaine dernière, les législateurs de New York se sont rassemblés devant le Madison Square Garden pour protester contre la politique de MSGE, affirmant qu'une autre personne avait été expulsée d'un lieu.
Pendant ce temps, un certain nombre de cabinets d'avocats poursuivent maintenant MSGE pour cette politique, les affaires étant en cours devant les tribunaux. Les résultats sont surveillés de près.
"Les décisions que nous prenons sur la technologie et les politiques qui la régissent vont façonner non seulement les 10 prochaines années, mais tout l'avenir de la civilisation humaine", déclare Greer. "Les enjeux sont vraiment si élevés."