Problème 2733

La reconnaissance faciale est devenue un outil pour les enquêtes policières dès 2001 – et en 2016, [une image d'un Américain sur deux](https: //www.perpetuallineup.org/) figuraient dans une base de données de reconnaissance faciale des forces de l'ordre.

L'utilisation de la reconnaissance faciale a grimpé en flèche malgré des études montrant qu'il est plus susceptible de mal identifier les Noirs et les Bruns que les Blancs, et les incidents où cela a conduit à de fausses arrestations.

Un nouveau rapport de le Georgetown Center for Privacy Technology soutient que la reconnaissance faciale présente de graves défauts qui la rendent peu fiable pour une utilisation dans les enquêtes, contrairement aux affirmations des partisans selon lesquelles la reconnaissance faciale supprime les préjugés humains du processus d'identification des suspects.

Grid s'est entretenu avec l'auteur du rapport, Clare Garvie, conseillère en formation et en ressources à l'Association nationale des avocats de la défense pénale, au sujet de ses conclusions. Cette conversation a été modifiée pour plus de longueur et de clarté.

Grid : Quelle a été la chose la plus surprenante que vous ayez trouvée en travaillant sur ce rapport ?

** Clare Garvie : ** La chose la plus surprenante pour moi dans la recherche de cet article était que la reconnaissance faciale a été utilisée par la police comme cause probable pour procéder à des arrestations. Et la plupart, sinon toutes les politiques que j'ai lues, stipulent très clairement que la reconnaissance faciale n'est qu'une piste d'enquête et que des mesures d'enquête supplémentaires doivent être prises avant qu'une arrestation ne soit effectuée. Et pourtant, nous avons trouvé dans une demi-douzaine de cas que nous savons où ce n'est pas ce qui s'est passé – quelqu'un a été arrêté et la seule chose qui les liait au crime était une recherche de reconnaissance faciale qui a révélé leur visage.

G : Quelles sont les implications humaines de cela ?

CG : Au pire, cela pourrait signifier que quelqu'un a été mal identifié et arrêté pour un crime qu'il n'a pas commis. Nous savons que cela s'est produit dans trois cas - [Robert Williams et Michel Oliver dans le Michigan et Nijeer Parks dans le New Jersey] (https://www.wired.com/story/wrongful-arrests-ai-derailed-3-mens-lives /). Ce que nous ne savons pas, c'est dans combien d'autres cas cela s'est produit, et c'est parce que la reconnaissance faciale et les fouilles effectuées par la police ne sont généralement pas divulguées à la défense [avocat] dans le cadre de la divulgation régulière ou des preuves Brady \ [d'éléments favorables à l'accusé], ou des éléments de preuve qui sont importants pour la défense et qui plaident en faveur d'un procès équitable.

G : Y a-t-il une raison à cela ?

CG : La raison en est que sur le papier, la reconnaissance faciale est considérée comme une piste d'enquête uniquement et qu'elle est considérée comme fiable. On considère qu'il n'est pas important que les forces de l'ordre le libèrent. Et ce que cet article et moi soutiendrions, c'est que ce n'est pas vrai. Il y a tellement de possibilités d'erreurs, de biais cognitifs, que quelque chose tourne mal dans le processus de recherche, de sorte que la divulgation est nécessaire pour protéger le droit de l'accusé à un procès équitable.

G : À quoi ressemble le processus d'examen de cette technologie lorsqu'il s'agit de déterminer sa précision ?

CG : La reconnaissance faciale est souvent considérée comme une technologie, un algorithme. Et de nombreuses recherches ont été effectuées sur la précision ou l'imprécision de ces algorithmes. C'est là que l'Institut national des normes et de la technologie a joué un rôle très important. Avec leurs tests de fournisseur de reconnaissance faciale en cours, ils ont fourni un outil très, très précieux aux chercheurs, aux services de police et au public pour comprendre les forces et les limites des algorithmes de reconnaissance faciale.

Cependant, l'algorithme n'est qu'un élément d'un processus de recherche en plusieurs étapes, qui comprend des degrés importants de jugement humain, de psychologie et de science médico-légale. Et la littérature dans ces domaines nous dit que les humains ne sont pas naturellement doués pour identifier les gens par leur visage – en particulier les visages inconnus. Le degré de biais cognitif présent dans une recherche de reconnaissance faciale donnée soulève une question sérieuse sur le risque d'erreur d'identification et sur la fréquence à laquelle les recherches, qui impliquent à la fois l'homme et la machine, peuvent se tromper. Ce que fait ce rapport, c'est qu'il encadre la reconnaissance faciale, non seulement comme une technologie, mais comme une méthode d'enquête médico-légale et l'analyse dans cette perspective, pour faire valoir qu'en tant qu'outil d'enquête médico-légale, il n'a pas été établi comme un outil d'enquête médico-légal solide, empiriquement méthode valide. Et par conséquent, on s'est fié à lui comme s'il avait cette fiabilité qu'il n'a tout simplement pas.

G : Les partisans de la technologie diraient que cet outil supprime cependant ce biais humain dans le processus de prise de décision. De quelles manières la psychologie humaine interagit-elle avec cette technologie ?

CG : Historiquement, "l'humain dans la boucle", si vous voulez, a été considéré comme un contrôle précieux contre toute erreur qu'un algorithme de reconnaissance faciale pourrait commettre. Mais cela ne tient pas compte du fait que les humains font aussi des erreurs et que ces erreurs peuvent s'aggraver. Il ignore également le fait que dans toute recherche de reconnaissance faciale donnée, il n'y aura aucune protection contre les biais cognitifs tels que la motivation pour trouver une correspondance ou des informations externes telles que les antécédents d'arrestation criminelle d'un individu, ce qui peut entacher l'examen biométrique, si vous voulez, comme qu'une détermination d'identité n'est pas basée simplement sur les similitudes entre deux visages, mais elle est basée sur le fait que quelqu'un a déjà été arrêté pour un crime similaire, si un analyste pense que la personne a l'air coupable, ou si l'analyste est motivé pour trouver une correspondance.

L'une des recherches vraiment intéressantes qui sont explorées en ce moment est la relation entre les types d'erreurs commises par les algorithmes et les types d'erreurs commises par les humains - ils sont à peu près les mêmes. Les algorithmes sont plus susceptibles de faire une identification erronée d'une personne appartenant à la même cohorte démographique que la personne recherchée. Ainsi sont les humains; nous sommes beaucoup plus susceptibles de confondre quelqu'un avec quelqu'un d'autre qui est de la même race, du même sexe et du même âge que la personne que nous recherchons ou cherchons à identifier. Les algorithmes font la même chose, ce qui signifie que puisque l'humain dans la boucle va faire les mêmes types d'erreurs, ce n'est pas une étape utile pour corriger les erreurs que l'algorithme peut faire.

G : Quel était le raisonnement pour produire ce rapport maintenant ?

CG : En réponse aux rapports publiés par le Center for Privacy and Technology sur la reconnaissance faciale, de nombreux avocats de la défense nous ont contactés en disant : "Hé, je pense que j'ai la reconnaissance faciale dans mon cas, mais je ne Je ne sais pas comment l'argumenter » ou « Comment savoir si la reconnaissance faciale a été utilisée dans mon cas ? » C'était parce que, premièrement, il était utilisé dans de nombreux cas et est toujours utilisé dans de nombreux cas et deuxièmement, il n'a pas été divulgué à la défense systématiquement. Pourtant, les avocats de la défense lisaient à juste titre ces rapports et devinaient qu'ils pourraient contester l'identification de leur client comme principal suspect, en utilisant cette technologie.

Les avocats de la défense ont commencé à signaler cela comme un problème potentiel dans leurs affaires et à demander : « Que pourraient-ils faire à ce sujet ? Quelle était la relation entre la reconnaissance faciale et le droit à une procédure régulière ? »

Il m'est apparu clairement qu'il y avait beaucoup de littérature sur la réponse à cette question, soit avec d'autres sciences médico-légales comme les empreintes digitales latentes, soit le génotypage probabiliste, soit la microscopie capillaire. Il examinait les limites de ces sciences médico-légales, l'informatique, les algorithmes de reconnaissance faciale et la psychologie cognitive, examinant les limites de l'identification humaine. Mais personne n'avait rassemblé tous les éléments et examiné comment les recherches de reconnaissance faciale sont exécutées dans des conditions opérationnelles et dans quelle mesure les psychologues cognitifs, les informaticiens et les médecins légistes découvraient les taux d'exactitude et les taux d'erreur d'identification, dans quelle mesure nous trouverions ces problèmes dans la façon dont les recherches de reconnaissance faciale étaient menées par les forces de l'ordre.

G : Selon vous, quelle est l'ampleur de ce problème, en particulier en ce qui concerne la procédure régulière ?

CG : Je pense que c'est un énorme problème. La reconnaissance faciale a été utilisée par les enquêtes policières depuis 2001. Cela fait 100 000 cas, peut-être plus, mais on ne sait tout simplement pas, car cette information n'est pas divulguée à la défense. Je dirais que cela signifie qu'il y a 21 ans et plus de violations de la procédure régulière dans les livres dans de nombreuses juridictions à travers les États-Unis. C'est une crise constitutionnelle. C'est une crise pour d'abord et avant tout les personnes qui sont identifiées ou mal identifiées à l'aide de la technologie, mais c'est aussi une crise pour les tribunaux, qui ne veulent certainement pas perpétuer ou ne pas attraper les violations de Brady du droit à une procédure régulière. Que se passe-t-il dans une juridiction lorsqu'un tribunal dit oui, la reconnaissance faciale doit être divulguée à la défense ? Qu'est-ce que cela signifie pour les milliers d'autres affaires qui ont été poursuivies dans cette juridiction où la défense n'a jamais eu la possibilité de contester la reconnaissance faciale ? Je considère donc cela comme une procédure régulière et une question constitutionnelle très importantes pour le pays.

G : Quels sont les différents outils dont disposent les avocats pour résoudre ce problème ?

CG : Le public principal de ce document est les avocats de la défense, mais plus largement, les juges et les procureurs, afin de définir la reconnaissance faciale non seulement comme un problème de technologie ou de police, mais aussi comme une science médico-légale et un problème de preuves. Avant tout, les avocats de la défense doivent se sentir habilités à demander une découverte sur la reconnaissance faciale. Ils devraient avoir le droit d'être informés de la manière dont leur client a été identifié comme le principal suspect dans une affaire. Suite à cela, il peut être approprié de plaider en faveur de la suppression pour faire valoir que la fouille n'était pas fiable, qu'elle était indûment suggestive, ou d'autres lacunes dans la fouille, de sorte que l'identification de leur client comme principal suspect devrait être supprimée.

Un autre public pour cet article est la communauté de la recherche. L'article ne répond pas définitivement à la question fondamentale posée, à savoir, quelle est la fiabilité d'un prospect généré par une recherche de reconnaissance faciale ? Ce qu'il fait, c'est qu'il fournit, espérons-le, une feuille de route aux chercheurs et aux utilisateurs de la reconnaissance faciale pour examiner de près les voies par lesquelles les erreurs peuvent se glisser dans une recherche de reconnaissance faciale et pour commencer à réfléchir à ce que fait une étude qui générerait une métrique de fiabilité pour ces recherches ressemblent? Est-il même possible de créer une telle étude? Ou devons-nous mettre en place des paramètres tels que l'élimination [de l'utilisation de Photoshop dans les recherches de reconnaissance faciale] (https://www.law.georgetown.edu/privacy-technology-center/publications/garbage-in-garbage-out- face-recognition-on-flawed-data/) [comme l'a fait le département de police de New York] avant que nous puissions réellement commencer à comprendre à quel point cette méthode d'enquête médico-légale est fiable ?

G : Quelles sont vos préoccupations dans ce domaine pour aller de l'avant ?

CG : Ce qui m'empêche de dormir la nuit, c'est que je crois que nous sommes dans quelques mois à quelques années avant que la reconnaissance faciale ne soit introduite comme preuve d'identité devant les tribunaux. Pour moi, c'est le pire scénario. La reconnaissance faciale n'est pas nécessairement un moyen fiable d'identifier quelqu'un. Et dès qu'un tribunal l'accepte comme preuve, cela signifie que nous avons perdu toute capacité à affirmer qu'il n'est pas fiable, car peu importe ce que dit la science, les tribunaux suivront le précédent de cas - c'est ce qu'on appelle une sorte de certification judiciaire de mauvais science.

Je suis très inquiet à ce sujet, car je pense qu'une fois que la loi le certifie, il devient d'autant plus difficile de revenir en arrière dans notre analyse et cela devient d'autant plus dangereux que des personnes seront arrêtées à tort, accepteront des accords de plaidoyer, même si ils sont innocents ou condamnés à tort pour des crimes, car ils ont été mal identifiés à l'aide de la reconnaissance faciale.