Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 2731

Incidents associés

Incident 4406 Rapports
Louisiana Police Wrongfully Arrested Black Man Using False Face Match

Loading...
Un homme noir innocent emprisonné après que la reconnaissance faciale ait mal tourné : avocat
gizmodo.com · 2023

Randall Reid dit qu'il n'est même jamais allé en Louisiane, et encore moins volé 10 000 $ de sacs à main Chanel et Louis Vuitton là-bas. Cela n'a pas empêché la police d'arrêter le résident géorgien de 28 ans pour le vol, commis dans une banlieue de la Nouvelle-Orléans, sur la base d'une estimation algorithmique de l'apparence de son visage. Reid était en route pour un dîner de Thanksgiving tardif avec sa mère lorsque les flics sont venus le chercher, à trois États et à sept heures du lieu du crime. Il a été enfermé pendant près d'une semaine.

Un outil de reconnaissance faciale a identifié Reid comme suspect dans le vol des sacs à main de luxe, et c'était tout ce dont les flics avaient besoin pour le mettre en prison, selon le [New Orleans Advocate](https://www.nola.com/news /crime_police/jpso-used-facial-recognition-to-arrest-a-man-it-was-wrong/article_0818361a-8886-11ed-8119-93b98ecccc8d.html). Selon l'avocat de Reid, Tommy Calogero, il pèse 40 livres de moins que le criminel dans la bande de surveillance. Les forces de l'ordre l'ont laissé partir et ont admis la fausse correspondance "tacitement", a déclaré Calogero.

"Je pense qu'ils ont réalisé qu'ils étaient sortis sur une branche en procédant à une arrestation basée sur un visage", a déclaré Calogero à l'avocat.t

La reconnaissance faciale, bien qu'utile, est loin d'être parfaite. De nombreuses études montrent que la technologie est particulièrement imprécise lors de l'identification des personnes de couleur et des femmes par rapport aux identifications des hommes blancs. Certains responsables de l'application des lois reconnaissent régulièrement ce fait, affirmant que la reconnaissance faciale ne convient que pour générer des pistes et ne devrait jamais être utilisée comme seule base pour les mandats d'arrêt. Mais il y a très peu de règles régissant la technologie. Les flics ignorent souvent ce conseil et prennent la reconnaissance faciale au pied de la lettre.

Reid n'est que le dernier homme noir apparemment innocent à se retrouver en prison à la suite d'erreurs de reconnaissance faciale. La technologie a conduit à au moins trois arrestations injustifiées, et utilise la reconnaissance faciale comme seule justification mettre des suspects derrière les barreaux est une tendance inquiétante et croissante, selon Clare Garvie, conseillère-ressource en formation auprès de la National Association of Criminal Defence Lawyers.

"La reconnaissance faciale offre la promesse d'une identification précise et rapide dans des circonstances où les forces de l'ordre n'ont peut-être pas d'autres moyens d'identifier les suspects, mais cette hypothèse n'a jamais été testée ou confirmée", a déclaré Garvie. "Lorsque les responsables de l'application des lois utilisent la technologie comme seule base pour les arrestations, ils s'appuient sur des méthodes non éprouvées."

Notre monde est absolument saturé de technologie de reconnaissance faciale et d'autres capteurs biométriques. Mais nous ne savons pas comment ces outils sont utilisés, ni dans quelles circonstances. L'année dernière, 13 des 14 agences gouvernementales fédérales ont déclaré au Congrès ils n'ont aucune idée à quelle fréquence ils utilisent la technologie de reconnaissance faciale, ou même laquelle de leurs employés y ont accès.

À cette époque l'année dernière, il semblait qu'il y avait un mouvement croissant pour interdire l'utilisation de la technologie par les forces de l'ordre, les législatures de tout le pays instituant une interdiction de reconnaissance faciale pour leurs forces de police. Mais ce mouvement s'est essoufflé et un certain nombre d'États et de villes ont discrètement annulé leurs interdictions de reconnaissance faciale , y compris la Californie, la Virginie et, vous l'avez deviné, la Nouvelle-Orléans.

La Nouvelle-Orléans, qui borde Metairie, LA, où Reid a été accusé de vol, a des règles sur la façon dont la police utilise la reconnaissance faciale. Selon la loi, toutes les correspondances possibles doivent passer par un examen par les pairs par d'autres enquêteurs de reconnaissance faciale, et la politique de la police stipule que la technologie ne doit être utilisée que pour générer des pistes. Mais à Metairie, dans le reste de la Louisiane et dans la majeure partie du pays, les responsables de l'application des lois peuvent utiliser la reconnaissance faciale sans restriction. Dans la plupart des cas, les procureurs n'ont même pas à divulguer que la reconnaissance faciale a été impliquée dans les enquêtes lorsque les suspects se présentent au tribunal.

Cela viole les droits constitutionnels des accusés, soutient Garvie. La soi-disant règle Brady exige que les procureurs divulguent des preuves qui pourraient contenir le cas d'un accusé. Parce que la reconnaissance faciale est si imprécise, Garvie a déclaré que cela devrait s'appliquer chaque fois que la technologie est utilisée. Mais jusqu'à présent, le système judiciaire n'a pas adopté cette logique.

L'utilisation de la reconnaissance faciale par les forces de l'ordre remonte à 20 ans. Nous n'avons aucune idée du nombre de personnes en prison grâce à la technologie défectueuse, ont déclaré des experts à Gizmodo.

"Malheureusement, Randall Reid ne sera pas la dernière personne faussement arrêtée en raison de l'utilisation par la police de la technologie de reconnaissance faciale", a déclaré Evan Selinger, chercheur en résidence au Surveillance Technology Oversight Project. "Lorsqu'il existe un besoin politique d'être perçu comme engagé dans une action décisive, les options de haute technologie - même celles qui sont profondément imparfaites et très controversées - peuvent avoir une bonne optique à court terme."

Le département de police de Baton Rouge, qui a délivré le mandat d'arrêt contre lui, a été discret sur l'affaire. Selon l'avocat, le département a rejeté une demande officielle de mandat d'arrêt et n'a pas divulgué de détails sur ses politiques de reconnaissance faciale.

Pendant une bonne partie d'un siècle, un nombre incalculable de personnes ont été reconnues coupables de crimes utilisant [la fausse science médico-légale] (https://gizmodo.com/most-forensic-science-is-bogus-will-new-federal-rules- 1823801909) comme l'analyse des morsures et l'analyse des cheveux. Avec la reconnaissance faciale, il semble que nous suivions la même voie : les États-Unis attendent la jurisprudence pour déterminer comment les flics devraient et ne devraient pas utiliser la technologie de reconnaissance faciale. Cela signifie que des innocents iront en prison pour des crimes qu'ils n'ont pas commis pendant que nous nous asseyons et les regardons se frayer un chemin à travers le système judiciaire.

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd