Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 3274

Incidents associés

Incident 5981 Rapport
False Arrest of Georgia Man Due to Louisiana Police's Faulty Facial Recognition Technology

Loading...
JPSO a utilisé la technologie de reconnaissance faciale pour arrêter un homme. La technologie était fausse.
nola.com · 2023

La technologie a [donné à la police une vaste portée](https://web.archive.org/web/20231018130613/https://www.nola.com/news/crime_police/whats-facial-recognition-tech-and-how-do -police-use-it/article_352ce43a-888a-11ed-a486-db6b661d0829.html) pour comparer les visages de suspects criminels à une mine de photos d'identité judiciaire, de permis de conduire et même de selfies récupérés sur les réseaux sociaux.

Mais une récente tentative du bureau du shérif de la paroisse de Jefferson d'arrêter un voleur de sacs à main haut de gamme via la reconnaissance faciale s'est mal terminée pour un Géorgien qui a été emprisonné pendant près d'une semaine pour une fausse correspondance, a déclaré son avocat.

Un détective a pris l'algorithme au pied de la lettre pour obtenir un mandat d'arrêt contre Randal Reid, 28 ans, dans le vol de sacs à main de luxe en juin dans un magasin de consignation de Metairie, a déclaré l'avocat Tommy Calogero.

Un détective du département de police de Baton Rouge a ensuite adopté l'identification de Reid par JPSO pour obtenir un mandat d'arrêt alléguant qu'il faisait partie des trois hommes impliqués dans un autre vol de sac à main de luxe la même semaine dans un magasin de Jefferson Highway, selon les archives judiciaires.

Les voleurs auraient volé plus de 10 000 dollars dans des sacs à main Chanel et Louis Vuitton en trois jours.

La police locale a arrêté Reid le 25 novembre alors qu'il roulait sur l'Interstate 20 dans le comté de Dekalb, en Géorgie, en route vers une célébration tardive de Thanksgiving avec sa mère, a-t-il déclaré.

"Ils m'ont dit que j'avais un mandat d'arrêt de la paroisse de Jefferson. J'ai dit : 'Qu'est-ce que la paroisse de Jefferson ?'", a déclaré Reid. "Je ne suis jamais allé en Louisiane un seul jour de ma vie. Puis ils m'ont dit que c'était pour vol. Donc non seulement je ne suis pas allé en Louisiane, mais je ne vole pas non plus."

Reid a été incarcéré dans la prison du comté de DeKalb en tant que fugitif, mais a été relâché le 1er décembre, a déclaré un responsable de la prison. Calogero a déclaré que les détectives du JPSO avaient "tacitement" reconnu l'erreur et annulé le mandat de juillet.

"Je pense qu'ils ont réalisé qu'ils avaient pris des risques en procédant à une arrestation sur la base d'un visage", a-t-il déclaré.

Le bureau du shérif Joe Lopinto n'a pas répondu à plusieurs demandes d'informations sur l'arrestation et la libération de Reid, l'utilisation par l'agence de la reconnaissance faciale ou toute mesure de protection à cet égard. Ce bureau a également rejeté une demande officielle concernant le mandat d'arrêt du 18 juillet contre Reid et des copies de politiques ou d'achats liés à la reconnaissance faciale, citant une enquête en cours.

La police de Baton Rouge n'a pas non plus répondu aux questions concernant son mandat d'arrêt contre Reid. Le mandat, signé par le juge du 19e district judiciaire, Eboni Rose, ne précise pas comment le bureau de Lopinto a identifié Reid.

L’affaire met en évidence les pièges d’une technologie que de plus en plus d’organismes chargés de l’application des lois adoptent à travers le pays, alors même que les critiques soulignent les recherches montrant des taux de correspondances incorrects plus élevés pour certaines populations, notamment les Noirs et les femmes.

Certaines villes et certains États ont imposé ces dernières années des restrictions à l'utilisation de la reconnaissance faciale par la police. Mais plusieurs pays, dont la Nouvelle-Orléans, ont depuis reculé face à une hausse de la criminalité.

En Louisiane, on sait peu de choses sur [l'utilisation de la reconnaissance faciale](https://web.archive.org/web/20231018130613/https://www.theadvocate.com/baton_rouge/opinion/article_6cd81f5c-8931-11ec-a4b9 -ff95d6319d94.html) en dehors de la Nouvelle-Orléans, où le conseil municipal a annulé cette année une interdiction de deux ans et fixé des règles.

La police de la Nouvelle-Orléans affirme que cela ne peut être utilisé que pour générer des pistes et que les agents doivent obtenir l'approbation d'un haut niveau avant de déposer une demande via le Louisiana State Analytic and Fusion Exchange à Baton Rouge. Toutes les correspondances possibles doivent également être soumises à un examen par d'autres enquêteurs en reconnaissance faciale, conformément aux nouvelles règles de la ville.

Outil de police ou fléau de la vie privée ?

Ailleurs en Louisiane, il n’y a aucune réglementation. Un projet de loi d'État visant à restreindre l'utilisation de la reconnaissance faciale est mort en 2021 en commission.

Le libertaire Pelican Institute for Public Policy a plaidé en faveur de garde-fous juridiques. La Louisiana Sheriffs' Association était contre le projet de loi. Le directeur exécutif de l'association, Michael Ranatza, a fait valoir que des études plus approfondies étaient nécessaires.

Loren Lampert, directeur exécutif de l'Association des procureurs de district de Louisiane, s'est également prononcé contre le projet de loi.

Lampert a déclaré la semaine dernière que la technologie était utilisée par la police uniquement pour identifier des suspects dans les cas où il n'y en avait pas, et que toute correspondance devait être corroborée, comme par une empreinte digitale. "Je pense que tout le monde est d'accord sur le fait qu'il existe des préoccupations qui doivent être prises en compte quant à l'exactitude et au risque d'utilisation abusive", a-t-il déclaré.

Ranatza a déclaré qu'il ne savait pas combien de shérifs de Louisiane utilisent désormais cette technologie.

"C'est un outil. Il nous aide à identifier un suspect. Je ne sais pas où il est utilisé exclusivement" pour obtenir l'arrestation de quelqu'un, a-t-il déclaré le mois dernier. "Cela a toujours aidé les forces de l'ordre à établir une cause probable."

Cette représentation minimise la portée étendue de la technologie et le potentiel d'abus entre les mains du gouvernement, a soutenu Chris Kaiser, directeur du plaidoyer pour l'ACLU de Louisiane.

"Nous ne regardons pas seulement quelques photos. Vous recherchez une bibliothèque de milliers, voire de millions de photographies, potentiellement à l'échelle nationale et même à l'extérieur du pays", a-t-il déclaré. "Ce sont des pommes et des oranges."

Kaiser a déclaré qu'aucun service de police n'admettrait avoir arrêté un suspect sur la seule base d'un algorithme.

"Ils diront toujours que c'est pour mener une enquête", a-t-il déclaré. "Mais il n'y a vraiment aucune protection derrière cela."

Les archives publiques obtenues par le Southern Poverty Law Center pour 2021 montrent que le bureau de Lopinto faisait partie de plusieurs agences locales, étatiques et fédérales à demander des analyses de reconnaissance faciale via le centre de renseignement de l'État.

Les dossiers montrent trois demandes du JPSO en 2021. La police d'État n'a pas immédiatement répondu à une demande de dossiers similaires pour 2022.

Il n'est pas certain que les détectives de Lopinto effectuent également des recherches par reconnaissance faciale en dehors du centre d'information de l'État.

Élargissement des tentacules

Les rapports publiés par le Fusion Center en 2021 indiquent qu'il emploie deux fournisseurs de reconnaissance faciale : Clearview AI et Morphotrak.

Le site Web de Clearview AI possède « le plus grand réseau facial au monde », avec des dizaines de milliards d'images « provenant de sources Web exclusivement publiques, notamment des médias d'information, des sites Web de photos d'identité, des médias sociaux publics et de nombreuses autres sources ouvertes ».

Morphotrak s'appelle désormais Idemia, une entreprise française qui vante des centaines de clients gouvernementaux pour ses produits de reconnaissance faciale.

L’intérêt croissant pour la reconnaissance faciale survient à mesure que les services de police s’amenuisent et s’appuient sur une prolifération de caméras publiques connectées pour lutter contre la criminalité, et que les algorithmes s’améliorent.

Une étude réalisée en 2021 par l'Institut national des normes et de la technologie a révélé que tous les meilleurs algorithmes peuvent identifier les passagers de l'aéroport avec des photos dans le système plus de 99 % du temps lors de leur première apparition devant une caméra. Mais cette étude et d’autres ont également révélé des biais persistants dans les différents taux de faux positifs et négatifs selon la race et le sexe.

Joy Buolamwini, chercheuse en reconnaissance faciale au Massachusetts Institute of Technology, pose avec un masque blanc qu'elle a utilisé pour tester des logiciels à l'école de Cambridge, Massachusetts, le 13 février 2019. Les recherches de Buolamwini ont révélé des préjugés raciaux et sexistes dans les visages. outils d’analyse vendus par des sociétés comme Amazon. (Photo de Steven Senne, Associated Press)

Certains critiques ont fait valoir que cette technologie est si périlleuse entre les mains du gouvernement qu’elle devrait être interdite. L'Electronic Privacy Information Center a affirmé cette année que la reconnaissance faciale est « intrinsèquement dangereuse », permettant une « surveillance publique complète ».

"C'est un outil de surveillance puissant qui peut facilement être étendu à l'insu des gens", a déclaré Jeramie Scott, avocat principal chez EPIC.

Le blues des sosies

Si Reid était une fausse correspondance pour un algorithme, c'était une assez bonne supposition, a déclaré Calogero.

Il a décrit Reid, qui est noir, comme l'image faciale crachée d'un homme filmé en juin en train de saisir les numéros d'une carte de crédit volée au registre du Second Act sur Metairie Road. Les voleurs sont repartis avec 7 500 $ en sacs à main, selon le rapport d'incident du shérif.

La police de Baton Rouge affirme que les trois mêmes hommes ont volé un sac Chanel d'une valeur de 2 800 $ grâce à un faux achat par carte de crédit chez Swap Boutique. Le détective de Baton Rouge, Samuel Stafford, a écrit que les hommes impliqués dans l'affaire JPSO "semblent être les mêmes sujets" impliqués dans le braquage du Swap.

Stafford a également obtenu un mandat d'arrêt dans l'affaire contre un homme de 21 ans de la Nouvelle-Orléans. On ne sait cependant pas si cet homme a été arrêté dans cette affaire.

Reid a déclaré qu'il était resté en prison craignant de perdre son emploi d'analyste des transports et d'obtenir deux condamnations pour des crimes qu'il n'avait pas commis.

"Je ne mange pas, je ne dors pas. Je pense à ces accusations. Je ne fais rien parce que je ne sais pas vraiment ce qui se passe tout le temps", a-t-il déclaré. "Ils n'ont même pas essayé de créer la bonne pièce d'identité."

Des différences, comme un grain de beauté sur le visage de Reid, ont incité JPSO à annuler le mandat, a déclaré Calogero. Il a estimé une différence de 40 livres entre Reid et le voleur de sac à main qu'il a vu sur les images de surveillance. Les « bras flasques » du coupable étaient un signe clair, a-t-il déclaré.

"La police aurait pu vérifier sa taille et son poids ou faire un effort pour lui parler ou lui demander de traverser sa maison pour rechercher des preuves. Il aurait obtempéré", a déclaré Calogero.

"Il y a 300 millions d'habitants dans ce pays. Nous avons tous quelqu'un qui nous semble identique."

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd