Incidents associés
** Mis à jour à 21h05. HE mercredi**
La police de Detroit tentait de déterminer qui avait volé cinq montres dans un magasin de détail Shinola. Les autorités disent que le voleur a décollé avec une valeur estimée à 3 800 $ de marchandises.
Les enquêteurs ont sorti une vidéo de sécurité qui avait enregistré l'incident. Les détectives ont zoomé sur les images granuleuses et ont passé la personne qui semblait être le suspect à travers un logiciel de reconnaissance faciale.
Un succès est revenu: Robert Julian-Borchak Williams, 42 ans, de Farmington Hills, Michigan, à environ 25 miles au nord-ouest de Detroit.
En janvier, la police s'est arrêtée au domicile de Williams et l'a arrêté alors qu'il se tenait sur sa pelouse devant sa femme et ses deux filles, âgées de 2 et 5 ans, qui pleuraient en voyant leur père être placé dans la voiture de patrouille.
Sa femme, Melissa Williams, voulait savoir où la police emmenait son mari.
« 'Googlez-le' », se souvient-elle d'un officier qui lui a dit.
Robert Williams a été conduit dans une salle d'interrogatoire et la police a mis trois photos devant lui : deux photos prises par la caméra de surveillance du magasin et une photo du permis de conduire délivré par l'État de Williams.
"Quand je regarde la photo du gars, je vois juste un grand Noir. Je ne vois pas de ressemblance. Je ne pense pas qu'il me ressemble du tout", a déclaré Williams dans une interview avec NPR.
"[Le détective] retourne la troisième page et dit : "Je suppose que l'ordinateur s'est également trompé." Et j'ai dit: "Eh bien, c'est moi", en montrant une photo de mon ancien permis de conduire", a déclaré Williams à propos de l'interrogatoire avec les détectives. « 'Mais ce type, ce n'est pas moi' », a-t-il dit en se référant aux autres photographies.
"Je l'ai ramassé et je l'ai tenu devant mon visage et je lui ai dit:" J'espère que vous ne pensez pas que tous les Noirs se ressemblent "", a déclaré Williams.
Williams a été détenu pendant 30 heures, puis libéré sous caution jusqu'à une audience sur l'affaire, selon ses avocats.
Lors de l'audience, un procureur du comté de Wayne a annoncé que les charges retenues contre Williams étaient abandonnées en raison de preuves insuffisantes.
Les experts en droits civiques affirment que Williams est le premier exemple documenté aux États-Unis d'une personne arrêtée à tort sur la base d'un faux coup produit par la technologie de reconnaissance faciale.
Avocat : L'intelligence artificielle « a tout encadré et informé »
Ce qui rend le cas de Williams extraordinaire, c'est que la police a admis que la technologie de reconnaissance faciale, menée par la police de l'État du Michigan dans un laboratoire du crime à la demande du département de police de Detroit, a provoqué l'arrestation, selon les documents d'accusation examinés par NPR.
La poursuite de Williams en tant que suspect potentiel est intervenue malgré les affirmations répétées de lui et de ses avocats selon lesquelles la correspondance générée par l'intelligence artificielle était défectueuse.
Le suspect présumé sur l'image de la caméra de sécurité portait un chapeau rouge des Cardinals de Saint-Louis. Williams, originaire de Detroit, a déclaré qu'il ne porterait en aucun cas ce chapeau.
« Ils ne lui ont même jamais posé de questions avant de l'arrêter. Ils ne lui ont jamais demandé s'il avait un alibi. ACLU du Michigan.
Mercredi, l'ACLU du Michigan a déposé une plainte contre le département de police de Detroit demandant que la police cesse d'utiliser le logiciel dans les enquêtes.
Dans une déclaration à NPR, le département de police de Detroit a déclaré qu'après l'affaire Williams, le département avait promulgué de nouvelles règles. Désormais, seules les photos fixes, et non les images de sécurité, peuvent être utilisées pour la reconnaissance faciale. Et il n'est désormais utilisé que dans le cas de crimes violents.
"Le logiciel de reconnaissance faciale est un outil d'enquête utilisé uniquement pour générer des pistes. Un travail d'enquête supplémentaire, des preuves corroborantes et une cause probable sont nécessaires avant qu'une arrestation puisse être effectuée", a déclaré le sergent du département de police de Detroit. a déclaré Nicole Kirkwood dans un communiqué.
Dans le cas de Williams, la police avait demandé à l'agent de sécurité du magasin, qui n'avait pas été témoin du vol, de choisir le suspect parmi une série de photos basée sur les images, et l'agent de sécurité a sélectionné Williams.
Victoria Burton-Harris, l'avocate de Williams, a déclaré dans une interview qu'elle était sceptique quant au fait que les enquêteurs n'utilisaient le logiciel de reconnaissance faciale que comme l'une des nombreuses pistes possibles.
"Lorsque cette technologie a identifié le visage de mon client, à partir de là, elle a encadré et informé tout ce que les agents ont fait par la suite", a déclaré Burton-Harris.
Académique et [gouvernement](https://www.nist.gov /news-events/news/2019/12/nist-study-evaluates-effects-race-age-sex-face-recognition-software) des études ont démontré que les systèmes de reconnaissance faciale identifient plus souvent à tort les personnes de couleur que les personnes blanches.
L'une des études phares sur les biais dans la reconnaissance faciale a été menée par Joy Buolamwini, chercheuse au MIT et fondatrice de l'Algorithmic Justice League.
"Cette inadéquation flagrante ne montre qu'un des dangers de la technologie de reconnaissance faciale qui a déjà été démontrée étude après étude pour échouer les personnes de couleur, les personnes à la peau foncée plus que leurs homologues blancs en général", a déclaré Buolamwini.
"Les menaces aux libertés civiles posées par la surveillance de masse sont un prix trop élevé", a-t-elle déclaré. "Vous ne pouvez pas effacer l'expérience de 30 heures de détention, les souvenirs d'enfants ayant vu leur père arrêté, ou la stigmatisation d'être étiquetés criminels."
Maria Miller, porte-parole du bureau du procureur, a déclaré que l'affaire avait été classée pour insuffisance de preuves, notamment que les accusations avaient été déposées sans le soutien de témoins vivants.
Le procureur du comté de Wayne, Kym Worthy, a déclaré que toute affaire envoyée à son bureau qui utilise la technologie de reconnaissance faciale ne peut pas avancer sans autre preuve à l'appui.
"Cette affaire n'aurait pas dû être publiée sur la base de l'enquête du DPD, et nous nous excusons pour cela", a déclaré Worthy dans un communiqué à NPR. "Heureusement, il a été rejeté de la propre initiative de notre bureau. Cela ne compense en aucun cas les heures que M. Williams a passées en prison."
Worthy a déclaré que Williams était en mesure de faire effacer l'affaire de son dossier.
Williams : "Disons que cette affaire n'était pas une fraude au détail. Et si c'était un viol ou un meurtre ?"
Selon le Centre sur la confidentialité et la technologie de Georgetown Law, au moins un quart des forces de l'ordre du pays ont accès à des outils de reconnaissance faciale.
"La plupart du temps, les personnes arrêtées à l'aide de la reconnaissance faciale ne sont pas informées que la reconnaissance faciale a été utilisée pour les arrêter", a déclaré Jameson Spivack, chercheur au centre.
Alors qu'Amazon, Microsoft et IBM ont annoncé un arrêt pour ventes de technologie de reconnaissance faciale aux forces de l'ordre, Spivack a déclaré que cela aura peu d'effet, car la plupart des principaux contrats de logiciels de reconnaissance faciale avec la police sont conclus avec des entreprises plus petites et plus spécialisées, comme DataWorks Plus, basée en Caroline du Sud, qui est la société qui a fourni le Detroit Police Department avec son logiciel de reconnaissance faciale.
L'entreprise n'a pas répondu à une demande d'entretien.
DataWorks Plus a fourni la technologie aux agences gouvernementales de Santa Barbara, en Californie, de Chicago et de Philadelphie.
La technologie de reconnaissance faciale est utilisée quotidiennement par les consommateurs pour [déverrouiller leur smartphone](https://www.npr.org/sections/alltechconsidered/2017/09/18/551897336/iphone-xs-face-id-inspires-privacy- soucis-mais-convenience-may-tump-them) ou à [tag friends](https://www.npr.org/sections/alltechconsidered/2013/10/28/228181778/a-look-into-facebooks-potential -de-reconnaître-le-visage-de-quelqu'un) sur les réseaux sociaux. Certains aéroports utilisent la technologie pour scanner les passagers avant qu'ils n'embarquent.
Son déploiement par les gouvernements, cependant, a suscité l'inquiétude des défenseurs de la vie privée et des experts qui étudient l'outil d'apprentissage automatique et ont mis en évidence ses défauts.
"Certains départements des véhicules à moteur utiliseront la reconnaissance faciale pour détecter la fraude au permis, le vol d'identité, mais l'utilisation la plus courante est l'application de la loi, qu'il s'agisse de l'application de la loi nationale, locale ou fédérale", a déclaré Spivack.
L'utilisation par le gouvernement de la technologie de reconnaissance faciale a été interdite dans une demi-douzaine de villes.
Dans le Michigan, Williams a déclaré qu'il espérait que son cas était un signal d'alarme pour les législateurs.
"Disons que cette affaire n'était pas une fraude au détail. Et s'il s'agissait d'un viol ou d'un meurtre ? Serais-je sorti de prison grâce à une caution personnelle, ou serais-je jamais rentré à la maison ?" dit Williams.
Williams et sa femme, Melissa, s'inquiètent des effets à long terme que l'arrestation aura sur leurs deux jeunes filles.
"Voir leur père se faire arrêter, c'était leur première interaction avec la police. Cela va donc certainement façonner leur perception des forces de l'ordre", a déclaré Melissa Williams.
Dans sa plainte, Williams et ses avocats disent que si le service de police n'interdit pas purement et simplement la technologie, alors au moins sa photo devrait être supprimée de la base de données, afin que cela ne se reproduise plus.
"Si quelqu'un veut tirer mon nom et me rechercher", a déclaré Williams, "qui veut être considéré comme un voleur?"