Incidents associés
La police de Detroit a arrêté à tort un autre homme noir sur la base d'une technologie de reconnaissance faciale défectueuse qui produit souvent des erreurs dans l'identification des personnes de couleur, selon un nouveau procès [obtenu par Motherboard] (https://www.documentcloud.org/documents/7202332-Draft- of-Michael-Oliver-Complaint-changes932020-1.html).
Michael Oliver, 26 ans, a été arrêté pour un vol qu'il n'a pas commis après que le logiciel lui ait conduit le département de police de Detroit (DPD) en juillet 2019, selon la plainte déposée vendredi devant le tribunal de circuit du comté de Wayne. Les avocats d'Oliver ont fourni à Motherboard des documents judiciaires pour l'affaire, qui a été rapportée pour la première fois par le [Detroit Free Press](https://www.freep.com/story/news/local/michigan/detroit/2020/07/10/facial -recognition-detroit-michael-oliver-robert-williams/5392166002/) et est le deuxième du genre signalé à Detroit cette année.
"[La police s'est appuyée] sur une technologie de reconnaissance faciale défaillante, sachant que la science de la reconnaissance faciale a un taux d'erreur substantiel parmi les personnes noires et brunes d'origine ethnique, ce qui conduirait à l'arrestation et à l'incarcération injustifiées de personnes appartenant à cette population ethnique", déclare le procès. . L'affaire survient après que le même service de police a été dénoncé par le New York Times en juin pour avoir arrêté à tort Robert Williams, 42 ans, après avoir utilisé le système algorithmique.
Oliver, dont l'histoire fait écho à l'épreuve dramatique de Williams, poursuit la ville de Detroit et le détective blanc qui aurait bâclé l'affaire pour au moins 12 millions de dollars. Il affirme que l'algorithme ainsi que le travail policier "grossièrement négligent" ont conduit à son emprisonnement de près de trois jours et ont finalement détourné sa vie.
"C'était faux", a déclaré Oliver à Motherboard. « J'ai perdu mon travail et ma voiture ; toute ma vie a dû être mise en attente… Cette technologie ne devrait pas être utilisée par la police.
Oliver – qui a un visage de forme ovale et un tatouage au-dessus de son sourcil gauche – ne ressemble que vaguement au suspect réel, qui n'a aucun tatouage visible, un visage plus rond et une peau plus foncée, selon des preuves photographiques.
"Le détective a tout gâché, franchement", a déclaré l'avocat d'Oliver, David Robinson. "Il était certainement en possession d'une photographie du véritable escroc, mais pour une raison quelconque, il n'a pas été en mesure de faire la différence entre eux."
L'affaire sonne l'alarme sur la technologie de reconnaissance faciale - largement critiquée comme l'une des formes de surveillance policière les plus troublantes - après que la police à travers les États-Unis l'a utilisée pour identifier et arrêter les manifestants de Black Lives Matter plus tôt cet été. Le département de police de New York, par exemple, a utilisé un système de reconnaissance faciale pour retrouver le mois dernier un militant de 28 ans [Derrick Ingram](https://www.vice.com/en_us/article/jgxkm4/black-lives- matter-activist-nypd-drones-instagram-live), qui a été accusé d'agression après avoir prétendument crié à l'oreille d'un policier avec un porte-voix.
Le cas d'erreur d'identité d'Oliver a commencé le 15 mai 2019 lorsqu'un enseignant conduit par un groupe d'étudiants qui se bagarraient a utilisé un téléphone portable pour enregistrer la bagarre près d'une école de Detroit, selon le mandat d'arrêt d'Oliver.
Un jeune homme noir impliqué dans la bagarre a repéré l'enseignant, Stephen Cassini, en train de filmer et a atteint sa voiture, a saisi son téléphone portable et l'a fissuré, selon le mandat. Cassini a capturé une vidéo de l'incident sur son téléphone avant qu'il ne soit glissé et a donné les images au DPD, selon le procès.
Même si le département n'avait "aucune politique écrite" autorisant les flics à utiliser la technologie de reconnaissance faciale, le détective Donald Bussa a demandé à un lieutenant de parcourir une image du suspect dans une base de données de photos à la recherche d'une correspondance, selon le procès. L'algorithme a renvoyé une photo d'Oliver et "Bussa a supposé qu'il était la personne qui avait arraché le téléphone de Cassini", indique-t-il.
Après avoir exécuté le logiciel, développé par la [firme DataWorks Plus](https://www.vice.com/en_us/article/dyzykz/detroit-police-chief-facial-recognition-software-misidentifies-96-of-the- fois), Bussa a montré à Cassini une série de photos de suspects et l'enseignant aurait identifié Oliver. Le détective a ensuite obtenu un mandat d'arrêt contre lui "sans autre enquête", indique le procès.
Oliver se rendait au travail en voiture le 31 juillet 2019 lorsqu'il a été arrêté, « menotté et emmené en prison », selon les documents judiciaires. Sa voiture a été confisquée et il a été contraint d'attendre anxieusement derrière les barreaux pendant 2 jours et demi, avec peu d'informations sur ce qu'il était censé avoir fait.
"J'étais nerveux parce que je sais que des gens vont en prison pour des choses qu'ils n'ont pas faites", a déclaré Oliver. "Il n'y a pas eu d'explication à la police que ce n'était pas moi. Ils n'essayaient pas de comprendre cela.
En prison, il dormait sur un sol en ciment et mangeait des sandwichs à la bologne - la seule option - pour le petit-déjeuner, le déjeuner et le dîner, a-t-il déclaré. Pendant qu'il était derrière les barreaux, "Bussa n'a jamais tenté de recueillir une déclaration d'Oliver ni fait quoi que ce soit pour lui offrir la possibilité de prouver son innocence", selon le procès.
Mais il y avait bientôt des signes que la police avait arrêté le mauvais gars. Contrairement au vrai voleur, Oliver avait des tatouages délavés sur ses deux bras. Cette quantité d'encre, ainsi que des images de son visage, auraient dû être un cadeau mort, a déclaré l'avocat de la défense pénale d'Oliver, Patrick Nyenhuis.
"Il m'a dit:" Ce n'était pas moi ". J'ai regardé les photos et j'ai dit:" Ouais, ce n'est évidemment pas toi ", a déclaré Nyenhuis à Motherboard.
Même ainsi, lors de la première comparution d'Oliver en août 2019, les responsables de l'application des lois ont refusé de reculer. «Le procureur n'était pas convaincu. Il a dit: "Il aurait pu se faire tatouer après le crime", a déclaré Nyenhuis. "Je ne sais pas comment ils ont autant gâché ça."
À la mi-septembre, le bureau du procureur du comté de Wayne a abandonné les accusations de vol, mais Oliver dit qu'il est toujours sous le choc. En fin de compte, il a subi "l'embarras, l'indignation, l'indignation, la honte, la peur, l'anxiété et la perte de réputation" ainsi qu'une "perte économique", selon le procès.
Robinson soupçonne maintenant que la technologie de reconnaissance faciale de Detroit a ciblé à tort de nombreuses autres personnes de couleur et que d'autres cas pourraient bientôt émerger. "Ce n'est pas complet pour différentes cultures et couleurs", a-t-il déclaré à propos du logiciel. "Les concepteurs de l'algorithme sont des Blancs, donc c'est étroit ; cela fonctionne pour la race majoritaire.
Dans le cas de Robert Julian-Borchak Willams, le bureau du procureur du comté de Wayne s'est excusé après que le New York Times ait publié l'histoire. Le chef de la police de Detroit, James Craig, a admis plus tard que la technologie avait mal identifié les suspects dans 96 % des cas.
Oliver, de son côté, ne se contentera pas d'un mea culpa.
"Il veut plus que des excuses. Il veut la justice et il veut réparer ce tort", a déclaré Robinson.