Incidents associés
La police de Detroit a utilisé une technologie de reconnaissance faciale très peu fiable presque exclusivement contre les Noirs jusqu'à présent en 2020, selon les propres statistiques du département de police de Detroit. L'utilisation de la technologie par le département a attiré l'attention nationale la semaine dernière après l'American Civil Liberties Union et [New York Times](https://www.nytimes.com/2020/06/24/technology/facial-recognition-arrest.html? referingSource=articleShare) a mis en lumière le cas de Robert Julian-Borchak Williams, un homme qui a été arrêté à tort à cause de la technologie.
Lors d'une réunion publique lundi, le chef de la police de Detroit, James Craig, a admis que la technologie, développée par une société appelée DataWorks Plus, ne ramène presque jamais de correspondance directe et identifie presque toujours les gens à tort.
"Si nous utilisions le logiciel uniquement [pour identifier les sujets], nous ne résoudrions pas le cas 95 à 97 % du temps", a déclaré Craig. "C'est si nous comptions totalement sur le logiciel, ce qui serait contraire à notre politique actuelle... Si nous devions simplement utiliser la technologie par elle-même, pour identifier quelqu'un, je dirais que 96 % du temps, il se tromperait."
Todd Pastorini, directeur général de DataWorks Plus, a déclaré à Motherboard qu'il ne conserve pas de statistiques sur la précision du logiciel dans le monde réel et qu'il n'indique pas spécifiquement aux forces de l'ordre comment utiliser le logiciel.
"Il n'y a pas de statistiques pour cela", a déclaré Pastorini. "Le problème, c'est la qualité des sondes utilisées. Je suis très réticent d'après le dernier [article du New York Times](https://www.nytimes.com/2020/06/24/technology/facial-recognition-arrest .html ? a été militarisé par les médias dans une certaine mesure. Je comprends le commentaire du chef, mais malheureusement beaucoup de gens ne le comprennent pas.
Pastorini a comparé le logiciel DataWorks Plus à des systèmes automatisés d'identification d'empreintes digitales, où des dizaines ou des centaines de correspondances potentielles sont renvoyées. Cela "ne ramène pas un seul candidat", a-t-il dit. "Ce sont des centaines. Ils sont pondérés comme un système d'empreintes digitales basé sur la sonde [et ce qu'il y a dans la base de données]."
Le résultat de cela, selon les propres policiers de Detroit, est qu'ils prennent finalement la décision d'interroger et d'enquêter sur les gens en fonction de ce que le logiciel renvoie et du jugement d'un détective. Cela signifie que les personnes qui n'ont peut-être rien à voir avec un crime sont finalement interrogées et font l'objet d'une enquête par la police. À Detroit, cela signifie, presque exclusivement, des Noirs.
Jusqu'à présent cette année (jusqu'au 22 juin), la technologie a été utilisée 70 fois, [selon des données publiées](https://detroitmi.gov/sites/detroitmi.localhost/files/2020-06/DPD%20Report% 20on%20Facial%20Recognition%20Usage%20%20061520%20-%20062120.pdf) par le service de police de Detroit. Dans 68 de ces cas, la photo introduite dans le logiciel était celle d'une personne noire ; dans deux des cas, la race était répertoriée comme «U», ce qui signifie probablement non identifié (dans d'autres rapports de la police, U signifie non identifié); le département de police de Detroit n'a pas répondu à une demande de clarification. Ces photos ont été en grande partie tirées des médias sociaux (31 cas sur 70) ou d'une caméra de sécurité (18 cas sur 70).
Plusieurs villes ont interdit à la police d'utiliser un logiciel de reconnaissance faciale, qui présente des problèmes de préjugés raciaux bien connus (et de nombreux problèmes de faux positifs également). Detroit, cependant, a eu un débat très public en 2019 sur l'utilisation de la reconnaissance faciale et a plutôt décidé de réglementer son utilisation plutôt que de l'interdire complètement. À la fin de l'année dernière, la ville a adopté une politique interdisant l'utilisation de la reconnaissance faciale pour "surveiller le public via n'importe quel appareil photo ou appareil vidéo", interdit son utilisation sur les vidéos en direct et enregistrées, et restreint (mais n'interdit pas) son utilisation à protestations. Selon la politique, le logiciel doit être utilisé uniquement "sur une image fixe d'un individu" et ne peut être utilisé que dans le cadre d'une enquête criminelle en cours. Le logiciel vérifie les images dans une base de données d'état de photos, qui comprend des images mugshot. Dans le cadre de ces réglementations, le service de police est tenu de publier des rapports hebdomadaires sur l'utilisation de la technologie, qui montrent qu'elle a été presque exclusivement utilisée sur des Noirs.
Williams a été arrêté avant que la politique ne soit mise en pratique. Craig a déclaré lors de la réunion que les médias diffusés via le système de reconnaissance faciale de DataWorks étaient «une vidéo horrible. C'était granuleux… ça n'aurait jamais été le cas dans le cadre de la nouvelle politique… si nous ne pouvons pas obtenir une bonne photo, nous n'allons pas la transmettre au détective.
Craig et son collègue, le capitaine Aric Tosqui, ont déclaré vouloir continuer à utiliser la reconnaissance faciale car ils disent que cela peut être un outil pour aider les enquêteurs même si cela ne conduit pas souvent à une arrestation. Mais même lorsqu'une personne n'est pas faussement arrêtée, son identification erronée par reconnaissance faciale peut souvent conduire un enquêteur à l'interroger, ce qui est au mieux un inconvénient et au pire une situation potentiellement mortelle. Selon Tosqui, la technologie a été utilisée sur un total de 185 cas au fil des ans. "Dans la majorité des cas, le détective a signalé que [la correspondance] n'était pas utile."
Malgré ces problèmes, DataWorks Plus a déclaré qu'il ne guide pas les forces de l'ordre sur la meilleure façon d'utiliser le logiciel. "Nous ne disons pas à nos clients comment utiliser le système", a déclaré Pastorini. "Il existe déjà des politiques d'application de la loi. D'après mon expérience, plus l'image est claire, plus cela affectera clairement la probabilité d'un résultat plus solide."
Le département de police de Detroit n'a pas répondu à une demande de commentaires supplémentaires. Ces derniers mois, il y a eu un nouveau mouvement [des membres du conseil municipal pour interdire l'utilisation de la technologie](https://detroitmi.gov/sites/detroitmi.localhost/files/2020-05/Approved%20Minutes%20- %20mai%207%2C%202020.pdf).