Problème 700

← Lire l'histoire

Partout au pays, les juges, les agents de probation et de libération conditionnelle utilisent de plus en plus des algorithmes pour évaluer la probabilité qu'un accusé devienne un récidiviste - un terme utilisé pour décrire les criminels qui récidivent. Des dizaines de ces algorithmes d'évaluation des risques sont utilisés. De nombreux États ont construit leurs propres évaluations et plusieurs universitaires ont écrit des outils. Il existe également deux principaux outils nationaux proposés par des fournisseurs commerciaux.

Nous avons entrepris d'évaluer l'un des outils commerciaux fabriqués par Northpointe, Inc. pour découvrir la précision sous-jacente de leur algorithme de récidive et pour tester si l'algorithme était biaisé contre certains groupes.

Notre analyse de l'outil de Northpointe, appelé COMPAS (qui signifie Correctional Offender Management Profiling for Alternative Sanctions), a révélé que les accusés noirs étaient beaucoup plus susceptibles que les accusés blancs d'être jugés à tort comme présentant un risque de récidive plus élevé, tandis que les accusés blancs étaient plus susceptibles que les accusés noirs d'être signalés à tort comme à faible risque.

Nous avons examiné plus de 10 000 accusés dans le comté de Broward, en Floride, et comparé leurs taux de récidive prévus avec le taux qui s'est réellement produit sur une période de deux ans. Lorsque la plupart des accusés sont incarcérés, ils répondent à un questionnaire COMPAS. Leurs réponses sont introduites dans le logiciel COMPAS pour générer plusieurs scores, y compris des prédictions de «risque de récidive» et de «risque de récidive violente».

Nous avons comparé les catégories de risque de récidive prédites par l'outil COMPAS aux taux de récidive réels des accusés au cours des deux années suivant leur notation, et avons constaté que le score prédisait correctement la récidive d'un délinquant 61 % du temps, mais n'était correct que dans ses prédictions. de récidive violente 20 % du temps.

En prévoyant qui récidiverait, l'algorithme a correctement prédit la récidive pour les accusés noirs et blancs à peu près au même taux (59 % pour les accusés blancs et 63 % pour les accusés noirs), mais a fait des erreurs de manière très différente. Il classe différemment les accusés blancs et noirs lorsqu'ils sont examinés sur une période de suivi de deux ans.

Notre analyse a révélé que :

On prévoyait souvent que les accusés noirs courraient un risque de récidive plus élevé qu'ils ne l'étaient en réalité. Notre analyse a révélé que les accusés noirs qui n'ont pas récidivé sur une période de deux ans étaient près de deux fois plus susceptibles d'être classés à tort comme à risque plus élevé que leurs homologues blancs (45 % contre 23 %).

On prévoyait souvent que les accusés blancs seraient moins risqués qu'ils ne l'étaient. Notre analyse a révélé que les accusés blancs qui ont récidivé au cours des deux années suivantes ont été étiquetés à tort à faible risque presque deux fois plus souvent que les récidivistes noirs (48 % contre 28 %).

L'analyse a également montré que même en tenant compte des crimes antérieurs, de la récidive future, de l'âge et du sexe, les accusés noirs étaient 45% plus susceptibles de se voir attribuer des scores de risque plus élevés que les accusés blancs.

Les accusés noirs étaient également deux fois plus susceptibles que les accusés blancs d'être classés à tort comme présentant un risque plus élevé de récidive violente. Et les récidivistes violents blancs étaient 63% plus susceptibles d'avoir été classés à tort comme un faible risque de récidive violente, par rapport aux récidivistes violents noirs.

L'analyse de la récidive violente a également montré que même en contrôlant les crimes antérieurs, la récidive future, l'âge et le sexe, les accusés noirs étaient 77 % plus susceptibles de se voir attribuer des scores de risque plus élevés que les accusés blancs.

Précédent travail

En 2013, les chercheurs Sarah Desmarais et Jay Singh ont examiné 19 méthodologies différentes de risque de récidive utilisées aux États-Unis et ont constaté que « dans la plupart des cas, la validité n'avait été examinée que dans une ou deux études menées aux États-Unis, et fréquemment, ces enquêtes ont été complétés par les mêmes personnes qui ont développé l'instrument.

Leur analyse de la recherche publiée avant mars 2013 a révélé que les outils "étaient au mieux modérés en termes de validité prédictive", a déclaré Desmarais lors d'une entrevue. Et elle n'a trouvé aucun ensemble substantiel d'études menées aux États-Unis qui examinaient si les scores de risque étaient biaisés par la race. "Les données n'existent pas", a-t-elle déclaré.

Le plus grand examen des préjugés raciaux dans les algorithmes d'évaluation des risques aux États-Unis depuis lors est un article de 2016 de Jennifer Skeem de l'Université de Californie à Berkeley et de Christopher T. Lowenkamp du Bureau administratif des tribunaux américains. Ils ont examiné les données d'environ 34 000 délinquants sous responsabilité fédérale pour tester la validité prédictive de l'outil d'évaluation des risques après condamnation qui a été développé par les tribunaux fédéraux pour aider les agents de probation et de libération conditionnelle à déterminer le niveau de surveillance requis pour un détenu à sa libération.

Les auteurs ont constaté que le score de risque moyen des délinquants noirs était plus élevé que celui des délinquants blancs, mais cela a conclu que les différences n'étaient pas attribuables à des préjugés.

Une étude de 2013 a analysé la validité prédictive parmi différentes races pour un autre score appelé Level of Service Inventory, sur