Incidents associés
Bien que les taux de criminalité aient diminué régulièrement depuis les années 1990, les taux de récidive demeurent un facteur dans les domaines de la sécurité publique et de la gestion des détenus. L'Institut national de la justice définit la récidive comme "des actes criminels qui ont entraîné une nouvelle arrestation, une nouvelle condamnation ou un retour en prison avec ou sans nouvelle peine", et avec plus de 75 % des prisonniers libérés réarrêtés dans les cinq ans, il est évident qu'il y a place à l'amélioration. . Dans un effort pour rationaliser la détermination de la peine, réduire la récidive et accroître la sécurité publique, des entreprises privées ont développé des algorithmes de justice pénale à utiliser dans la salle d'audience. Ces outils – parfois appelés «évaluations des risques» – visent à recommander la durée et la sévérité de la peine spécifiques à chaque accusé sur la base d'un ensemble de formules exclusives. Malheureusement, la nature exclusive des algorithmes signifie que ni les avocats ni le grand public n'ont accès aux informations nécessaires pour comprendre ou se défendre contre ces évaluations.
Il existe des dizaines de ces algorithmes actuellement utilisés aux niveaux fédéral et étatique à travers le pays. L'un des plus controversés, le Correctional Offender Management Profiling for Alternative Sanctions ou COMPAS, a fait la une des journaux en 2016 lorsque l'accusé Eric Loomis a été condamné à six ans de prison pour mise en danger imprudente, évasion de la police, conduite d'une voiture sans le consentement du propriétaire, possession d'arme à feu, violation de la probation et résistance à l'arrestation - une peine basée en partie sur son score COMPAS. Loomis, un délinquant sexuel enregistré, a contesté le verdict, affirmant que COMPAS avait violé son droit constitutionnel à une procédure régulière parce qu'il ne pouvait pas monter une contestation appropriée. Son argument était double : que la nature exclusive de la formule lui refusait, ainsi qu'à son équipe de défense, l'accès à ses données, et que COMPAS prend en compte la race et le sexe lors de la prédiction des résultats, ce qui constitue un biais. Son cas a été rejeté par le tribunal inférieur, mais Loomis a refusé de reculer, faisant appel à la place devant la Cour suprême du Wisconsin.
En juillet 2016, une décision unanime de la Cour suprême du Wisconsin a confirmé la décision de l'État d'utiliser des programmes automatisés pour déterminer la peine. À son avis, la juge Ann Walsh Bradley a écrit : « Bien que cela ne puisse pas être déterminant, un tribunal chargé de la détermination de la peine peut utiliser une évaluation des risques COMPAS comme facteur pertinent pour des questions telles que : (1) détourner les délinquants à faible risque condamnés à la prison vers un non- alternative carcérale; (2) évaluer si un délinquant peut être surveillé en toute sécurité et efficacement dans la collectivité; et (3) imposer des termes et conditions de probation, de surveillance et de réponses aux violations. » En réponse à l'affirmation de Loomis selon laquelle la race et en particulier le sexe peuvent fausser les résultats et interférer avec la procédure régulière, Bradley a en outre expliqué que "la prise en compte du sexe dans une évaluation des risques COMPAS est nécessaire pour obtenir une précision statistique". Son opinion a en outre averti que les juges devraient être informés des limites potentielles des outils d'évaluation des risques et des directives d'utilisation suggérées telles que le contrôle de la qualité et les contrôles de validation du logiciel ainsi que la formation des utilisateurs.
Un rapport de l'Electronic Privacy Information Center (EPIC), cependant, avertit que dans de nombreux cas, les questions de validité et de formation sont négligées plutôt qu'abordées. Pour souligner leur argument, EPIC, un centre de recherche d'intérêt public qui attire l'attention du public sur les problèmes émergents de confidentialité et de libertés civiles, a compilé un tableau associant les États aux outils d'évaluation des risques utilisés dans leurs pratiques de détermination de la peine. Ils ont trouvé plus de 30 États qui n'ont jamais exécuté de processus de validation sur les algorithmes utilisés dans leur État, ce qui suggère que la plupart du temps, ces programmes sont utilisés sans étalonnage approprié.
Le problème avec COMPAS
Dans les États utilisant COMPAS, les accusés sont invités à remplir un questionnaire COMPAS lorsqu'ils sont inscrits dans le système de justice pénale. Leurs réponses sont analysées par le logiciel propriétaire COMPAS, qui génère des scores prédictifs tels que « risque de récidive » et « risque de récidive violente ».
Ces scores, calculés par l'algorithme sur une échelle de 1 à 10, sont présentés dans un graphique à barres, 10 représentant les personnes les plus susceptibles de récidiver. Les juges reçoivent ces tableaux avant le prononcé de la peine pour les aider à prendre des décisions. COMPAS n'est pas le seul élément qu'un juge est censé prendre en compte pour déterminer la durée et la sévérité de la peine. Les antécédents criminels, les circonstances du crime (qu'il y ait eu des lésions corporelles commises ou que le délinquant subisse un stress personnel) et si le délinquant manifeste ou non des remords sont quelques exemples de facteurs atténuants ayant une incidence sur la détermination de la peine. Cependant, il n'y a aucun moyen de savoir quel poids un juge accorde aux informations reçues du logiciel d'évaluation des risques.
Pris isolément, le graphique COMPAS semble être une information raisonnable, voire utile ; mais la réalité est bien différente. ProPublica a effectué une analyse de l'algorithme COMPAS et a découvert des préoccupations valables concernant la fiabilité et le biais du logiciel.
Dans une analyse de plus de 10 000