Incidents associés
(Photo : Joe Raedle/Getty Images)
Des dizaines de personnes se sont rassemblées dans une salle d'audience de Philadelphie le 6 juin pour exprimer leurs objections à un algorithme de justice pénale proposé. L'algorithme, développé par la Pennsylvania Commission on Sentencing, a été conçu comme un moyen de réduire l'incarcération en prédisant le risque qu'une personne constitue une menace pour la sécurité publique et en aidant à détourner les personnes à faible risque vers des alternatives à l'incarcération.
PUBLICITÉ Merci d'avoir regardé ! Visitez le site Web
Mais de nombreux orateurs craignaient que l'outil n'augmente les disparités raciales dans un État où le taux d'incarcération des Noirs américains est neuf fois supérieur à celui des Blancs. L'effusion d'inquiétude lors des audiences publiques, ainsi que celle de près de 2 000 personnes qui ont signé une pétition en ligne de l'association à but non lucratif Color of Change, a eu un grand effet : alors que la commission de la peine avait prévu de voter le 14 juin sur l'opportunité d'adopter l'algorithme , les membres ont décidé de reporter le vote d'au moins six mois pour examiner les objections et solliciter d'autres commentaires.
Les algorithmes qui font des prédictions sur le comportement futur en fonction de facteurs tels que l'âge et les antécédents criminels d'une personne sont de plus en plus utilisés - et de plus en plus controversés - dans la prise de décision en matière de justice pénale. L'une des grandes objections à l'utilisation de tels algorithmes est qu'ils fonctionnent parfois hors de la vue du public. Par exemple, plusieurs États ont adopté un outil appelé COMPAS développé par la société Northpointe (maintenant appelée Equivant), qui prétend que l'algorithme est propriétaire et refuse de partager des détails cruciaux sur la façon dont il calcule les scores.
PUBLICITÉ Merci d'avoir regardé ! Visitez le site Web
PUBLICITÉ Merci d'avoir regardé ! Visitez le site Web
Dans un contraste frappant, la commission de détermination de la peine de Pennsylvanie a été très transparente. La loi adoptée en 2010 a chargé la commission de développer un instrument d'évaluation des risques à l'usage des juges lors de la détermination de la peine "pour aider à évaluer le risque relatif qu'un délinquant récidive et constitue une menace pour la sécurité publique" et pour aider à identifier les candidats pour des alternatives à incarcération. Depuis 2010, la commission a publié plus de 15 rapports détaillant le développement de l'algorithme et a tenu 11 audiences publiques pour solliciter des commentaires. La commission a également modifié sa proposition au fil du temps en réponse aux commentaires de la communauté. Par exemple, la Defender Association of Philadelphia et d'autres organisations ont fait valoir en 2017 que l'utilisation du dossier d'arrestation antérieur comme facteur d'entrée serait susceptible d'exacerber les préjugés raciaux, et cette préoccupation a été un facteur dans la décision de la commission de passer à l'utilisation de condamnations plutôt que de arrestations.
Mais les partisans ont toujours des inquiétudes concernant d'autres éléments de l'algorithme. Par exemple, la commission a constaté que les prédictions sur les personnes à haut risque d'être de nouveau arrêtées pour un crime violent (un "crime contre une personne") n'avaient qu'une précision de 18 % et a donc décidé de ne pas s'appuyer sur ces informations. Au lieu de cela, l'instrument prédit une «récidive» générale, définie comme une nouvelle arrestation pour tout délit ou accusation de crime en Pennsylvanie dans un délai de trois ans, ou pour un réengagement au Département des services correctionnels pour une violation technique de la libération conditionnelle. (L'exception concerne les quelques cas où une personne se voit attribuer un faible score de risque de crime contre une personne mais un risque élevé de récidive générale, auquel cas les deux scores seraient affichés.)
Tout le monde s'accorde à dire que la commission mérite ici beaucoup de crédit. Il est rare de voir les concepteurs d'un algorithme de justice pénale présenter les détails, y compris le processus de conception, avec autant de détails. (En comparaison, les informations de base telles que les entrées utilisées dans COMPAS restent hors de la vue du public, après qu'un procès dans le Wisconsin a contesté en vain son utilisation lors de la détermination de la peine comme une violation du droit à une procédure régulière.) Mark Houldin, directeur des politiques à la Defender Association de Philadelphie, a déclaré : "L'approche de la Commission consistant à publier des rapports sur chaque étape est vraiment excellente, et toute juridiction qui cherche à adopter un outil comme celui-ci devrait faire exactement cela. Si les calculs, les hypothèses et les décisions ne sont pas transparents, il n'y a aucun moyen de permettre aux parties prenantes et à la communauté d'avoir leur mot à dire."
Même ainsi, Houldin ne pense pas que l'algorithme proposé devrait être utilisé du tout. Étant donné que la commission a constaté qu'elle ne pouvait pas prédire le risque de ré-arrestation violente avec une précision raisonnable, l'avocate de la défense pénale Marni Snyder et d'autres membres du groupe de travail sur l'évaluation des risques (formé par Snyder et le représentant de l'État démocrate Brian Sims) disent que la commission, avec le législateur, aurait dû reconsidérer l'opportunité de proposer l'algorithme. Nyssa Taylor, conseillère en politique de justice pénale pour l'American Civil Liberties Union de Pennsylvanie, affirme qu'il est également extrêmement problématique que la définition de la récidive inclue les violations techniques de la libération conditionnelle - celles dans lesquelles aucun nouveau crime n'est commis, comme le non-respect du couvre-feu et la non-notification d'un responsable d'un changement d'adresse. Elle a souligné que Pennsylv