Incidents associés
Un après-midi de printemps 2014, Brisha Borden était en retard pour aller chercher sa marraine à l'école lorsqu'elle a repéré un vélo bleu Huffy pour enfant non verrouillé et un scooter argenté Razor. Borden et un ami ont attrapé le vélo et le scooter et ont essayé de les conduire dans la rue de la banlieue de Fort Lauderdale à Coral Springs.
Juste au moment où les filles de 18 ans se rendaient compte qu'elles étaient trop grandes pour les minuscules véhicules - qui appartenaient à un garçon de 6 ans - une femme est venue en courant après elles en disant: "Ce sont les affaires de mon enfant." Borden et son amie ont immédiatement laissé tomber le vélo et le scooter et sont parties.
Mais il était trop tard, un voisin qui avait été témoin du cambriolage avait déjà appelé la police. Borden et son amie ont été arrêtées et accusées de cambriolage et de vol mineur pour les articles, qui ont été évalués à un total de 80 $.
Comparez leur crime avec un crime similaire : l'été précédent, Vernon Prater, 41 ans, a été arrêté pour avoir volé à l'étalage 86,35 $ d'outils dans un magasin Home Depot à proximité.
Prater était le criminel le plus aguerri. Il avait déjà été reconnu coupable de vol à main armée et de tentative de vol à main armée, pour lesquels il a purgé cinq ans de prison, en plus d'une autre accusation de vol à main armée. Borden avait aussi un casier judiciaire, mais c'était pour des délits commis lorsqu'elle était mineure.
Pourtant, quelque chose d'étrange s'est produit lorsque Borden et Prater ont été emprisonnés : un programme informatique a craché un score prédisant la probabilité que chacun commette un crime futur. Borden – qui est noir – a été classé à haut risque. Prater – qui est blanc – a été classé à faible risque.
Deux ans plus tard, nous savons que l'algorithme informatique l'a fait exactement à l'envers. Borden n'a été accusé d'aucun nouveau crime. Prater purge une peine de huit ans de prison pour avoir ensuite pénétré par effraction dans un entrepôt et volé des milliers de dollars d'électronique.
Des scores comme celui-ci – connus sous le nom d'évaluations des risques – sont de plus en plus courants dans les salles d'audience à travers le pays. Ils sont utilisés pour éclairer les décisions sur qui peut être libéré à chaque étape du système de justice pénale, de l'attribution de montants de caution – comme c'est le cas à Fort Lauderdale – à des décisions encore plus fondamentales concernant la liberté des accusés. En Arizona, au Colorado, au Delaware, au Kentucky, en Louisiane, en Oklahoma, en Virginie, à Washington et au Wisconsin, les résultats de ces évaluations sont communiqués aux juges lors de la condamnation pénale.
L'évaluation du risque de criminalité future d'un accusé est souvent effectuée en conjonction avec une évaluation des besoins de réadaptation d'un accusé. L'Institut national des services correctionnels du ministère de la Justice encourage désormais l'utilisation de ces évaluations combinées à chaque étape du processus de justice pénale. Et un projet de loi historique sur la réforme de la détermination de la peine actuellement en instance au Congrès rendrait obligatoire l'utilisation de telles évaluations dans les prisons fédérales.
Deux arrestations pour vol mineur Vernon Prater Infractions antérieures 2 vols à main armée, 1 tentative de vol à main armée Risque faible 3 infractions ultérieures 1 grand vol Brisha Borden Infractions antérieures 4 délits juvéniles Risque élevé 8 infractions ultérieures Aucune Borden a été classée à haut risque de crime futur après qu'elle et un ami a pris le vélo et le scooter d'un enfant qui étaient assis à l'extérieur. Elle n'a pas récidivé.
En 2014, le procureur général des États-Unis, Eric Holder, a averti que les scores de risque pourraient injecter des biais dans les tribunaux. Il a appelé la US Sentencing Commission à étudier leur utilisation. "Bien que ces mesures aient été conçues avec les meilleures intentions du monde, je crains qu'elles ne sapent par inadvertance nos efforts pour garantir une justice individualisée et égale", a-t-il déclaré, ajoutant qu'"elles pourraient exacerber des disparités injustifiées et injustes qui sont déjà bien trop courantes dans notre pays". système de justice pénale et dans notre société.
La commission des peines n'a toutefois pas lancé d'étude sur les scores de risque. C'est ce que ProPublica a fait, dans le cadre d'un examen plus large de l'effet puissant et largement caché des algorithmes dans la vie américaine.
Nous avons obtenu les scores de risque attribués à plus de 7 000 personnes arrêtées dans le comté de Broward, en Floride, en 2013 et 2014 et avons vérifié combien ont été accusées de nouveaux crimes au cours des deux prochaines années, la même référence utilisée par les créateurs de l'algorithme.
Le score s'est avéré remarquablement peu fiable dans la prévision des crimes violents : seulement 20 % des personnes censées commettre des crimes violents ont effectivement commis des crimes violents.
Lorsqu'une gamme complète de crimes a été prise en compte - y compris des délits tels que la conduite avec un permis expiré - l'algorithme était un peu plus précis qu'un tirage au sort. Parmi les personnes jugées susceptibles de récidiver, 61% ont été arrêtées pour tout crime ultérieur dans les deux ans.
Nous avons également relevé d'importantes disparités raciales, comme le craignait Holder. En prévoyant qui récidiverait, l'algorithme a fait des erreurs avec les accusés noirs et blancs à peu près au même rythme mais de manière très différente.
La formule était particulièrement susceptible de signaler à tort les accusés noirs comme de futurs criminels, les étiquetant ainsi à tort à près de deux fois plus que les accusés blancs.
Les accusés blancs ont été étiquetés à tort comme à faible risque plus souvent que les accusés noirs.
Ne pourrait-il pas