Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 1349

Incidents associés

Incident 5417 Rapports
Predictive Policing Biases of PredPol

Loading...
Biais machine
propublica.org · 2016

UN APRÈS-MIDI DE PRINTEMPS EN 2014, Brisha Borden était en retard pour aller chercher sa marraine à l'école lorsqu'elle a repéré un vélo bleu Huffy pour enfant non verrouillé et un scooter argenté Razor. Borden et un ami ont attrapé le vélo et le scooter et ont essayé de les conduire dans la rue de la banlieue de Fort Lauderdale à Coral Springs. Juste au moment où les filles de 18 ans se rendaient compte qu'elles étaient trop grandes pour les minuscules véhicules - qui appartenaient à un garçon de 6 ans - une femme est venue en courant après elles en disant: "Ce sont les affaires de mon enfant." Borden et son amie ont immédiatement laissé tomber le vélo et le scooter et sont parties. Mais il était trop tard, un voisin qui avait été témoin du cambriolage avait déjà appelé la police. Borden et son amie ont été arrêtées et accusées de cambriolage et de vol mineur pour les articles, qui ont été évalués à un total de 80 $. Comparez leur crime avec un crime similaire : l'été précédent, Vernon Prater, 41 ans, a été arrêté pour avoir volé à l'étalage 86,35 $ d'outils dans un magasin Home Depot à proximité. Prater était le criminel le plus aguerri. Il avait déjà été reconnu coupable de vol à main armée et de tentative de vol à main armée, pour lesquels il a purgé cinq ans de prison, en plus d'une autre accusation de vol à main armée. Borden avait aussi un casier judiciaire, mais c'était pour des délits commis lorsqu'elle était mineure. Pourtant, quelque chose d'étrange s'est produit lorsque Borden et Prater ont été emprisonnés : un programme informatique a craché un score prédisant la probabilité que chacun commette un crime futur. Borden – qui est noir – a été classé à haut risque. Prater – qui est blanc – a été classé à faible risque. Deux ans plus tard, nous savons que l'algorithme informatique l'a fait exactement à l'envers. Borden n'a été accusé d'aucun nouveau crime. Prater purge une peine de huit ans de prison pour avoir ensuite pénétré par effraction dans un entrepôt et volé des milliers de dollars d'électronique. Des scores comme celui-ci – connus sous le nom d'évaluations des risques – sont de plus en plus courants dans les salles d'audience à travers le pays. Ils sont utilisés pour éclairer les décisions sur qui peut être libéré à chaque étape du système de justice pénale, de l'attribution de montants de caution – comme c'est le cas à Fort Lauderdale – à des décisions encore plus fondamentales concernant la liberté des accusés. En Arizona, au Colorado, au Delaware, au Kentucky, en Louisiane, en Oklahoma, en Virginie, à Washington et au Wisconsin, les résultats de ces évaluations sont communiqués aux juges lors de la condamnation pénale. L'évaluation du risque de criminalité future d'un accusé est souvent effectuée en conjonction avec une évaluation des besoins de réadaptation d'un accusé. L'Institut national des services correctionnels du ministère de la Justice encourage désormais l'utilisation de ces évaluations combinées à chaque étape du processus de justice pénale. Et un projet de loi historique sur la réforme de la détermination de la peine actuellement en instance au Congrès rendrait obligatoire l'utilisation de telles évaluations dans les prisons fédérales. Deux petites arrestations pour vol VERNON PRATER RISQUE 3 BRISHA BORDEN RISQUE 8 Borden a été classée à haut risque de crime futur après qu'elle et un ami aient pris le vélo et le scooter d'un enfant qui étaient assis à l'extérieur. Elle n'a pas récidivé. En 2014, le procureur général des États-Unis, Eric Holder, a averti que les scores de risque pourraient injecter des biais dans les tribunaux. Il a appelé la US Sentencing Commission à étudier leur utilisation. "Bien que ces mesures aient été conçues avec les meilleures intentions du monde, je crains qu'elles ne sapent par inadvertance nos efforts pour garantir une justice individualisée et égale", a-t-il déclaré, ajoutant qu'"elles pourraient exacerber des disparités injustifiées et injustes qui sont déjà bien trop courantes dans notre pays". système de justice pénale et dans notre société. La commission des peines n'a toutefois pas lancé d'étude sur les scores de risque. C'est ce que ProPublica a fait, dans le cadre d'un examen plus large de l'effet puissant et largement caché des algorithmes dans la vie américaine. Nous avons obtenu les scores de risque attribués à plus de 7 000 personnes arrêtées dans le comté de Broward, en Floride, en 2013 et 2014 et avons vérifié combien ont été accusées de nouveaux crimes au cours des deux prochaines années, la même référence utilisée par les créateurs de l'algorithme. Le score s'est avéré remarquablement peu fiable dans la prévision des crimes violents : seulement 20 % des personnes censées commettre des crimes violents ont effectivement commis des crimes violents. Lorsqu'une gamme complète de crimes a été prise en compte - y compris des délits tels que la conduite avec un permis expiré - l'algorithme était un peu plus précis qu'un tirage au sort. Parmi les personnes jugées susceptibles de récidiver, 61% ont été arrêtées pour tout crime ultérieur dans les deux ans. Nous avons également relevé d'importantes disparités raciales, comme le craignait Holder. En prévoyant qui récidiverait, l'algorithme a fait des erreurs avec les accusés noirs et blancs à peu près au même rythme mais de manière très différente. La formule était particulièrement susceptible de signaler à tort les accusés noirs comme de futurs criminels, les étiquetant ainsi à tort à près de deux fois plus que les accusés blancs. Les accusés blancs ont été étiquetés à tort comme à faible risque plus souvent que les accusés noirs. Cette disparité pourrait-elle s'expliquer par les crimes antérieurs des accusés ou le type de crimes pour lesquels ils ont été arrêtés ? Non. Nous avons effectué un test statistique qui a isolé l'effet de la race des antécédents criminels et de la récidive, ainsi que de l'âge et du sexe des accusés. Les accusés noirs étaient toujours 77% plus susceptibles d'être considérés comme présentant un risque plus élevé de commettre un futur crime violent et 45% plus susceptibles de commettre un futur crime de quelque nature que ce soit. (Lire notre analyse.) L'algorithme utilisé pour créer les scores de risque de la Floride est un produit d'une société à but lucratif, Northpointe. L'entreprise conteste notre analyse. Dans une lettre, il a critiqué la méthodologie de ProPublica et a défendu l'exactitude de son test : "Northpointe n'est pas d'accord avec le fait que les résultats de votre analyse, ou les affirmations fondées sur cette analyse, sont corrects ou qu'ils reflètent fidèlement les résultats de l'application. du modèle. » Le logiciel de Northpointe est l'un des outils d'évaluation les plus utilisés au pays. La société ne divulgue pas publiquement les calculs utilisés pour arriver aux scores de risque des défendeurs, il n'est donc pas possible pour les défendeurs ou le public de voir ce qui pourrait être à l'origine de la disparité. (Dimanche, Northpointe a donné à ProPublica les bases de sa formule de crime futur – qui comprend des facteurs tels que le niveau d'éducation et si un accusé a un emploi. Il n'a pas partagé les calculs spécifiques, qui, selon lui, sont exclusifs.) Produit principal de Northpointe est un ensemble de scores dérivés de 137 questions auxquelles les accusés ont répondu ou extraites des casiers judiciaires. La race ne fait pas partie des questions. L'enquête demande aux accusés des questions telles que : "Est-ce qu'un de vos parents a déjà été envoyé en prison ou en prison ?" « Combien de vos amis/connaissances consomment de la drogue illégalement ? » » et « À quelle fréquence vous êtes-vous battu à l'école ? Le questionnaire demande également aux gens d'être d'accord ou non avec des déclarations telles que "Une personne affamée a le droit de voler" et "Si les gens me mettent en colère ou me mettent en colère, je peux être dangereux". L'attrait des scores de risque est évident : les États-Unis enferment beaucoup plus de personnes que tout autre pays, dont un nombre disproportionné de Noirs. Depuis plus de deux siècles, les décisions clés du processus judiciaire, de la libération provisoire à la condamnation en passant par la libération conditionnelle, ont été entre les mains d'êtres humains guidés par leurs instincts et leurs préjugés personnels. Si les ordinateurs pouvaient prédire avec précision quels accusés étaient susceptibles de commettre de nouveaux crimes, le système de justice pénale pourrait être plus juste et plus sélectif quant aux personnes incarcérées et pour combien de temps. L'astuce, bien sûr, est de s'assurer que l'ordinateur fait bien les choses. Si c'est faux dans un sens, un criminel dangereux pourrait être libéré. Si c'est mal dans une autre direction, cela pourrait avoir pour conséquence que quelqu'un recevra injustement une peine plus sévère ou attendra sa libération conditionnelle plus longtemps que nécessaire. La première fois que Paul Zilly a entendu parler de son score – et s'est rendu compte de tout ce qui en dépendait – c'était lors de son audience de détermination de la peine le 15 février 2013, devant un tribunal du comté de Barron, dans le Wisconsin. Zilly avait été reconnu coupable d'avoir volé une tondeuse à gazon et des outils. Le procureur a recommandé un an de prison de comté et une surveillance de suivi qui pourraient aider Zilly à "rester sur la bonne voie". Son avocat a accepté un accord de plaidoyer. Mais le juge James Babler avait vu les scores de Zilly. Le logiciel de Northpointe avait classé Zilly comme un risque élevé de futurs crimes violents et un risque moyen de récidive générale. "Quand je regarde l'évaluation des risques", a déclaré Babler au tribunal, "c'est à peu près aussi mauvais que possible." Ensuite, Babler a annulé l'accord de plaidoyer qui avait été convenu par l'accusation et la défense et a imposé deux ans de prison d'État et trois ans de surveillance. LES CRIMINOLOGUES ONT LONGTEMPS ESSAYÉ de prédire quels criminels sont les plus dangereux avant de décider s'ils doivent être libérés. La race, la nationalité et la couleur de la peau ont souvent été utilisées pour faire de telles prédictions jusque vers les années 1970, lorsqu'elles sont devenues politiquement inacceptables, selon une enquête sur les outils d'évaluation des risques réalisée par le professeur de droit de l'Université de Columbia, Bernard Harcourt. Dans les années 1980, alors qu'une vague de criminalité engloutissait le pays, les législateurs ont rendu beaucoup plus difficile pour les juges et les commissions de libération conditionnelle l'exercice de leur pouvoir discrétionnaire dans la prise de telles décisions. Les États et le gouvernement fédéral ont commencé à instituer des peines obligatoires et, dans certains cas, ont aboli la libération conditionnelle, ce qui a rendu moins importante l'évaluation individuelle des délinquants. Mais alors que les États luttent pour payer l'augmentation de la population carcérale et pénitentiaire, la prévision du risque criminel a fait son retour. Deux arrestations pour possession de drogue DYLAN FUGETT RISQUE 3 BERNARD PARKER RISQUE 10 Fugett a été classé à faible risque après avoir été arrêté avec de la cocaïne et de la marijuana. Il a ensuite été arrêté trois fois pour trafic de drogue. Des dizaines d'évaluations des risques sont utilisées à travers le pays - certaines créées par des entreprises à but lucratif telles que Northpointe et d'autres par des organisations à but non lucratif. (Un outil utilisé dans des États comme le Kentucky et l'Arizona, appelé l'évaluation de la sécurité publique, a été développé par la Fondation Laura et John Arnold, qui est également un bailleur de fonds de ProPublica.) Il y a eu peu d'études indépendantes sur ces évaluations des risques criminels. En 2013, les chercheurs Sarah Desmarais et Jay Singh ont examiné 19 méthodologies de risque différentes utilisées aux États-Unis et ont constaté que "dans la plupart des cas, la validité n'avait été examinée que dans une ou deux études" et que "souvent, ces enquêtes étaient menées par le même les gens qui ont développé l'instrument. Leur analyse de la recherche jusqu'en 2012 a révélé que les outils "étaient au mieux modérés en termes de validité prédictive", a déclaré Desmarais lors d'une entrevue. Et elle n'a trouvé aucun ensemble substantiel d'études menées aux États-Unis qui examinaient si les scores de risque étaient biaisés par la race. "Les données n'existent pas", a-t-elle déclaré. Depuis lors, il y a eu quelques tentatives pour explorer les disparités raciales dans les scores de risque. Une étude de 2016 a examiné la validité d'un outil d'évaluation des risques, et non celui de Northpointe, utilisé pour prendre des décisions de probation pour environ 35 000 condamnés fédéraux. Les chercheurs, Jennifer Skeem de l'Université de Californie à Berkeley, et Christopher T. Lowenkamp du Bureau administratif des tribunaux américains, ont constaté que les Noirs obtenaient un score moyen plus élevé, mais ont conclu que les différences n'étaient pas attribuables à des préjugés. L'utilisation croissante des scores de risque est controversée et a fait l'objet d'une couverture médiatique, notamment des articles de l'Associated Press, du Marshall Project et de FiveThirtyEight l'année dernière. La plupart des outils de risque modernes ont été conçus à l'origine pour fournir aux juges un aperçu des types de traitement dont un individu pourrait avoir besoin - du traitement de la toxicomanie au conseil en santé mentale. "Ce que cela dit au juge, c'est que si je vous mets en probation, je vais devoir vous rendre beaucoup de services ou vous allez probablement échouer", a déclaré Edward Latessa, professeur à l'Université de Cincinnati qui est le auteur d'un outil d'évaluation des risques utilisé dans l'Ohio et dans plusieurs autres États. Mais être jugé inéligible à un traitement alternatif - en particulier lors d'une audience de détermination de la peine - peut se traduire par une incarcération. Les accusés ont rarement la possibilité de contester leurs évaluations. Les résultats sont généralement partagés avec l'avocat du défendeur, mais les calculs qui ont transformé les données sous-jacentes en score sont rarement révélés. "Les évaluations des risques devraient être interdites à moins que les deux parties n'aient accès à toutes les données qu'elles contiennent", a déclaré Christopher Slobogin, directeur du programme de justice pénale à la Vanderbilt Law School. "Il devrait s'agir d'une procédure contradictoire ouverte devant un tribunal complet." Scores de risque des accusés noirs Scores de risque des accusés blancs Ces graphiques montrent que les scores des accusés blancs étaient biaisés vers les catégories à faible risque. Les scores des accusés noirs ne l'étaient pas. (Source : analyse ProPublica des données du comté de Broward, en Floride) Les partisans des scores de risque soutiennent qu'ils peuvent être utilisés pour réduire le taux d'incarcération. En 2002, la Virginie est devenue l'un des premiers États à commencer à utiliser un outil d'évaluation des risques dans la condamnation des délinquants criminels non violents dans tout l'État. En 2014, les juges de Virginie utilisant l'outil ont envoyé près de la moitié de ces accusés vers des alternatives à la prison, selon un rapport de la commission de détermination de la peine de l'État. Depuis 2005, la croissance de la population carcérale de l'État a ralenti à 5 %, contre 31 % la décennie précédente. Dans certaines juridictions, comme le comté de Napa, en Californie , le service de probation utilise des évaluations des risques pour suggérer au juge un plan de probation ou de traitement approprié pour les personnes condamnées. Le juge de la Cour supérieure du comté de Napa, Mark Boessenecker, a déclaré qu'il trouvait les recommandations utiles. "Nous manquons de bons programmes de traitement, il est donc insensé de remplir une place dans un programme avec quelqu'un qui n'en a pas besoin", a-t-il déclaré. Cependant, Boessenecker, qui forme d'autres juges de l'État à la détermination de la peine fondée sur des preuves, avertit ses collègues que le score ne révèle pas nécessairement si une personne est dangereuse ou si elle doit aller en prison. "Un gars qui a agressé un petit enfant tous les jours pendant un an pourrait toujours présenter un faible risque car il a probablement un travail", a déclaré Boessenecker. "Pendant ce temps, un homme ivre aura l'air à haut risque parce qu'il est sans abri. Ces facteurs de risque ne vous disent pas si le gars doit aller en prison ou non ; les facteurs de risque vous en disent plus sur ce que devraient être les conditions de probation. « Je suis surpris que [mon score de risque] soit si bas. J'ai passé cinq ans dans une prison d'État du Massachusetts. (Josh Ritchie pour ProPublica) Parfois, les scores n'ont aucun sens, même pour les accusés. James Rivelli, un homme de 54 ans d'Hollywood, en Floride, a été arrêté il y a deux ans pour avoir volé à l'étalage sept boîtes de Crest Whitestrips dans une pharmacie CVS. Malgré un casier judiciaire qui comprenait des voies de fait graves, des vols multiples et un trafic de drogue criminel, l'algorithme de Northpointe l'a classé comme étant à faible risque de récidive. "Je suis surpris que ce soit si bas", a déclaré Rivelli lorsqu'un journaliste lui a dit qu'il avait été noté 3 sur 10 possibles. "J'ai passé cinq ans dans une prison d'État du Massachusetts. Mais je suppose qu'ils ne comptent pas cela ici dans le comté de Broward. En fait, les casiers judiciaires de tout le pays sont censés être inclus dans les évaluations des risques. Moins d'un an plus tard, il a été accusé de deux chefs d'accusation pour vol à l'étalage d'environ 1 000 $ d'outils chez Home Depot. Il a dit que ses crimes étaient alimentés par la toxicomanie et qu'il est maintenant sobre. NORTHPOINTE A ÉTÉ FONDÉE en 1989 par Tim Brennan, alors professeur de statistiques à l'Université du Colorado, et Dave Wells, qui dirigeait un programme correctionnel à Traverse City, Michigan. Wells avait construit un système de classification des prisonniers pour sa prison. "C'était un beau travail", a déclaré Brennan dans une interview réalisée avant que ProPublica n'ait terminé son analyse. Brennan et Wells partageaient un amour pour ce que Brennan appelait la "taxonomie quantitative" - la mesure des traits de personnalité tels que l'intelligence, l'extraversion et l'introversion. Les deux ont décidé de construire un score d'évaluation des risques pour l'industrie correctionnelle. Brennan souhaitait améliorer un score d'évaluation des risques de premier plan, le LSI, ou Level of Service Inventory, qui avait été développé au Canada. "J'ai trouvé pas mal de faiblesses dans le LSI", a déclaré Brennan. Il voulait un outil qui abordait les principales théories sur les causes de la criminalité. Brennan et Wells ont nommé leur produit le profilage de gestion des délinquants correctionnels pour les sanctions alternatives, ou COMPAS. Il évalue non seulement le risque, mais aussi près de deux douzaines de soi-disant « besoins criminogènes » qui se rapportent aux principales théories de la criminalité, notamment la « personnalité criminelle », « l'isolement social », la « toxicomanie » et la « résidence/stabilité ». Les prévenus sont classés à risque faible, moyen ou élevé dans chaque catégorie. Deux arrestations pour conduite avec facultés affaiblies GREGORY LUGO RISQUE 1 MALLORY WILLIAMS RISQUE 6 Lugo a écrasé son Lincoln Navigator dans une Toyota Camry alors qu'il était ivre. Il a été classé comme présentant un faible risque de récidive malgré le fait qu'il s'agissait au moins de son quatrième DUI. Comme cela arrive souvent avec les outils d'évaluation des risques, de nombreuses juridictions ont adopté le logiciel de Northpointe avant de tester rigoureusement s'il fonctionne. L'État de New York, par exemple, a commencé à utiliser l'outil pour évaluer les personnes en probation dans le cadre d'un projet pilote en 2001 et l'a déployé dans le reste des services de probation de l'État - à l'exception de la ville de New York - en 2010. L'État n'a pas publié de évaluation statistique complète de l'outil jusqu'en 2012. L'étude de plus de 16 000 probationnaires a révélé que l'outil était précis à 71%, mais il n'a pas évalué les différences raciales. Une porte-parole de la division des services de justice pénale de l'État de New York a déclaré que l'étude n'examinait pas la race, car elle cherchait uniquement à vérifier si l'outil avait été correctement calibré pour s'adapter à la population en probation de New York. Elle a également déclaré que les juges de presque tous les comtés de New York reçoivent les évaluations Northpointe des accusés lors de la détermination de la peine. En 2009, Brennan et deux collègues ont publié une étude de validation qui a révélé que le score de risque de récidive de Northpointe avait un taux de précision de 68 % dans un échantillon de 2 328 personnes. Leur étude a également révélé que le score était légèrement moins prédictif pour les hommes noirs que pour les hommes blancs – 67% contre 69%. Il n'a pas examiné les disparités raciales au-delà de cela, y compris si certains groupes étaient plus susceptibles d'être étiquetés à tort comme présentant un risque plus élevé. Brennan a déclaré qu'il est difficile de construire un score qui n'inclut pas des éléments pouvant être corrélés à la race – tels que la pauvreté, le chômage et la marginalisation sociale. "Si ceux-ci sont omis de votre évaluation des risques, la précision diminue", a-t-il déclaré. En 2011, Brennan et Wells ont vendu Northpointe au conglomérat torontois Constellation Software pour une somme non divulguée. Le Wisconsin a été parmi les utilisateurs les plus enthousiastes et les plus étendus de l'outil d'évaluation des risques de Northpointe dans les décisions de détermination de la peine. En 2012, le Wisconsin Department of Corrections a lancé l'utilisation du logiciel dans tout l'État. Il est utilisé à chaque étape du système carcéral, de la condamnation à la libération conditionnelle. Dans une présentation de 2012, le responsable des services correctionnels Jared Hoy a décrit le système comme un « flipper correctionnel géant » dans lequel les agents correctionnels pourraient utiliser les scores à chaque « point de décision ». Le Wisconsin n'a pas encore terminé une étude de validation statistique de l'outil et n'a pas précisé quand il pourrait être publié. Les responsables des services correctionnels de l'État ont refusé les demandes répétées de commenter cet article. Certains comtés du Wisconsin utilisent d'autres outils d'évaluation des risques lors de l'arrestation pour déterminer si un accusé présente un risque trop élevé pour une libération provisoire. Une fois qu'un accusé est reconnu coupable d'un crime n'importe où dans l'État, le Département des services correctionnels joint l'évaluation de Northpointe au rapport présentenciel confidentiel remis aux juges, selon la présentation de Hoy. En théorie, les juges ne sont pas censés infliger des peines plus longues aux accusés présentant des scores de risque plus élevés. Au contraire, ils sont censés utiliser les tests principalement pour déterminer quels accusés sont éligibles à des programmes de probation ou de traitement. La prédiction échoue différemment pour les accusés noirs AFRICAIN BLANC AMÉRICAIN Étiqueté à haut risque, mais n'a pas récidivé 23,5 % 44,9 % Étiqueté à faible risque, mais a récidivé 47,7 % 28,0 % Dans l'ensemble, l'outil d'évaluation de Northpointe prédit correctement la récidive 61 % du temps . Mais les Noirs sont presque deux fois plus susceptibles que les Blancs d'être étiquetés comme présentant un risque plus élevé mais de ne pas récidiver. Il fait l'erreur inverse chez les Blancs : ils sont beaucoup plus susceptibles que les Noirs d'être étiquetés à faible risque, mais continuent à commettre d'autres crimes. (Source : analyse ProPublica des données du comté de Broward, en Floride.) Mais les juges ont cité des scores dans leurs décisions de condamnation. En août 2013, le juge Scott Horne du comté de La Crosse, dans le Wisconsin, a déclaré que l'accusé Eric Loomis avait été "identifié, grâce à l'évaluation COMPAS, comme une personne à haut risque pour la communauté". Le juge a alors prononcé une peine de huit ans et six mois de prison. Loomis, qui a été accusé d'avoir conduit un véhicule volé et d'avoir fui la police, conteste l'utilisation du score lors de la détermination de la peine comme une violation de ses droits à une procédure régulière. L'État a défendu l'utilisation du score par Horne avec l'argument que les juges peuvent considérer le score en plus d'autres facteurs. Il a également cessé d'inclure des scores dans les rapports de présentation jusqu'à ce que la Cour suprême de l'État se prononce sur l'affaire. "Le score de risque à lui seul ne devrait pas déterminer la peine d'un délinquant", a déclaré le mois dernier la procureure générale adjointe du Wisconsin, Christine Remington, lors des plaidoiries de la Cour suprême de l'État dans l'affaire Loomis. "Nous ne voulons pas que les tribunaux disent que cette personne en face de moi est un 10 sur COMPAS en ce qui concerne le risque, et donc je vais lui infliger la peine maximale." C'est presque exactement ce qui est arrivé à Zilly, l'ouvrier du bâtiment de 48 ans envoyé en prison pour avoir volé une tondeuse à gazon et des outils qu'il avait l'intention de vendre pour des pièces. Zilly a longtemps lutté contre une dépendance à la méthamphétamine. En 2012, il travaillait à la guérison avec l'aide d'un pasteur chrétien lorsqu'il a rechuté et commis les vols. Après que Zilly ait été classé comme un risque élevé de récidive violente et envoyé en prison, un défenseur public a fait appel de la peine et a appelé le créateur du score, Brennan, comme témoin. Brennan a témoigné qu'il n'avait pas conçu son logiciel pour être utilisé dans la détermination de la peine. "Je voulais rester à l'écart des tribunaux", a déclaré Brennan, expliquant qu'il se concentrait sur la réduction de la criminalité plutôt que sur la punition. "Mais au fil du temps, j'ai commencé à réaliser que tant de décisions sont prises, vous savez, devant les tribunaux. J'ai donc progressivement adouci la question de savoir si cela pouvait être utilisé ou non devant les tribunaux. "Ce n'est pas que je sois innocent, mais je crois juste que les gens changent." (Stephen Maturen pour ProPublica) Pourtant, Brennan a témoigné: "Je n'aime pas l'idée moi-même que COMPAS soit la seule preuve sur laquelle une décision serait basée." Après le témoignage de Brennan, le juge Babler a réduit la peine de Zilly, de deux ans de prison à 18 mois. "Si je n'avais pas eu le COMPAS, je pense que j'aurais probablement donné un an, six mois", a déclaré le juge lors d'une audience d'appel le 14 novembre 2013. Zilly a déclaré que le score n'avait pas pris en compte tous les changements qu'il apportait dans sa vie - sa conversion au christianisme, sa lutte pour arrêter de consommer de la drogue et ses efforts pour être plus disponible pour son fils. "Ce n'est pas que je sois innocent, mais je crois juste que les gens changent." LE COMTÉ DE BROWARD EN FLORIDE, où Brisha Borden a volé le vélo Huffy et a été classé comme à haut risque, n'utilise pas d'évaluations des risques dans la détermination de la peine. "Nous ne pensons pas que les facteurs [d'évaluation du risque] aient une incidence sur une peine", a déclaré David Scharf, directeur exécutif des programmes communautaires du bureau du shérif du comté de Broward à Fort Lauderdale. Le comté de Broward a cependant adopté le score lors des audiences préliminaires, dans l'espoir de remédier à la surpopulation carcérale. Un contrôleur nommé par le tribunal supervise les prisons du comté de Broward depuis 1994 à la suite du règlement d'un procès intenté par des détenus dans les années 1970. Même maintenant, des années plus tard, le système carcéral du comté de Broward est souvent rempli à plus de 85 %, a déclaré Scharf. En 2008, le bureau du shérif a décidé qu'au lieu de construire une autre prison, il commencerait à utiliser les scores de risque de Northpointe pour aider à identifier les accusés présentant un risque suffisamment faible pour être libérés sous caution en attendant leur procès. Depuis lors, presque toutes les personnes arrêtées à Broward ont été notées peu de temps après avoir été réservées. (Les personnes accusées de meurtre et d'autres crimes capitaux ne sont pas notées car elles ne sont pas éligibles à la libération provisoire.) Les scores sont fournis aux juges qui décident quels accusés peuvent être libérés de prison. "Mon sentiment est que s'ils n'ont pas besoin qu'ils soient en prison, sortons-les de là", a déclaré Scharf. Deux arrestations pour vol à l'étalage JAMES RIVELLI RISQUE 3 ROBERT CANNON RISQUE 6 Après que Rivelli ait volé un CVS et ait été pris avec de l'héroïne dans sa voiture, il a été classé à faible risque. Plus tard, il a volé pour 1 000 $ d'outils dans un Home Depot. Scharf a déclaré que le comté avait choisi le logiciel de Northpointe plutôt que d'autres outils parce qu'il était facile à utiliser et qu'il produisait "des tableaux et des graphiques simples mais efficaces pour le contrôle judiciaire". Il a dit que le système coûte environ 22 000 $ par année. En 2010, des chercheurs de la Florida State University ont examiné l'utilisation du système de Northpointe dans le comté de Broward sur une période de 12 mois et ont conclu que sa précision prédictive était "équivalente" dans l'évaluation des accusés de différentes races. Comme d'autres, ils n'ont pas examiné si différentes races étaient classées différemment comme à faible ou à haut risque. Scharf a déclaré que le comté examinerait les conclusions de ProPublica. "Nous allons vraiment les regarder de près", a-t-il déclaré. Le juge du comté de Broward, John Hurley, qui supervise la plupart des audiences de libération provisoire, a déclaré que les scores étaient utiles lorsqu'il était nouveau juge, mais maintenant qu'il a de l'expérience, il préfère s'appuyer sur son propre jugement. "Je n'ai pas fait confiance à COMPAS depuis quelques années", a-t-il déclaré. Hurley a déclaré qu'il s'appuyait sur des facteurs tels que le casier judiciaire antérieur d'une personne, le type de crime commis, ses liens avec la communauté et ses antécédents de non-comparution lors d'une procédure judiciaire. L'analyse de ProPublica révèle que les scores plus élevés de Northpointe sont légèrement corrélés à une incarcération préventive plus longue dans le comté de Broward. Mais il existe de nombreuses raisons qui pourraient être vraies autres que les juges influencés par les scores – les personnes ayant des scores de risque plus élevés peuvent également être plus pauvres et avoir des difficultés à payer la caution, par exemple. La plupart des crimes sont présentés au juge avec un montant de caution recommandé, mais il ou elle peut ajuster le montant. Hurley a déclaré qu'il libérait souvent les délinquants pour la première fois ou de bas niveau sans aucune caution. Cependant, dans le cas de Borden et de son amie Sade Jones, les adolescentes qui ont volé le vélo et le scooter d'un enfant, Hurley a augmenté le montant de la caution pour chaque fille de 0 $ à 1 000 $ chacune. Hurley a déclaré qu'il n'avait aucun souvenir de l'affaire et ne se souvenait pas si les scores avaient influencé sa décision. Sade Jones, qui n'avait jamais été arrêté auparavant, a été classé à risque moyen. (Josh Ritchie pour ProPublica) Les filles ont passé deux nuits en prison avant d'être libérées sous caution. "Nous étions littéralement assis là et avons pleuré" tout le temps qu'ils étaient en prison, se souvient Jones. Les filles étaient gardées dans la même cellule. Sinon, Jones a dit: "Je serais devenu fou." Borden a refusé les demandes répétées de commenter cet article. Jones, qui n'avait jamais été arrêté auparavant, a été classé à risque moyen. Elle a terminé sa probation et a obtenu que l'accusation de cambriolage criminel soit réduite à un délit d'intrusion, mais elle a toujours du mal à trouver du travail. "Je suis allée chez McDonald's et dans un magasin à un dollar, et ils ont tous dit non à cause de mes antécédents", a-t-elle déclaré. "C'est assez difficile et inutile."

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd