Incidentes Asociados
La discriminación oculta en los puntajes de evaluación de riesgos penales
Los tribunales de todo el país utilizan cada vez más el "puntaje de evaluación de riesgo" del acusado para ayudar a tomar decisiones sobre la fianza, la libertad condicional y la sentencia. Las compañías detrás de estos puntajes dicen que ayudan a predecir si un acusado cometerá más delitos en el futuro. Kelly McEvers de NPR habla con Julia Angwin de ProPublica sobre una nueva investigación sobre los puntajes de evaluación de riesgos.
KELLY MCEVERS, ANFITRIÓN:
Imagínese si pudiera usar un algoritmo para predecir problemas y tal vez evitarlos. La idea ha ganado terreno en todo el sistema de justicia penal, desde los departamentos de policía hasta los tribunales. Se llama evaluación del riesgo penal.
AUDIE CORNISH, ANFITRIÓN:
El medio de noticias sin fines de lucro ProPublica analizó uno de los programas de evaluación de riesgos más utilizados y cómo le fue en el condado de Broward, Florida. Allí, las personas que han sido arrestadas reciben un cuestionario y luego una puntuación del 1 al 10.
MCEVERS: Cuatro o más sugiere que es probable que reincidan. La reportera Julia Angwin dice que el análisis fue preciso aproximadamente el 61 por ciento de las veces, y trató a los negros y blancos de manera diferente. Le pedí que describiera cómo funciona el algoritmo.
JULIA ANGWIN: El que estábamos viendo lo creó una compañía de software patentada llamada Northpointe. No revelan su fórmula exacta, pero nos dijeron en general en qué se basaron, que es esencialmente su historial criminal, su nivel de educación, si tiene un trabajo. Y luego hay un montón de preguntas que tienen que ver con tu pensamiento criminal. Entonces, por ejemplo, ¿está de acuerdo o en desacuerdo con que está bien que una persona hambrienta robe? Y no todas las evaluaciones piden eso. Pero el producto principal que ofrece Northpointe tiene 137 preguntas. Y luego las jurisdicciones pueden usar cualquier subconjunto.
MCEVERS: Otras preguntas, como, ya sabes, ¿alguna vez enviaron a tus padres a la cárcel o prisión? ¿Cuántos de tus amigos consumen drogas ilegalmente? ¿Con qué frecuencia te metiste en peleas mientras estabas en la escuela? Cosas así, ¿verdad?
ANGWIN: Sí. hay muchas preguntas sobre tu familia, tus actitudes. ¿Te sientes aburrido a menudo? ¿Tienes problemas de ira? ¿Tu familia ha sido arrestada alguna vez?
MCEVERS: ¿El cuestionario pregunta específicamente sobre su raza?
ANGWIN: No, no pregunta sobre tu raza.
MCEVERS: Usted habló con algunos criminales endurecidos que fueron clasificados como de riesgo relativamente bajo. Incluso ellos se sorprendieron de ser calificados de esta manera. ¿Cómo pasó eso?
ANGWIN: Este tipo sobre el que escribimos, Jimmy Rivelli (ph), tiene unos 50 años, es un hombre blanco que, según su propio relato, ha llevado una vida delictiva, en su mayoría pequeños robos y principalmente para alimentar su adicción a las drogas. que está luchando por superar. Pero cuando le dije que estaba clasificado como de bajo riesgo, su reacción fue una sorpresa muy grande para mí porque acababa de salir de cinco años en la prisión estatal por tráfico de drogas cuando me arrestaron por eso.
MCEVERS: Guau. Entonces, ¿cómo es que alguien así puede recibir una calificación tan baja?
ANGWIN: Así que analizamos más de 7000 puntajes para ver qué estaba causando este tipo de disparidades. Y lo que descubrimos fue que, aunque este algoritmo está bien para predecir en general si se va a cometer otro delito en los próximos dos años, en realidad es inexacto de esta manera, ya que falla de manera diferente para blancos y negros. Por lo tanto, los acusados negros tienen el doble de probabilidades de ser calificados incorrectamente como de alto riesgo, lo que significa que no reincidieron. Y los acusados blancos tienen el doble de probabilidades de ser clasificados incorrectamente como de bajo riesgo y, sin embargo, reincidir.
MCEVERS: ¿Qué significa para alguien que está etiquetado incorrectamente por este sistema de evaluación de riesgos?
ANGWIN: Básicamente, si te dan una puntuación de bajo riesgo, se la dan al juez. Y en Florida, donde estábamos viendo los puntajes, el juez lo analiza mientras toma una decisión sobre la liberación previa al juicio, lo que significa que puede salir de la cárcel bajo fianza mientras espera el juicio por su delito. En otras jurisdicciones donde se usa exactamente el mismo software, este puntaje se usa para sentenciar.
Entonces, cuando te condenan por un delito, el juez obtiene un informe secreto, una investigación preliminar, generalmente sellada al público, que dice que esta persona es de alto riesgo. Debe tener eso en cuenta al hacer su sentencia. Y esas decisiones son muy importantes porque si estás juzgando, estás viendo algo de alto riesgo, podrías estar inclinado, y esto ha sucedido, es más probable que pongas a esa persona en una sentencia de prisión más larga.
MCEVERS: Deberíamos decir que la compañía, Northpointe, que administra estas pruebas cuestiona sus hallazgos.
ANGWIN: Sí, eso es correcto.
MCEVERS: Según toda la evidencia que observó y todos los expertos con los que habló, ¿cree que hay un lugar para este tipo de algoritmos en el sistema de justicia penal?
ANGWIN: El movimiento hacia puntajes de evaluación de riesgos tiene muy buenas intenciones, y simpatizo con la idea de que necesitamos hacer que el sistema de justicia penal sea más objetivo y más justo. y no ha