Incidentes Asociados
En una tarde de primavera de 2014, Brisha Borden llegaba tarde para recoger a su hermanastra de la escuela cuando vio una bicicleta Huffy azul para niños sin llave y un scooter Razor plateado. Borden y un amigo tomaron la bicicleta y el scooter e intentaron conducirlos por la calle en Coral Springs, un suburbio de Fort Lauderdale.
Justo cuando las niñas de 18 años se daban cuenta de que eran demasiado grandes para los pequeños vehículos, que pertenecían a un niño de 6 años, una mujer corrió detrás de ellas diciendo: "Esas son cosas de mis hijos". Borden y su amiga inmediatamente dejaron la bicicleta y el scooter y se alejaron.
Pero ya era demasiado tarde: un vecino que presenció el atraco ya había llamado a la policía. Borden y su amiga fueron arrestadas y acusadas de robo y hurto menor por los artículos, que estaban valorados en un total de $80.
Compare su crimen con uno similar: el verano anterior, Vernon Prater, de 41 años, fue arrestado por robar $86.35 en herramientas de una tienda cercana de Home Depot.
Prater era el criminal más experimentado. Ya había sido condenado por robo a mano armada y tentativa de robo a mano armada, por lo que cumplió cinco años de prisión, además de otro cargo de robo a mano armada. Borden también tenía antecedentes, pero era por delitos menores cometidos cuando era menor de edad.
Sin embargo, sucedió algo extraño cuando Borden y Prater fueron encarcelados: un programa de computadora emitió una puntuación que predecía la probabilidad de que cada uno cometiera un delito en el futuro. Borden, que es negro, fue calificado como de alto riesgo. Prater, que es blanco, fue calificado como de bajo riesgo.
Dos años después, sabemos que el algoritmo de la computadora lo entendió exactamente al revés. Borden no ha sido acusado de ningún delito nuevo. Prater está cumpliendo una condena de ocho años de prisión por irrumpir posteriormente en un almacén y robar productos electrónicos por valor de miles de dólares.
Puntuaciones como esta, conocidas como evaluaciones de riesgo, son cada vez más comunes en los tribunales de todo el país. Se utilizan para informar las decisiones sobre quién puede ser puesto en libertad en cada etapa del sistema de justicia penal, desde la asignación de montos de fianza, como es el caso en Fort Lauderdale, hasta decisiones aún más fundamentales sobre la libertad de los acusados. En Arizona, Colorado, Delaware, Kentucky, Luisiana, Oklahoma, Virginia, Washington y Wisconsin, los resultados de dichas evaluaciones se entregan a los jueces durante la sentencia penal.
La calificación del riesgo de un acusado de cometer un delito futuro a menudo se realiza junto con una evaluación de las necesidades de rehabilitación del acusado. El Instituto Nacional Correccional del Departamento de Justicia ahora alienta el uso de dichas evaluaciones combinadas en cada etapa del proceso de justicia penal. Y un proyecto de ley histórico de reforma de sentencias actualmente pendiente en el Congreso ordenaría el uso de tales evaluaciones en las prisiones federales.
Dos arrestos por hurto menor Vernon Prater Delitos anteriores 2 robos a mano armada, 1 intento de robo a mano armada Riesgo bajo 3 delitos posteriores 1 hurto mayor Brisha Borden Delitos anteriores 4 delitos menores menores Riesgo alto 8 delitos posteriores Ninguno Borden fue clasificado como de alto riesgo para futuros delitos después de que ella y un amigo tomó la bicicleta y el scooter de un niño que estaban sentados afuera. Ella no reincidió.
En 2014, el entonces fiscal general de los EE. UU., Eric Holder, advirtió que las puntuaciones de riesgo podrían estar inyectando sesgo en los tribunales. Hizo un llamado a la Comisión de Sentencias de los Estados Unidos para que estudie su uso. “Aunque estas medidas fueron elaboradas con las mejores intenciones, me preocupa que, sin darse cuenta, socaven nuestros esfuerzos para garantizar una justicia individualizada e igualitaria”, dijo, y agregó, “pueden exacerbar las disparidades injustificadas e injustificadas que ya son demasiado comunes en nuestro país”. sistema de justicia penal y en nuestra sociedad”.
Sin embargo, la comisión de sentencias no lanzó un estudio de puntajes de riesgo. Así lo hizo ProPublica, como parte de un examen más amplio del efecto poderoso y en gran parte oculto de los algoritmos en la vida estadounidense.
Obtuvimos los puntajes de riesgo asignados a más de 7000 personas arrestadas en el condado de Broward, Florida, en 2013 y 2014 y verificamos cuántos fueron acusados de nuevos delitos durante los próximos dos años, el mismo punto de referencia utilizado por los creadores del algoritmo.
El puntaje resultó notablemente poco confiable para pronosticar delitos violentos: solo el 20 por ciento de las personas que se predijo que cometerían delitos violentos en realidad lo hicieron.
Cuando se tuvo en cuenta una gama completa de delitos, incluidos delitos menores como conducir con una licencia vencida, el algoritmo fue algo más preciso que lanzar una moneda al aire. De los que se consideró probable que volviera a delinquir, el 61 por ciento fue arrestado por cualquier delito posterior dentro de los dos años.
También descubrimos disparidades raciales significativas, tal como temía Holder. Al pronosticar quién volvería a delinquir, el algoritmo cometió errores con los acusados blancos y negros aproximadamente al mismo ritmo pero de maneras muy diferentes.
La fórmula era particularmente probable que marcara falsamente a los acusados negros como futuros delincuentes, etiquetándolos erróneamente de esta manera en casi el doble de la tasa de acusados blancos.
Los acusados blancos fueron mal etiquetados como de bajo riesgo con más frecuencia que los acusados negros.
no podría