Incidentes Asociados
(Foto: Joe Raedle/Getty Images)
Docenas de personas llenaron un tribunal de Filadelfia el 6 de junio para expresar sus objeciones a un algoritmo de justicia penal propuesto. El algoritmo, desarrollado por la Comisión de Sentencias de Pensilvania, fue concebido como una forma de reducir el encarcelamiento al predecir el riesgo de que una persona represente una amenaza para la seguridad pública y ayudar a desviar a aquellos que tienen un riesgo bajo hacia alternativas al encarcelamiento.
PUBLICIDAD ¡Gracias por mirar! Visita la página web
Pero a muchos de los oradores les preocupaba que la herramienta aumentara las disparidades raciales en un estado donde la tasa de encarcelamiento de los estadounidenses negros es nueve veces mayor que la de los blancos. El torrente de preocupación en las audiencias públicas, así como de casi 2000 personas que firmaron una petición en línea de la organización sin fines de lucro Color of Change, tuvo un gran efecto: mientras que la comisión de sentencias había planeado votar el 14 de junio sobre la adopción del algoritmo , los miembros decidieron retrasar la votación durante al menos seis meses para considerar las objeciones y solicitar más aportes.
Los algoritmos que hacen predicciones sobre el comportamiento futuro en función de factores como la edad y los antecedentes penales de una persona se utilizan cada vez más, y son cada vez más controvertidos, en la toma de decisiones de justicia penal. Una de las grandes objeciones al uso de tales algoritmos es que a veces operan fuera de la vista del público. Por ejemplo, varios estados han adoptado una herramienta llamada COMPAS desarrollada por la empresa Northpointe (ahora llamada Equivant), que afirma que el algoritmo es propietario y se niega a compartir detalles cruciales sobre cómo calcula las puntuaciones.
PUBLICIDAD ¡Gracias por mirar! Visita la página web
PUBLICIDAD ¡Gracias por mirar! Visita la página web
En un sorprendente contraste, la comisión de sentencias de Pensilvania ha sido muy transparente. La legislación aprobada en 2010 encomendó a la comisión el desarrollo de un instrumento de evaluación de riesgos para uso de los jueces al dictar sentencia "como ayuda para evaluar el riesgo relativo de que un delincuente reincida y sea una amenaza para la seguridad pública", y para ayudar a identificar candidatos para alternativas a encarcelamiento. Desde 2010, la comisión ha publicado más de 15 informes que detallan el desarrollo del algoritmo y ha realizado 11 audiencias públicas para solicitar comentarios. La comisión también modificó su propuesta con el tiempo en respuesta a los aportes de la comunidad. Por ejemplo, la Asociación de Defensores de Filadelfia y otras organizaciones argumentaron en 2017 que el uso de antecedentes de arrestos anteriores como factor de entrada probablemente exacerbaría los prejuicios raciales, y esta preocupación fue un factor en la decisión de la comisión de cambiar a usar condenas en lugar de arrestos
Pero los defensores todavía tienen preocupaciones sobre otros elementos del algoritmo. Por ejemplo, la comisión descubrió que las predicciones sobre quién estaba en alto riesgo de ser arrestado nuevamente por un delito violento (un "delito contra una persona") tenían solo un 18 por ciento de precisión, por lo que decidió no confiar en esta información. En cambio, el instrumento predice una "reincidencia" general, definida como un nuevo arresto por cualquier delito menor o delito mayor en Pensilvania dentro de un período de tres años, o por reingreso al Departamento Correccional por una violación técnica de la libertad condicional. (La excepción son los pocos casos en los que a una persona se le asigna una puntuación de bajo riesgo de cometer un delito contra otra persona pero un alto riesgo de reincidencia general, en cuyo caso se mostrarán ambas puntuaciones).
Existe un acuerdo generalizado de que la comisión merece mucho crédito aquí. Es raro ver a los diseñadores de un algoritmo de justicia penal exponer los detalles, incluido el proceso de diseño, con tanto detalle. (En comparación, la información básica, como las entradas utilizadas en COMPAS, permanecen fuera de la vista del público, luego de que una demanda en Wisconsin impugnara sin éxito su uso en la sentencia como una violación del derecho al debido proceso). Mark Houldin, director de políticas de la Asociación de Defensores de Filadelfia, dijo: "El enfoque de la Comisión de publicar informes sobre cada paso es realmente excelente, y cualquier jurisdicción que busque adoptar una herramienta como esta debería hacer exactamente eso. Si las matemáticas, las suposiciones y las decisiones no son transparentes, no hay manera de permitir que las partes interesadas y la comunidad tengan voz".
Aun así, Houldin no cree que el algoritmo propuesto deba usarse en absoluto. Dado que la comisión descubrió que no podía predecir el riesgo de un nuevo arresto violento con una precisión razonable, la abogada defensora penal Marni Snyder y otros miembros del Grupo de trabajo de evaluación de riesgos (formado por Snyder y el representante estatal demócrata Brian Sims) dicen que la comisión, junto con la legislatura, debería haber reconsiderado si proponer el algoritmo. Nyssa Taylor, asesora de políticas de justicia penal de la Unión Estadounidense de Libertades Civiles de Pensilvania, dice que también es extremadamente problemático que la definición de reincidencia incluya violaciones técnicas de la libertad condicional, aquellas en las que no se comete ningún delito nuevo, como faltar al toque de queda y no notificar a un oficial de un cambio de domicilio. Señaló que Pensilvania