Incidentes Asociados
En un estudio de COMPAS, una herramienta algorítmica utilizada en el sistema de justicia penal de EE. UU., los investigadores de Dartmouth College, Julia Dressel y Hany Farid, descubrieron que el algoritmo no funcionaba mejor que los voluntarios reclutados a través de un sitio de crowdsourcing. COMPAS, un algoritmo patentado de evaluación de riesgos desarrollado por Equivant (anteriormente Northpointe), considera las respuestas a un cuestionario de 137 elementos para proporcionar predicciones que se utilizan para tomar decisiones sobre sentencias y libertad condicional. En un caso presentado por un acusado, quien afirmó que el uso de un algoritmo cuyo funcionamiento interno era un secreto de propiedad violaba el debido proceso.
Las críticas anteriores, como un estudio de 2017 de ProPublica, han dado lugar a debates sobre cómo medir la equidad. Sin embargo, ninguno probó la afirmación crucial de que el algoritmo proporcionó predicciones más precisas que las que harían los humanos. Para probar esto, Dressel y Farid pidieron a 400 voluntarios no expertos que adivinaran si un acusado cometería otro delito dentro de dos años, dadas las breves descripciones de los acusados de la investigación de ProPublica en las que se destacaron siete piezas de información. En promedio, el grupo obtuvo la respuesta correcta el 63 % de las veces, y el 67 % de las veces si se combinaron sus respuestas. La precisión de COMPAS es del 65%. Debido a que Equivant no revela su algoritmo para el estudio, los investigadores crearon el suyo propio, haciéndolo lo más simple posible; mostró una precisión del 67%, incluso utilizando solo dos datos, la edad del acusado y el número de condenas anteriores. Otros investigadores han encontrado resultados similares.
Farid y Dressel argumentan que el punto no es que estos algoritmos no deban usarse, sino que deben entenderse y exigirse para demostrar que funcionan antes de que se pongan en uso para determinar el curso de la vida de las personas.
https://www.theatlantic.com/technology/archive/2018/01/equivant-compas-algorithm/550646/
Etiquetas: justicia penal, COMPAS, algoritmos, investigación, pruebas científicas, Dartmouth, tasas de error, predicción
escritor: Ed Yong
Publicación: El Atlántico