Registro de citas para el Incidente 40

Description: Correctional Offender Management Profiling for Alternative Sanctions (COMPAS), a recidivism risk-assessment algorithmic tool used in the judicial system to assess likelihood of defendants' recidivism, is found to be less accurate than random untrained human evaluators.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial
Presunto: un sistema de IA desarrollado e implementado por Equivant, perjudicó a Accused People.

Estadísticas de incidentes

ID
40
Cantidad de informes
22
Fecha del Incidente
2016-05-23
Editores
Sean McGregor

Clasificaciones de la Taxonomía CSETv0

Detalles de la Taxonomía

Full Description

In 2018, researchers at Dartmouth College conducted a study comparing the Correctional Offender Management Profiling for Alternative Sanctions' (COMPAS), a recidivism risk-assessment algorithmic tool, and 462 random untrained human subjects' ability to predict criminals' risk of recidivism. Researchers gave the subjects descriptions of defendents, highlighting seven pieces of information, and asked subjects to rate the risk of a defendant's recidivism from 1-10. The pooled judgment of these untrained subjects' was accurate 67% of the time, compared to COMPAS's accuracy rate of 65%.

Short Description

Correctional Offender Management Profiling for Alternative Sanctions (COMPAS), a recidivism risk-assessment algorithmic tool used in the judicial system to assess likelihood of defendants' recidivism, is found to be less accurate than random untrained human evaluators.

Severity

Minor

Harm Type

Harm to social or political systems

AI System Description

predictive self-assessment algorithm that produces scores correlating to subject's recidivism risk

System Developer

Equivant

Sector of Deployment

Public administration and defence

Relevant AI functions

Perception, Cognition, Action

AI Techniques

law enforcement algorithm

AI Applications

risk assessment

Location

USA

Named Entities

Dartmouth College, Equivant

Technology Purveyor

Equivant

Beginning Date

2018-01-17T08:00:00.000Z

Ending Date

2018-01-17T08:00:00.000Z

Near Miss

Near miss

Intent

Accident

Lives Lost

No

Infrastructure Sectors

Government facilities

Data Inputs

Questionnaire consisting of 137 factors like age, prior convictions, criminal records

Clasificaciones de la Taxonomía CSETv1

Detalles de la Taxonomía

Harm Distribution Basis

race, nation of origin, citizenship, immigrant status

Sector of Deployment

law enforcement, public administration

Cómo analizamos el algoritmo de reincidencia COMPAS
propublica.org · 2016

← Leer la historia

En todo el país, los jueces y los oficiales de libertad condicional utilizan cada vez más algoritmos para evaluar la probabilidad de que un acusado de un delito se convierta en reincidente, un término que se usa para desc…

Inspección de algoritmos para sesgo
technologyreview.com · 2017

Fue una historia impactante. “Machine Bias”, decía el titular, y el adelanto proclamaba: “Hay software utilizado en todo el país para predecir futuros delincuentes. Y está sesgado contra los negros”.

ProPublica, una organización de noticias…

Cuando un programa de computadora te mantiene en la cárcel
nytimes.com · 2017

El sistema de justicia penal se está automatizando. En cada etapa, desde la vigilancia y las investigaciones hasta la fianza, las pruebas, la sentencia y la libertad condicional, los sistemas informáticos desempeñan un papel. La inteligenci…

ProPublica se equivoca al cargar el sesgo racial en un algoritmo
acsh.org · 2018

Predecir el futuro no es solo la procedencia de los adivinos o los expertos de los medios. Los algoritmos predictivos, basados en amplios conjuntos de datos y estadísticas, han superado las operaciones mayoristas y minoristas como sabe cual…

Mechanical Turkers superó a COMPAS, un importante algoritmo judicial
theverge.com · 2018

Nuestros algoritmos de predicción de delitos más sofisticados pueden no ser tan buenos como pensábamos. Un estudio publicado hoy en Science Advances analiza el popular algoritmo COMPAS, utilizado para evaluar la probabilidad de que un acusa…

Un algoritmo popular no es mejor para predecir crímenes que personas aleatorias
theatlantic.com · 2018

De hecho, se justifica la precaución, según Julia Dressel y Hany Farid de Dartmouth College. En un nuevo estudio, demostraron que COMPAS no es mejor para predecir el riesgo de reincidencia de un individuo que los voluntarios reclutados al a…

¿Son los programas mejores que las personas para predecir la reincidencia?
economist.com · 2018

EN AMÉRICA, las computadoras se han utilizado para ayudar en las decisiones sobre fianzas y sentencias durante muchos años. Sus defensores argumentan que la lógica rigurosa de un algoritmo, entrenado con una gran cantidad de datos, puede em…

La precisión, la equidad y los límites de la predicción de la reincidencia
science.org · 2018

Los algoritmos para predecir la reincidencia se utilizan comúnmente para evaluar la probabilidad de que un acusado de un delito cometa un delito. Estas predicciones se utilizan en decisiones previas al juicio, libertad condicional y sentenc…

El software "no es más preciso que los humanos no capacitados" para juzgar el riesgo de reincidencia
theguardian.com · 2018

El programa utilizado para evaluar a más de un millón de acusados en EE. UU. puede no ser lo suficientemente preciso para tomar decisiones que podrían cambiar la vida, dicen los expertos

La credibilidad de un programa de computadora utiliza…

Los algoritmos de fianza son tan precisos como personas aleatorias que realizan una encuesta en línea
motherboard.vice.com · 2018

Los algoritmos que evalúan la probabilidad de que las personas vuelvan a delinquir como parte del proceso de fijación de fianzas en casos penales son, para ser sinceros, realmente aterradores.

No sabemos mucho acerca de cómo funcionan, las …

sciencedaily.com · 2018

Una herramienta de software de computadora ampliamente utilizada puede no ser más precisa o justa para predecir el comportamiento delictivo repetido que las personas sin experiencia en justicia penal, según un estudio de Dartmouth College.

Los algoritmos de predicción del crimen pueden no funcionar mucho mejor que los humanos no entrenados
wired.com · 2018

El sistema de justicia penal estadounidense no podría ser menos justo. En todo el país, alrededor de 1,5 millones de personas están encerradas en prisiones estatales y federales. Más de 600.000 personas, la gran mayoría de las cuales aún no…

Un programa informático común predice la reincidencia tan mal como los humanos
inverse.com · 2018

Al igual que un chef profesional o un cirujano cardíaco, un algoritmo de aprendizaje automático es tan bueno como la capacitación que recibe. Y a medida que los algoritmos toman cada vez más las riendas y toman decisiones por los humanos, d…

Los algoritmos no son mejores para predecir reincidentes que los humanos sin experiencia
futurism.com · 2018

Predicción de la reincidencia

La reincidencia es la probabilidad de que una persona condenada por un delito vuelva a delinquir. Actualmente, esta tasa está determinada por algoritmos predictivos. El resultado puede afectar todo, desde las d…

Un estudio encuentra que el algoritmo de predicción del crimen no es más inteligente que los encuestadores en línea
gizmodo.com.au · 2018

En un estudio publicado el miércoles, un par de investigadores de Dartmouth descubrieron que un popular algoritmo de evaluación de riesgos no era mejor para predecir la probabilidad de reincidencia de un delincuente que una encuesta en Inte…

Algoritmo de sentencia penal no más preciso que personas aleatorias en Internet
pbs.org · 2018

Reciba correos electrónicos sobre los próximos programas de NOVA y contenido relacionado, así como informes destacados sobre eventos actuales a través de una lente científica. Dirección de correo electrónico Código postal Suscríbete

Un algo…

digitalethics.org · 2018

Aunque las tasas de criminalidad han disminuido constantemente desde la década de 1990, las tasas de reincidencia siguen siendo un factor tanto en las áreas de seguridad pública como en el manejo de prisioneros. El Instituto Nacional de Jus…

¿Se puede eliminar el sesgo racial de los algoritmos de justicia penal?
psmag.com · 2018

(Foto: Joe Raedle/Getty Images)

Docenas de personas llenaron un tribunal de Filadelfia el 6 de junio para expresar sus objeciones a un algoritmo de justicia penal propuesto. El algoritmo, desarrollado por la Comisión de Sentencias de Pensil…

AI está condenando a los criminales y determinando el tiempo de cárcel, pero ¿es justo?
weforum.org · 2018

Cuando Netflix se equivoca al recomendar una película, probablemente pienses que no es gran cosa. Del mismo modo, cuando tus zapatillas favoritas no aparecen en la lista de productos recomendados de Amazon, probablemente no sea el fin del m…

privacyinternational.org · 2019

En un estudio de COMPAS, una herramienta algorítmica utilizada en el sistema de justicia penal de EE. UU., los investigadores de Dartmouth College, Julia Dressel y Hany Farid, descubrieron que el algoritmo no funcionaba mejor que los volunt…

upturn.org · 2020

DECLARACIÓN PRELIMINAR Y DECLARACIÓN DE INTERÉS La revisión independiente y contradictoria del software utilizado en el sistema legal penal es necesaria para proteger a los tribunales de evidencia poco confiable y para garantizar que la int…

slaw.ca · 2020

La evaluación del riesgo de reincidencia es el proceso de determinar la probabilidad de que una persona acusada, condenada o encarcelada reincida. El proceso tiene por objeto coadyuvar en la determinación de la debida limitación a la libert…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Northpointe Risk Models

Machine Bias - ProPublica

· 15 informes
Predictive Policing Biases of PredPol

Policing the Future

· 17 informes