Registro de citas para el Incidente 154

Description: Department of Justice’s inmate-recidivism risk assessment tool was reported to have produced racially uneven results, misclassifying risk levels for inmates of color.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial
Presunto: un sistema de IA desarrollado e implementado por US Department of Justice, perjudicó a inmates of color.

Estadísticas de incidentes

ID
154
Cantidad de informes
1
Fecha del Incidente
2022-01-26
Editores
Sean McGregor, Khoa Lam

Clasificaciones de la Taxonomía GMF

Detalles de la Taxonomía

Known AI Goal

Recidivism Prediction

Potential AI Technology

Diverse Data, Distributional Learning

Known AI Technical Failure

Lack of Transparency, Misconfigured Threshold

Potential AI Technical Failure

Incomplete Data Attribute Capture, Distributional Bias

Las fallas plagan una herramienta destinada a ayudar a los presos federales de bajo riesgo a obtener la liberación anticipada
npr.org · 2022

Miles de personas están saliendo de la prisión federal este mes gracias a una ley llamada Ley del Primer Paso, que les permitió ganar la libertad anticipada al participar en programas destinados a facilitar su regreso a la sociedad.

Pero mi…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents