Incidente 154: El algoritmo de riesgo de reincidencia PATTERN del Departamento de Justicia supuestamente causó disparidades persistentes según líneas raciales
Descripción: Se informó que la herramienta de evaluación del riesgo de reincidencia de reclusos del Departamento de Justicia produjo resultados racialmente desiguales, clasificando erróneamente los niveles de riesgo de los reclusos de color.
Entidades
Ver todas las entidadesPresunto: un sistema de IA desarrollado e implementado por United States Department of Justice y AI-enabled decision support systems, perjudicó a inmates of color y Incarcerated people.
Sistema de IA presuntamente implicado: AI-enabled decision support systems
Clasificaciones de la Taxonomía GMF
Detalles de la TaxonomíaKnown AI Goal Snippets
One or more snippets that justify the classification.
(Snippet Text: In a report issued days before Christmas in 2021, the department said its algorithmic tool for assessing the risk that a person in prison would return to crime produced uneven results. , Related Classifications: Recidivism Prediction)
Clasificaciones de la Taxonomía CSETv1
Detalles de la TaxonomíaIncident Number
The number of the incident in the AI Incident Database.
154
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
1.1. Unfair discrimination and misrepresentation
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Discrimination and Toxicity
Entity
Which, if any, entity is presented as the main cause of the risk
AI
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Unintentional
Informes del Incidente
Cronología de Informes
Loading...
Miles de personas están saliendo de la prisión federal este mes gracias a una ley llamada Ley del Primer Paso, que les permitió ganar la libertad anticipada al participar en programas destinados a facilitar su regreso a la sociedad.
Pero mi…
Variantes
Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.
¿Has visto algo similar?
