Journal des citations pour l'incident 40

Description: Correctional Offender Management Profiling for Alternative Sanctions (COMPAS), a recidivism risk-assessment algorithmic tool used in the judicial system to assess likelihood of defendants' recidivism, is found to be less accurate than random untrained human evaluators.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique
Présumé : Un système d'IA développé et mis en œuvre par Equivant, endommagé Accused People.

Statistiques d'incidents

ID
40
Nombre de rapports
22
Date de l'incident
2016-05-23
Editeurs
Sean McGregor

Classifications de taxonomie CSETv0

Détails de la taxonomie

Full Description

In 2018, researchers at Dartmouth College conducted a study comparing the Correctional Offender Management Profiling for Alternative Sanctions' (COMPAS), a recidivism risk-assessment algorithmic tool, and 462 random untrained human subjects' ability to predict criminals' risk of recidivism. Researchers gave the subjects descriptions of defendents, highlighting seven pieces of information, and asked subjects to rate the risk of a defendant's recidivism from 1-10. The pooled judgment of these untrained subjects' was accurate 67% of the time, compared to COMPAS's accuracy rate of 65%.

Short Description

Correctional Offender Management Profiling for Alternative Sanctions (COMPAS), a recidivism risk-assessment algorithmic tool used in the judicial system to assess likelihood of defendants' recidivism, is found to be less accurate than random untrained human evaluators.

Severity

Minor

Harm Type

Harm to social or political systems

AI System Description

predictive self-assessment algorithm that produces scores correlating to subject's recidivism risk

System Developer

Equivant

Sector of Deployment

Public administration and defence

Relevant AI functions

Perception, Cognition, Action

AI Techniques

law enforcement algorithm

AI Applications

risk assessment

Location

USA

Named Entities

Dartmouth College, Equivant

Technology Purveyor

Equivant

Beginning Date

2018-01-17T08:00:00.000Z

Ending Date

2018-01-17T08:00:00.000Z

Near Miss

Near miss

Intent

Accident

Lives Lost

No

Infrastructure Sectors

Government facilities

Data Inputs

Questionnaire consisting of 137 factors like age, prior convictions, criminal records

Classifications de taxonomie CSETv1

Détails de la taxonomie

Harm Distribution Basis

race, nation of origin, citizenship, immigrant status

Sector of Deployment

law enforcement, public administration

Comment nous avons analysé l'algorithme de récidive COMPAS
propublica.org · 2016

← Lire l'histoire

Partout au pays, les juges, les agents de probation et de libération conditionnelle utilisent de plus en plus des algorithmes pour évaluer la probabilité qu'un accusé devienne un récidiviste - un terme utilisé pour décrire…

Inspecter les algorithmes pour les biais
technologyreview.com · 2017

C'était une histoire saisissante. «Machine Bias», disait le titre, et le teaser proclamait: «Il existe des logiciels utilisés dans tout le pays pour prédire les futurs criminels. Et il est biaisé contre les Noirs.

ProPublica, une organisati…

Quand un programme informatique vous garde en prison
nytimes.com · 2017

Le système de justice pénale s'automatise. À chaque étape - du maintien de l'ordre et des enquêtes à la mise en liberté sous caution, en passant par les preuves, la condamnation et la libération conditionnelle - les systèmes informatiques j…

ProPublica a tort d'accuser les préjugés raciaux dans un algorithme
acsh.org · 2018

Prédire l'avenir n'est pas seulement l'affaire des diseurs de bonne aventure ou des experts des médias. Les algorithmes prédictifs, basés sur de vastes ensembles de données et de statistiques, ont dépassé les opérations de vente en gros et …

Mechanical Turkers a dépassé COMPAS, un algorithme judiciaire majeur
theverge.com · 2018

Nos algorithmes de prédiction de la criminalité les plus sophistiqués ne sont peut-être pas aussi bons que nous le pensions. Une étude publiée aujourd'hui dans Science Advances examine l'algorithme COMPAS populaire - utilisé pour évaluer la…

Un algorithme populaire n'est pas meilleur pour prédire les crimes que des personnes aléatoires
theatlantic.com · 2018

La prudence est en effet de mise, selon Julia Dressel et Hany Farid du Dartmouth College. Dans une nouvelle étude, ils ont montré que COMPAS n'est pas meilleur pour prédire le risque de récidive d'un individu que des volontaires aléatoires …

Les programmes sont-ils meilleurs que les gens pour prédire la récidive ?
economist.com · 2018

EN AMÉRIQUE, les ordinateurs sont utilisés depuis de nombreuses années pour faciliter les décisions de mise en liberté sous caution et de condamnation. Leurs partisans soutiennent que la logique rigoureuse d'un algorithme, formé avec une gr…

L'exactitude, l'équité et les limites de la prédiction de la récidive
science.org · 2018

Les algorithmes de prédiction de la récidive sont couramment utilisés pour évaluer la probabilité qu'un accusé criminel commette un crime. Ces prédictions sont utilisées dans les décisions de mise en état, de libération conditionnelle et de…

Un logiciel "pas plus précis que des humains non formés" pour juger du risque de récidive
theguardian.com · 2018

Selon des experts, le programme utilisé pour évaluer plus d'un million d'accusés aux États-Unis n'est peut-être pas suffisamment précis pour prendre des décisions susceptibles de changer leur vie

La crédibilité d'un programme informatique u…

Les algorithmes de mise en liberté sous caution sont aussi précis que des personnes aléatoires faisant un sondage en ligne
motherboard.vice.com · 2018

Les algorithmes qui évaluent la probabilité de récidive dans le cadre du processus de mise en liberté sous caution dans les affaires pénales sont, pour être franc, vraiment effrayants.

Nous ne savons pas grand-chose sur leur fonctionnement …

sciencedaily.com · 2018

Selon une étude du Dartmouth College, un outil logiciel informatique largement utilisé n'est peut-être pas plus précis ou juste pour prédire le comportement criminel à répétition que les personnes sans expérience de la justice pénale.

L'ana…

Les algorithmes de prédiction de la criminalité peuvent ne pas s'en sortir beaucoup mieux que les humains non formés
wired.com · 2018

Le système de justice pénale américain ne pourrait pas être beaucoup moins juste. Dans tout le pays, quelque 1,5 million de personnes sont enfermées dans des prisons d'État et fédérales. Plus de 600 000 personnes, dont la grande majorité n'…

Un programme informatique commun prédit la récidive aussi mal que les humains
inverse.com · 2018

Tout comme un chef professionnel ou un chirurgien cardiaque, un algorithme d'apprentissage automatique est aussi bon que la formation qu'il reçoit. Et comme les algorithmes prennent de plus en plus les rênes et prennent des décisions pour l…

Les algorithmes ne sont pas meilleurs pour prédire les récidivistes que les humains inexpérimentés
futurism.com · 2018

Prédire la récidive

La récidive est la probabilité qu'une personne reconnue coupable d'un crime récidive. Actuellement, ce taux est déterminé par des algorithmes prédictifs. Le résultat peut affecter tout, des décisions de détermination de …

Une étude révèle que l'algorithme de prédiction de la criminalité n'est pas plus intelligent que les enquêteurs en ligne
gizmodo.com.au · 2018

Dans une étude publiée mercredi, deux chercheurs de Dartmouth ont découvert qu'un algorithme populaire d'évaluation des risques n'était pas meilleur pour prédire la probabilité de récidive d'un délinquant criminel qu'une enquête sur Interne…

L'algorithme de détermination de la peine criminelle n'est pas plus précis que des personnes aléatoires sur Internet
pbs.org · 2018

Recevez des e-mails sur les programmes NOVA à venir et le contenu connexe, ainsi que des reportages sur les événements actuels à travers une lentille scientifique. Adresse e-mail Code postal S'inscrire

Selon une étude récente, un algorithme…

digitalethics.org · 2018

Bien que les taux de criminalité aient diminué régulièrement depuis les années 1990, les taux de récidive demeurent un facteur dans les domaines de la sécurité publique et de la gestion des détenus. L'Institut national de la justice définit…

Les préjugés raciaux peuvent-ils jamais être supprimés des algorithmes de justice pénale ?
psmag.com · 2018

(Photo : Joe Raedle/Getty Images)

Des dizaines de personnes se sont rassemblées dans une salle d'audience de Philadelphie le 6 juin pour exprimer leurs objections à un algorithme de justice pénale proposé. L'algorithme, développé par la Pen…

L'IA condamne des criminels et détermine les peines de prison, mais est-ce juste ?
weforum.org · 2018

Lorsque Netflix se trompe sur une recommandation de film, vous pensez probablement que ce n'est pas grave. De même, lorsque vos baskets préférées ne figurent pas dans la liste des produits recommandés d'Amazon, ce n'est probablement pas la …

privacyinternational.org · 2019

Dans une étude de COMPAS, un outil algorithmique utilisé dans le système de justice pénale américain, les chercheurs du Dartmouth College, Julia Dressel et Hany Farid, ont découvert que l'algorithme ne faisait pas mieux que les volontaires …

upturn.org · 2020

DÉCLARATION PRÉLIMINAIRE ET DÉCLARATION D'INTÉRÊT Un examen indépendant et contradictoire des logiciels utilisés dans le système de justice pénale est nécessaire pour protéger les tribunaux contre les preuves non fiables et pour s'assurer q…

slaw.ca · 2020

L'évaluation du risque de récidive est le processus de détermination de la probabilité qu'une personne accusée, condamnée ou incarcérée récidive. Le processus vise à aider à déterminer la limitation appropriée de la liberté du sujet. Grâce …

Variantes

Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

Northpointe Risk Models

Machine Bias - ProPublica

· 15 rapports
Predictive Policing Biases of PredPol

Policing the Future

· 17 rapports