Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Incident 433: Chicago Police's Strategic Subject List Reportedly Biased Along Racial Lines

Description: Chicago Police Department (CPD)'s Strategic Subject List as output of an algorithm purportedly to identify victims or perpetrators of violence was reportedly ineffective, easily abused, and biased against low-income communities of color.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique

Entités

Voir toutes les entités
Présumé : Un système d'IA développé et mis en œuvre par Chicago Police Department, a endommagé low-income communities , communities of color et Black Chicago residents.

Statistiques d'incidents

ID
433
Nombre de rapports
10
Date de l'incident
2012-08-01
Editeurs
Khoa Lam
Applied Taxonomies
MIT

Classifications de taxonomie MIT

Machine-Classified
Détails de la taxonomie

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

1.1. Unfair discrimination and misrepresentation

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Discrimination and Toxicity

Entity

Which, if any, entity is presented as the main cause of the risk
 

Human

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Intentional

Rapports d'incidents

Chronologie du rapport

Incident OccurrenceLes données de la police pourraient étiqueter des "suspects" pour des crimes qu'ils n'ont pas commis+3
Une étude jette le doute sur la «liste de chaleur» secrète de la police de Chicago
+1
La police prédictive viole plus qu'elle ne protège : colonne
À l'intérieur de l'algorithme qui tente de prédire la violence armée à ChicagoLes contradictions de la liste secrète de la police de ChicagoLe CPD supprime la « liste de sujets stratégiques »
Les données de la police pourraient étiqueter des "suspects" pour des crimes qu'ils n'ont pas commis

Les données de la police pourraient étiqueter des "suspects" pour des crimes qu'ils n'ont pas commis

theguardian.com

Une étude jette le doute sur la «liste de chaleur» secrète de la police de Chicago

Une étude jette le doute sur la «liste de chaleur» secrète de la police de Chicago

chicagomag.com

L'outil de police prédictive de Chicago vient d'échouer à un test majeur

L'outil de police prédictive de Chicago vient d'échouer à un test majeur

theverge.com

Prévoir et servir ?

Prévoir et servir ?

rss.onlinelibrary.wiley.com

Les pièges de la police prédictive

Les pièges de la police prédictive

rand.org

La police prédictive viole plus qu'elle ne protège : colonne

La police prédictive viole plus qu'elle ne protège : colonne

usatoday.com

La police prédictive n'est pas aussi prédictive que vous le pensez

La police prédictive n'est pas aussi prédictive que vous le pensez

cfr.org

À l'intérieur de l'algorithme qui tente de prédire la violence armée à Chicago

À l'intérieur de l'algorithme qui tente de prédire la violence armée à Chicago

nytimes.com

Les contradictions de la liste secrète de la police de Chicago

Les contradictions de la liste secrète de la police de Chicago

chicagomag.com

Le CPD supprime la « liste de sujets stratégiques »

Le CPD supprime la « liste de sujets stratégiques »

chicago.suntimes.com

Les données de la police pourraient étiqueter des "suspects" pour des crimes qu'ils n'ont pas commis
theguardian.com · 2016
Traduit par IA

Un policier se tient au coin d'une intersection achalandée, scrutant la foule avec sa caméra corporelle. Le flux est diffusé en direct dans le Real Time Crime Center au siège du département, où un logiciel spécialisé utilise la reconnaissan…

Une étude jette le doute sur la «liste de chaleur» secrète de la police de Chicago
chicagomag.com · 2016
Traduit par IA

Au cours des quatre dernières années, le service de police de Chicago a tenu une liste des personnes qui, selon eux, sont les plus susceptibles d'être impliquées dans une fusillade. La liste, connue sous le nom de « heat list » ou liste de …

L'outil de police prédictive de Chicago vient d'échouer à un test majeur
theverge.com · 2016
Traduit par IA

Luttant pour réduire son taux élevé de meurtres, la ville de Chicago est devenue un incubateur de techniques policières expérimentales. Police de proximité, stop and frisk, "interruption" - la tactique la ville a essayé de nombreuses straté…

Prévoir et servir ?
rss.onlinelibrary.wiley.com · 2016
Traduit par IA

Fin 2013, Robert McDaniel – un homme noir de 22 ans qui vit dans le quartier sud de Chicago – a reçu la visite inopinée d'un commandant du département de police de Chicago pour l'avertir de ne plus commettre d'autres crimes. La visite a pri…

Les pièges de la police prédictive
rand.org · 2016
Traduit par IA

Considérez-le comme le « rapport sur les minorités » de la vie réelle : la police de Chicago affirme qu'elle utilise avec succès les mégadonnées pour prédire qui se fera tirer dessus et qui tirera. Mais la vie est plus compliquée que les fi…

La police prédictive viole plus qu'elle ne protège : colonne
usatoday.com · 2016
Traduit par IA

Le système destiné à alléger les ressources de la police cible de manière disproportionnée les communautés minoritaires et soulève des préoccupations concernant le quatrième amendement

Une voiture de patrouille de la police d'Oakland (Photo…

La police prédictive n'est pas aussi prédictive que vous le pensez
cfr.org · 2017
Traduit par IA

Le problème de la police a toujours été que c'est après coup. Si les agents chargés de l'application des lois pouvaient être au bon endroit au bon moment, le crime pourrait être prévenu, des vies pourraient être sauvées et la société serait…

À l'intérieur de l'algorithme qui tente de prédire la violence armée à Chicago
nytimes.com · 2017
Traduit par IA

La violence armée à Chicago a augmenté depuis fin 2015, et une grande partie de [l'attention des médias](https://www.nytimes.com/2016/05/24/us/armed-with-data-chicago-police-try- to-predict-who-may-shoot-or-be-shot.html) sur la façon dont l…

Les contradictions de la liste secrète de la police de Chicago
chicagomag.com · 2017
Traduit par IA

Chicago est un chef de file dans l'utilisation de la police prédictive, l'utilisation de données et d'algorithmes pour éclairer sa stratégie globale et sa prise de décision sur le terrain. L'un de ces outils qui est utilisé depuis 2012 est …

Le CPD supprime la « liste de sujets stratégiques »
chicago.suntimes.com · 2020
Traduit par IA

La «liste de sujets stratégiques» du département de police de Chicago a été discrètement mise au pâturage en novembre, selon le bureau de l'inspecteur général, qui avait soulevé plusieurs questions concernant l'efficacité du programme.

Aprè…

Variantes

Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

Police Departments Reported ShotSpotter as Unreliable and Wasteful

Gunshot detection system gets mixed reviews nationally

Oct 2012 · 15 rapports
Predictive Policing Biases of PredPol

Policing the Future

Nov 2015 · 17 rapports
Predictive Policing Program by Florida Sheriff’s Office Allegedly Violated Residents’ Rights and Targeted Children of Vulnerable Groups

Predictive policing strategies for children face pushback

Sep 2015 · 12 rapports
Incident précédentProchain incident

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

Police Departments Reported ShotSpotter as Unreliable and Wasteful

Gunshot detection system gets mixed reviews nationally

Oct 2012 · 15 rapports
Predictive Policing Biases of PredPol

Policing the Future

Nov 2015 · 17 rapports
Predictive Policing Program by Florida Sheriff’s Office Allegedly Violated Residents’ Rights and Targeted Children of Vulnerable Groups

Predictive policing strategies for children face pushback

Sep 2015 · 12 rapports

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • ecd56df