Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 1008

Incidents associés

Incident 5417 Rapports
Predictive Policing Biases of PredPol

Loading...
La police utilise un logiciel pour prédire la criminalité. Est-ce un « Saint Graal » ou un parti pris contre les minorités ?
washingtonpost.com · 2016

Au cours d'un quart d'octobre, le sergent de la police de Los Angeles. Charles Coleman de la division Foothill s'entretient avec Clarance Dolberry, portant une casquette de baseball, et Veronica De Leon, portant un masque de Mardi Gras, à un arrêt de bus. Un logiciel qui prédit d'éventuels crimes futurs aide à guider où il patrouille. (Patrick T. Fallon pour le Washington Post)

sergent. Charles Coleman est sorti de son SUV de police et a scanné une rue jonchée d'ordures populaire auprès des sans-abri de la ville, répondant à un crime qui n'avait pas encore eu lieu.

Ce n'est pas un appel au 911 qui a amené l'officier du département de police de Los Angeles à cet endroit, mais un ordinateur vrombissant analysant des années de données sur la criminalité pour arriver à une prédiction : un vol de voiture ou un cambriolage se produirait probablement près d'ici ce matin-là.

Dans l'espoir de l'éviter, Coleman a inspecté une ligne de camping-cars délabrés utilisés comme abris par les sans-abri, a réveillé un homme qui dormait dans une camionnette et a tapé sur le côté d'une cabane en contreplaqué et en bâches.

« Comment ça va, ma chérie ? » demanda-t-il à une femme qui sortait à pied. Coleman a écouté avec sympathie alors qu'elle décrivait comment elle avait failli être violée à coups de couteau des mois plus tôt, affirmant que la région était "vraiment difficile" pour une femme.

Bientôt, Coleman était de retour dans son SUV en route pour combattre le prochain pré-crime. Des dizaines d'autres officiers du LAPD faisaient de même à d'autres endroits, guidés par le système de pronostic du crime connu sous le nom de PredPol.

La « police prédictive » représente un changement de paradigme qui balaie les services de police à travers le pays. Les forces de l'ordre tentent de plus en plus de prévoir où et quand le crime se produira, ou qui pourrait en être l'auteur ou la victime, en utilisant un logiciel qui s'appuie sur des algorithmes, les mêmes calculs qu'Amazon utilise pour recommander des livres.

"L'espoir est le Saint Graal des forces de l'ordre - prévenir le crime avant qu'il ne se produise", a déclaré Andrew G. Ferguson, professeur de droit à l'Université du district de Columbia, préparant un livre sur les mégadonnées et la police.

Désormais utilisées par 20 des 50 plus grandes forces de police du pays, les technologies sont au centre d'un débat de plus en plus houleux sur leur efficacité, leur impact potentiel sur les communautés pauvres et minoritaires et leurs implications pour les libertés civiles.

Certains services de police ont salué PredPol et d'autres systèmes comme essentiels à la réduction de la criminalité, en concentrant les ressources rares sur les points chauds et les individus et en remplaçant les intuitions et les préjugés potentiels des agents par des données concrètes.

Mais les groupes de protection de la vie privée et de justice raciale affirment qu'il y a peu de preuves que les technologies fonctionnent et notent que les formules qui alimentent les systèmes sont en grande partie secrètes. Ils craignent que la pratique ne concentre injustement l'application de la loi dans les communautés de couleur en s'appuyant sur des données policières biaisées sur le plan racial. Et ils craignent que les agents qui s'attendent à ce qu'un vol ou un cambriolage se produise soient plus susceptibles de traiter les personnes qu'ils rencontrent comme des criminels potentiels.

Les expériences sont l'un des tests les plus importants d'algorithmes qui sont des forces de plus en plus puissantes dans nos vies, déterminant les cotes de crédit, mesurant les performances au travail et signalant les enfants susceptibles d'être maltraités. La Maison Blanche a étudié comment équilibrer les avantages et les risques qu'ils posent.

"Les capacités techniques des mégadonnées ont atteint un niveau de sophistication et d'omniprésence qui exige de réfléchir à la meilleure façon d'équilibrer les opportunités offertes par les mégadonnées par rapport aux questions sociales et éthiques que ces technologies soulèvent", a écrit la Maison Blanche dans un récent rapport.

Un changement sismique dans le maintien de l'ordre

Il était 6 h 45 un lundi, mais la feuille de papier que Coleman tenait entre ses mains offrait un aperçu de ce que pourrait être le 24 octobre : un vol de voiture près du coin de Van Nuys et Glenoaks, un cambriolage à Laurel Canyon et Roscoe etc.

La prévision de la criminalité est produite par PredPol au début de chaque quart de travail. Des boîtes rouges réparties sur les cartes Google de la vallée de San Fernando, mettant en évidence des emplacements de 500 par 500 pieds carrés où PredPol a conclu que des crimes contre les biens étaient probables.

sergent. Charles Coleman explique les sources possibles de criminalité sur une carte pour les patrouilles à l'aide de cartes de zones de police prédictive du département de police de Los Angeles. (Patrick T. Fallon pour le Washington Post)

Les cartes des zones de police prédictive utilisées par le département de police de Los Angeles dans la division LAPD Foothill montrent où le crime peut se produire. (Patrick T. Fallon pour le Washington Post)

La prévision est à la fine pointe, mais elle est mise au service d'une philosophie policière à l'ancienne : la dissuasion. Entre les appels ce jour-là, Coleman et d'autres officiers devaient passer du temps et dialoguer avec des personnes dans les quelque 20 boîtes identifiées par PredPol autour de la division Foothill.

Coleman était assis au volant de son SUV, traçant les cases à frapper de la façon dont quelqu'un consultant une carte météorologique pourrait peser s'il fallait apporter un parapluie.

"Ce n'est pas toujours que nous allons attraper quelqu'un dans la boîte, mais en étant là, nous prévenons le crime", a déclaré le capitaine Elaine Morales, qui supervise la division Foothill.

Foothill est loin du faste d'Hollywood à la limite nord de L.A., mais il a été à t

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd