Incidents associés
Voici l'épisode 12 de Real Future, la série documentaire de Fusion sur la technologie et la société. Plus d'épisodes disponibles sur realfuture.tv.
Il existe un nouveau type de logiciel qui prétend aider les forces de l'ordre à réduire la criminalité, en utilisant des algorithmes pour prédire où les crimes se produiront et en dirigeant davantage d'agents vers ces zones. C'est ce qu'on appelle la "police prédictive" et elle est déjà utilisée par des dizaines de services de police dans tout le pays, y compris les services de police de Los Angeles, Chicago et Atlanta.
Mis à part les allusions évidentes au "rapport minoritaire" avant le crime, il y a eu énormément de spéculations sur ce que l'avenir de la police prédictive pourrait réserver. Des gens pourraient-ils être enfermés simplement parce qu'un modèle informatique indique qu'ils sont susceptibles de commettre un crime ? Tous les crimes pourraient-ils cesser complètement, car une intelligence artificielle devient si douée pour prédire quand les crimes se produiront ?
Certains sceptiques doutent que les logiciels de police prédictive fonctionnent réellement comme annoncé. Après tout, la plupart des crimes ne se produisent que selon des schémas semi-réguliers, tandis que les gros crimes à faible fréquence comme les attaques terroristes ne sont généralement pas régis par des schémas, ce qui les rend beaucoup plus difficiles à prévoir pour un algorithme.
Il y a aussi la question de savoir ce qu'il advient des communautés de couleur dans le cadre d'un régime de police prédictive. Les personnes brunes et noires sont déjà les cibles disproportionnées de l'action policière, et avec les logiciels de police prédictive, certains craignent que la police ne se sente encore plus habilitée à passer du temps à rechercher le crime dans les quartiers peuplés de minorités.
Publicité
Bien que de grandes entreprises comme IBM fabriquent également des outils de police prédictive, l'un des produits les plus largement déployés provient d'une petite entreprise de Santa Cruz, en Californie, appelée PredPol.
Le fonctionnement de PredPol est en fait assez simple. Il prend en compte les données sur les crimes passés - uniquement quand cela s'est produit et quel type de crime - et crache des prédictions sur les endroits où les crimes futurs sont plus susceptibles de se produire. Il transforme ces prédictions en cases rouges de 500 pieds sur 500 pieds sur une carte Google, indiquant les zones dans lesquelles les policiers doivent patrouiller lorsqu'ils ne répondent pas activement à un appel. L'idée est que si les agents concentrent leur attention sur une zone légèrement plus susceptible de voir un crime commis que d'autres endroits, ils réduiront le nombre de crimes à cet endroit.
Publicité
Les chefs de police qui ont essayé PredPol et des systèmes similaires jurent que cela fonctionne. Par exemple, le département de police de Norcross (GA) affirme avoir constaté une réduction de 15 à 30 % des cambriolages et des vols après le déploiement du logiciel.
Mais je voulais poser des questions plus difficiles sur la police prédictive - pas seulement si elle aide à réduire la criminalité, mais comment elle aide à réduire la criminalité, et si le système pourrait servir de justification algorithmique au profilage racial à l'ancienne en plaçant plus de policiers dans des régions peuplées de minorités. quartiers.
Je suis donc allé à Santa Cruz, en Californie, où le service de police local utilise PredPol pour patrouiller dans la ville. Je suis allé faire un tour avec le chef adjoint de la police Steve Clark et j'ai parlé à des militants locaux qui craignent que les logiciels de police prédictive ne provoquent des dommages plutôt que de les empêcher.
Publicité
Voici la vidéo de mon voyage pour voir les effets réels de la police prédictive :
Pour être informé des nouveaux épisodes de Real Future, aimez l'émission sur Facebook, ou suivez-la sur Twitter.