Incidents associés
Faiza Patel est codirectrice du programme Liberté et sécurité nationale au Brennan Center for Justice de la faculté de droit de l'Université de New York. Elle est sur Twitter.
À chaque époque, les forces de police ont accès à de nouveaux outils susceptibles de faire progresser leur mission de prévention et de lutte contre la criminalité. Les technologies prédictives - l'utilisation de données provenant de diverses sources pour créer un modèle d'évaluation de la probabilité de crimes futurs - ont été présentées comme un moyen de prévoir où le crime aura probablement lieu et parfois qui est susceptible de commettre un crime.
La technologie qui vise à cibler un individu susceptible de commettre un crime est particulièrement suspecte.
Compte tenu des implications considérables d'agir sur de telles projections, tout service de police envisageant un outil d'analyse prédictive doit tester de manière approfondie la fiabilité de ses affirmations. Pour l'instant, la recherche n'en est qu'à ses balbutiements.
Une poignée d'études ont montré une diminution à court terme de la criminalité lorsque la police alloue des ressources aux «points chauds» prévus, mais d'autres évaluations n'ont montré aucune corrélation statistiquement significative ou des rendements décroissants.
À une époque de préoccupation croissante concernant la sur-police dans les communautés minoritaires, l'augmentation de la police dans des endroits particuliers peut avoir ses propres conséquences négatives aggravées. La technologie qui prétend se concentrer sur les catégories de personnes susceptibles de commettre des crimes est encore plus suspecte. Cela sape l'exigence constitutionnelle voulant que la police cible les personnes sur la base d'un soupçon individuel d'actes répréhensibles, et non d'une probabilité statistique.
Bien sûr, même les algorithmes utilisés pour prédire le lieu du crime ne seront aussi bons que les informations qui y sont introduites. Si un algorithme est principalement rempli de crimes commis par des Noirs, il crachera des résultats qui enverront la police dans les quartiers noirs. Il s'agit d'un problème grave et peut-être insurmontable, étant donné que les personnes de couleur sont arrêtées, détenues, arrêtées et incarcérées à des niveaux plus élevés que les Blancs, quel que soit le taux de criminalité. Le tristement célèbre programme d'arrêt et de fouille du département de police de New York ciblait massivement les hommes noirs et latinos, même si le nombre d'arrestations ou de convocations résultant d'interpellations était en fait plus faible pour les cibles minoritaires. Les risques de « conduire en étant noir » sont également bien documentés.
Ces réalités signifient que nous, en tant que société, devons procéder avec une extrême prudence malgré le battage médiatique autour de la promesse des données. La police prédictive ne devrait pas simplement devenir du profilage racial sous un autre nom.
Rejoignez Opinion sur Facebook et suivez les mises à jour sur twitter.com/roomfordebate.