Incidents associés
La «police prédictive» se produit maintenant – et la police pourrait tirer une leçon de Minority Report.
David Robinson Bloqué Débloquer Suivre Suivre 31 août 2016
Dans le film Minority Report , des mutants dans une cuve regardent vers l'avenir et disent à Tom Cruise qui est sur le point de commettre un crime, afin qu'il puisse arrêter le délinquant avant que le crime ne se produise. Spoiler alert : ces diseurs de bonne aventure mutants ne sont pas infaillibles, mais les flics les traitent comme s'ils l'étaient. La foi aveugle des forces de l'ordre dans un outil qui ne fonctionne pas toujours – un outil qui peut facilement identifier la mauvaise personne, avec des résultats terribles – fournit la tension centrale de ce film à succès.
La vraie police risque maintenant de commettre une erreur similaire. Mais cette fois, les résultats sont dans la rue, pas au box-office. Les flics d'aujourd'hui ne comptent pas sur les devins, mais ils utilisent de plus en plus des logiciels pour prévoir où de futurs crimes pourraient se produire ou qui pourraient être impliqués. Et ils sont loin d'être assez sceptiques quant aux prévisions que font ces ordinateurs.
Aujourd'hui, une coalition nationale de 17 groupes de défense tire la sonnette d'alarme à ce sujet, avec une déclaration commune soulignant six façons dont cette tendance menace les droits civils.
Ces groupes sont tous d'accord - la ruée actuelle vers la police prédictive est une erreur.
Upturn, où je travaille, a aidé à rédiger la nouvelle déclaration, et aujourd'hui, nous publions un rapport conçu pour vous permettre d'aller au-delà du battage médiatique et de vous faire votre propre opinion sur ce que l'industrie appelle la "police prédictive". En tant qu'auteur principal de ce rapport, voici ce que j'aimerais que vous sachiez.
La police peut facilement faire trop confiance à ces outils.
Les gens surestiment souvent l'exactitude, l'objectivité et la fiabilité des informations provenant d'un ordinateur, y compris d'un système de police prédictive. La RAND Corporation, qui a réalisé les meilleures études à ce jour, est un type d'endroit connu pour son intimité. Mais ils sont tout aussi gênés par ce problème que moi. Ils écrivent : « La police préventive a été tellement mise en avant que la réalité ne peut pas être à la hauteur de l'hyperbole. Il existe une hypothèse sous-jacente et erronée selon laquelle une puissance mathématique et informatique avancée est à la fois nécessaire et suffisante pour réduire la criminalité [mais en fait] les prédictions ne sont aussi bonnes que les données utilisées pour les faire.
Les données policières sur la criminalité brossent un tableau déformé, ce qui peut facilement conduire à des modèles de police discriminatoires.
Ces systèmes ne font que prédire quels crimes la police détectera à l'avenir - et cela crée une image déformée. Comme l'a dit un jour un éminent criminologue, "[i]l est connu depuis plus de 30 ans qu'en général, les statistiques de la police sont de piètres mesures des niveaux réels de criminalité".
Dans le contexte de la police prédictive, les statistiques générées par le processus de police sont souvent traitées comme s'il s'agissait d'enregistrements d'un comportement criminel sous-jacent. Mais ces chiffres sont un enregistrement direct de la façon dont les forces de l'ordre réagissent à des crimes particuliers, et ils ne sont qu'une preuve indirecte de ce qui se passe réellement dans le monde. Les criminologues soutiennent que «[l]es données sur les arrestations, les condamnations et les incarcérations sont considérées de manière plus appropriée comme des mesures de la réponse officielle au comportement criminel».
Bien sûr, il est logique que la police réponde aux besoins de la communauté. Différentes communautés desservies par le même service de police ont souvent des besoins différents et des niveaux de besoins différents. Cela signifie que les agents verront davantage ce qui se passe dans certains quartiers que dans d'autres. Mais il est dangereux de traiter les résultats de ce processus comme s'ils étaient un reflet complètement neutre du monde.
Comme l'explique la spécialiste des données Cathy O'Neil, "les gens ont trop confiance [que] les chiffres [seront] intrinsèquement objectifs".
Plutôt que de changer de tactique, la police qui utilise des outils prédictifs a eu tendance à se concentrer sur la génération de plus de citations et d'arrestations. J'ai lu tout ce que j'ai pu trouver sur la façon dont la police utilise réellement les outils de police prédictive. La réponse constante était que la police n'était pas guidée vers des tactiques différentes ou plus humaines. Au lieu de cela, là où l'ordinateur dit de se concentrer, la police fait plus d'application. Ce qui aggrave le problème des données.
Les données pourraient être utilisées de manière à renforcer les droits civils, mais nous manquons cette opportunité.
Ceci, pour moi, est l'une des choses les plus excitantes que nous ayons trouvées dans notre recherche. Pour citer notre rapport :
Dans la majeure partie du pays, la police mesure actuellement les résultats et évalue les performances en se basant uniquement sur certaines des activités, des coûts et des avantages qui comptent dans le maintien de l'ordre…
Les crimes violents graves seront toujours importants. Mais les crimes violents ne reflètent pas toute l'étendue des préoccupations de la communauté...
[E]xperts sur la mesure des performances de la police soutiennent depuis longtemps que la police devrait suivre toutes les utilisations de l'autorité coercitive afin de mieux promouvoir la sécurité publique avec un minimum de coercition…. Et la recherche sur la mesure du rendement de la police demande systématiquement de sonder les victimes pour recueillir leurs commentaires sur les policiers avec lesquels elles interagissent.
Au-delà de l'objectif fondamental d'un maintien de l'ordre constitutionnel et légal, la mesure de facteurs comme ceux-ci pourrait permettre à la poli