Incidents associés
Natalie Behring/Getty
Les algorithmes ont pris le dessus sur nos vies, que nous l'apprécions ou non.
Lorsque Facebook nous livre des théories sur les pièges à clics et le complot, c'est un algorithme qui décide de ce qui vous intéresse.
Lorsque Uber augmente les prix aux heures de pointe, c'est l'algorithme du service qui s'active pour maximiser les profits.
Lorsque des publicités pour des chaussures que vous ne pouvez pas vous permettre vous suivent sur Internet jusqu'à ce que vous cédiez, c'est un algorithme qui suit votre parcours.
Les algorithmes prennent également le contrôle de la police. Dans des villes comme Los Angeles, Atlanta et Philadelphie, des algorithmes de "police prédictive" passent au peigne fin les données sur la criminalité passée pour indiquer aux agents quelles personnes et quels lieux sont les plus à risque de futurs crimes.
Le plus populaire est PredPol, un algorithme d éveloppé par le département de police de Los Angeles en collaboration avec des universités locales qui recueille des données précises sur le lieu et le moment où les crimes se sont produits, puis crée une carte "hotspot" de l'endroit où le crime se produira probablement ensuite.
Mais selon une étude qui sera publiée plus tard ce mois-ci dans la revue universitaire Significance, PredPol pourrait simplement renforcer les mauvaises habitudes policières. Lorsque des chercheurs du Human Rights Data Analysis Group - une organisation à but non lucratif dédiée à l'utilisation de la science pour analyser les violations des droits de l'homme dans le monde - ont appliqué l'outil aux données sur la criminalité à Oakland, l'algorithme a recommandé à la police de déployer des agents dans des quartiers peuplés principalement de Noirs. Il se trouve que la police d'Oakland envoyait déjà des agents dans ces zones.
"Ces modèles sont censés vous donner un aperçu inédit de l'endroit où le crime est censé se situer", a déclaré William Isaac, l'un des co-auteurs du rapport, dans une interview. "Mais ce n'est que du bon sens, et nous affirmons que ces suites logicielles sont essentiellement utilisées comme un outil pour valider les décisions de la police."
À l'aide d'une version accessible au public de l'algorithme de PredPol, les chercheurs Isaac et Kristian Lum ont utilisé les données d'arrestation de 2010 d'Oakland pour prédire où les crimes se produiraient en 2011. Pour comparer cette carte avec ce qui se passe réellement à Oakland, les chercheurs ont utilisé les données du recensement et du National Crime Victimization Survey pour créer une carte thermique montrant où la consommation de drogue dans la ville était la plus répandue en 2011.
Mais selon une étude qui sera publiée plus tard ce mois-ci dans la revue universitaire Significance, PredPol pourrait simplement renforcer les mauvaises habitudes policières. Lorsque des chercheurs du Human Rights Data Analysis Group - une organisation à but non lucratif dédiée à l'utilisation de la science pour analyser les violations des droits de l'homme dans le monde - ont appliqué l'outil aux données sur la criminalité à Oakland, l'algorithme a recommandé à la police de déployer des agents dans des quartiers peuplés principalement de Noirs. Il se trouve que la police d'Oakland envoyait déjà des agents dans ces zones.
"Ces modèles sont censés vous donner un aperçu inédit de l'endroit où le crime est censé se situer", a déclaré William Isaac, l'un des co-auteurs du rapport, dans une interview. "Mais ce n'est que du bon sens, et nous affirmons que ces suites logicielles sont essentiellement utilisées comme un outil pour valider les décisions de la police."
À l'aide d'une version accessible au public de l'algorithme de PredPol, les chercheurs Isaac et Kristian Lum ont utilisé les données d'arrestation de 2010 d'Oakland pour prédire où les crimes se produiraient en 2011. Pour comparer cette carte avec ce qui se passe réellement à Oakland, les chercheurs ont utilisé les données du recensement et du National Crime Victimization Survey pour créer une carte thermique montrant où la consommation de drogue dans la ville était la plus répandue en 2011.
Un étudiant de CU Boulder est arrêté pour intrusion sur le campus de l'Université du Colorado après que les autorités ont tenté d'étouffer une énorme fumée de marijuana à Boulder, Colorado le 20 avril 2012 REUTERS/Rick Wilking
Dans un monde idéal, les cartes seraient similaires. Mais en fait, PredPol a dirigé la police vers des quartiers noirs comme West Oakland et International Boulevard au lieu de se concentrer sur l'endroit où les crimes liés à la drogue se sont réellement produits. Les quartiers à prédominance blanche comme Rockridge et Piedmont ont obtenu un laissez-passer, même si les Blancs consomment des drogues illicites à des taux plus élevés que les minorités.
Pour voir comment les pratiques policières réelles à Oakland correspondaient aux recommandations de PredPol, les chercheurs ont également comparé la carte de PredPol à une carte des endroits où la police d'Oakland a arrêté des personnes pour des crimes liés à la drogue. Les cartes étaient étonnamment similaires. Quel que soit l'endroit où le crime se produit, les quartiers à prédominance noire comptent environ 200 fois plus d'arrestations pour drogue que les autres quartiers d'Oakland. En d'autres termes, la police d'Oakland fait déjà ce que la carte de PredPol suggère – sur-surveiller les quartiers noirs – plutôt que de se concentrer sur les endroits où se produisent les crimes liés à la drogue.
"Si vous deviez regarder les données et où ils trouvent le crime lié à la drogue, ce n'est pas la même chose que l'endroit où se trouve réellement le crime lié à la drogue", a déclaré Lum dans une interview. "La criminalité liée à la drogue est partout, mais la police ne la trouve que là où elle cherche."
PredPol n'a pas répondu à la demande de commentaire de Mic.
Pour être clair, Oakland n'utilise pas actuellement PredPol - les chercheurs ont simplement utilisé Oakland comme exemple de ce qui se passe lorsque vous appliquez PredPol à une grande région métropolitaine. Des dizaines d'autres