Incidents associés
Le ministère de l'Intérieur a accepté de cesser d'utiliser un algorithme informatique pour aider à décider des demandes de visa après des allégations selon lesquelles il contenait un "racisme enraciné".
Le Joint Council for the Welfare of Immigrants (JCWI) et le groupe de défense des droits numériques Foxglove ont lancé une action en justice contre le système.
Foxglove l'a qualifié d '"embarquement rapide pour les Blancs".
Le ministère de l'Intérieur, cependant, a déclaré qu'il n'acceptait pas cette description.
"Nous avons examiné le fonctionnement de l'outil de diffusion des demandes de visa et allons repenser nos processus pour les rendre encore plus rationalisés et sécurisés", a-t-il déclaré dans un communiqué.
La controverse était centrée sur l'utilisation de la nationalité d'un candidat dans le cadre du système automatique.
L'utilisation de l'algorithme controversé sera suspendue le vendredi 7 août, avec un système repensé qui devrait être en place d'ici l'automne.
Foxglove a déclaré que le système était "utilisé depuis des années pour traiter chaque demande de visa pour le Royaume-Uni".
Qu'a fait l'algorithme ?
Le ministère de l'Intérieur a qualifié l'algorithme de système de "rationalisation".
Le système a pris certaines informations fournies par les demandeurs de visa et les a traitées automatiquement, donnant à chaque personne un code de couleur basé sur un système de "feux de signalisation" - vert, orange ou rouge.
L'une des mesures utilisées était la nationalité – et FoxGlove a allégué que le ministère de l'Intérieur tenait une "liste secrète des nationalités suspectes" qui recevrait automatiquement une cote rouge.
Ces personnes risquaient de se voir refuser un visa, a déclaré le groupe.
"L'algorithme de visa discriminait sur la base de la nationalité - par conception", a ajouté JCWI.
Les personnes des pays sous pavillon rouge, a-t-il déclaré, "ont fait l'objet d'un examen minutieux de la part des responsables du ministère de l'Intérieur, ont été approchées avec plus de scepticisme, ont mis plus de temps à déterminer et étaient beaucoup plus susceptibles d'être refusées".
Le groupe a fait valoir que ce processus équivalait à de la discrimination raciale, le mettant en violation de la loi sur l'égalité.
Il y avait un autre facteur en jeu, que le JCWI et Foxglove ont appelé une "boucle de rétroaction".
Les taux de décision de visa seraient utilisés pour décider quels pays figuraient sur la liste des "nationalités suspectes", ont-ils déclaré.
Mais l'algorithme utilisait cette liste et les applications signalées par un drapeau rouge étaient moins susceptibles de réussir. Ces résultats ont ensuite été utilisés pour renforcer la liste.
Le JCWI a déclaré qu'il s'agissait "d'un cercle vicieux".
"Institutionnellement raciste"
"Nous sommes ravis que le ministère de l'Intérieur ait vu le sens et abandonné l'outil de streaming. Les boucles de rétroaction racistes signifiaient que ce qui aurait dû être un processus de migration équitable n'était, en pratique, qu'un embarquement rapide pour les Blancs", a déclaré Cori Crider, fondatrice de Foxglove. .
Chai Patel, directeur de la politique juridique de JCWI, a déclaré que le scandale Windrush avait montré que le ministère de l'Intérieur était "inconscient des hypothèses racistes et des systèmes qu'il applique".
"Cet outil de streaming a pris des décennies de pratiques institutionnellement racistes, telles que le ciblage de nationalités particulières pour les raids d'immigration, et les a transformés en logiciels", a-t-il déclaré.
Le ministère de l'Intérieur a déclaré qu'il ne pouvait pas commenter davantage tant que le litige était toujours en cours.
Jusqu'à ce que le nouveau système soit en place, le flux des demandes de visa sera basé sur des informations sur la personne spécifique - comme son voyage précédent - et la nationalité ne sera pas prise en compte.