Incidents associés
Les militants des droits des immigrés ont entamé une procédure judiciaire révolutionnaire pour établir le fonctionnement réel d'un algorithme Home Office qui filtre les demandes de visa au Royaume-Uni.
Le défi est la première tentative d'un tribunal d'exposer comment un programme d'intelligence artificielle affecte les décisions de politique d'immigration sur qui est autorisé à entrer dans le pays.
Foxglove, un nouveau groupe de plaidoyer promouvant la justice dans le secteur des nouvelles technologies, soutient l'affaire intentée par le Conseil conjoint pour le bien-être des immigrés (JCWI) pour forcer légalement le ministère de l'Intérieur à expliquer sur quelle base l'algorithme "fluide" les demandeurs de visa.
Les deux groupes ont tous deux déclaré qu'ils craignaient que "l'outil de streaming" de l'IA ne crée trois canaux pour les candidats, dont une "voie rapide" qui conduirait à "un embarquement rapide pour les Blancs".
Le ministère de l'Intérieur a insisté sur le fait que l'algorithme n'est utilisé que pour allouer les candidatures et ne se prononce pas en fin de compte sur elles. La décision finale reste entre les mains des travailleurs sociaux humains et non des machines, a-t-il déclaré.
Un porte-parole du ministère de l'Intérieur a déclaré: «Nous avons toujours utilisé des processus qui permettent aux visas et à l'immigration britanniques d'attribuer les cas de manière efficace.
« L'outil de streaming ne sert qu'à allouer des applications, pas à les décider. Il utilise des données pour indiquer si une candidature peut nécessiter plus ou moins d'examen et il est pleinement conforme à la législation pertinente en vertu de la loi de 2010 sur l'égalité.
Cori Crider, directrice de Foxglove, a rejeté la défense du système d'IA par le Home Office.
«Le ministère de l'Intérieur insiste sur le fait que son algorithme de« streaming de visas »n'a aucun préjugé racial, mais cette affirmation est assez usée. On nous dit que le système utilise la nationalité pour «diffuser» les candidats en vert, jaune et rouge – et il est facile de deviner qui se retrouve dans la file d'attente verte et qui est poussé à l'arrière du bus en rouge. Si votre algorithme sélectionne des personnes pour une palpation numérique et offre un embarquement rapide aux Blancs, eh bien, c'est illégal.
Dans sa lettre juridique préalable à l'action ce mois-ci au ministre de l'Intérieur, Priti Patel, le Conseil conjoint pour le bien-être des immigrés affirme que même le processus de diffusion en continu affectera la décision finale sur les visas.
L'affaire est soutenue par une page gofundme.com intitulée "Déporté par algorithme".
Sa lettre au ministre de l'Intérieur déclare: «Un demandeur de visa individuel attribué par l'outil de streaming à la catégorie« Rouge »en raison de sa nationalité peut toujours se voir accorder un visa. Cependant, leurs chances de succès sont bien inférieures à celles d'un individu par ailleurs équivalent de nationalité différente affecté à la catégorie "vert". Dans le même ordre d'idées, la même demande « rouge » prendra probablement beaucoup plus de temps que la demande « verte », impliquant à nouveau un traitement moins favorable du demandeur en raison de sa nationalité. »
Parmi les informations que le JCWI recherche auprès du ministère de l'Intérieur figurent tous les "documents de politique et d'orientation qui traitent du processus de diffusion des demandes de visa et de l'utilisation de l'outil de diffusion en continu".
Il exige également que tous les détails techniques qui pilotent l'outil de streaming soient révélés, ainsi que des informations supplémentaires telles que les objectifs de traitement des cas dans chacune des trois catégories, et s'il y a eu des plaintes concernant le déploiement de l'algorithme.
Le JCWI fait valoir que l'utilisation de l'outil de streaming est une version plus moderne d'un système d'entrée de visa jugé illégal par la Chambre des Lords en 2005. Il concernait des candidats roms qui auraient été traités avec plus de suspicion et soumis à des traitements plus intenses et questionnement intrusif que les candidats non roms. Les Lords ont conclu que le «stéréotype des Roms comme étant moins susceptibles d'être de véritables visiteurs» au Royaume-Uni était illégal.
Le ministère de l'Intérieur a souligné que le nouveau système est pleinement conforme à la loi de 2010 sur l'égalité.
Il a ajouté que sur plus de 3,3 millions de demandes de visa au Royaume-Uni à la fin juin de cette année, 2,9 millions de personnes ont été autorisées à entrer en Grande-Bretagne.