Incidentes Asociados
Activistas por los derechos de los inmigrantes han iniciado un caso legal innovador para establecer cómo funciona realmente un algoritmo del Ministerio del Interior que filtra las solicitudes de visa del Reino Unido.
El desafío es el primer intento de la corte para exponer cómo un programa de inteligencia artificial afecta las decisiones de política de inmigración sobre quién puede ingresar al país.
Foxglove, un nuevo grupo de defensa que promueve la justicia en el sector de las nuevas tecnologías, está apoyando el caso presentado por el Consejo Conjunto para el Bienestar de los Inmigrantes (JCWI) para obligar legalmente al Ministerio del Interior a explicar sobre qué base el algoritmo "transmite" a los solicitantes de visa.
Los dos grupos dijeron que temían que la "herramienta de transmisión" de AI creara tres canales para los solicitantes, incluido un "carril rápido" que conduciría a un "embarque rápido para los blancos".
El Ministerio del Interior ha insistido en que el algoritmo se usa solo para asignar aplicaciones y, en última instancia, no se pronuncia sobre ellas. La decisión final permanece en manos de los trabajadores sociales humanos y no de las máquinas, dijo.
Un portavoz del Ministerio del Interior dijo: “Siempre hemos utilizado procesos que permiten que Visas e Inmigración del Reino Unido asigne casos de manera eficiente.
“La herramienta de transmisión solo se usa para asignar aplicaciones, no para decidirlas. Utiliza datos para indicar si una solicitud puede requerir un mayor o menor escrutinio y cumple plenamente con la legislación pertinente en virtud de la Ley de Igualdad de 2010”.
Cori Crider, directora de Foxglove, rechazó la defensa del sistema de inteligencia artificial del Ministerio del Interior.
“El Ministerio del Interior insiste en que su algoritmo de ‘transmisión de visas’ no tiene prejuicios raciales, pero esa afirmación es bastante gastada. Se nos dice que el sistema usa la nacionalidad para "transmitir" a los solicitantes en verde, amarillo y rojo, y es fácil adivinar quién termina en la cola verde y quién es empujado a la parte trasera del autobús en rojo. Si su algoritmo selecciona a las personas para un cacheo digital y ofrece un abordaje rápido a las personas blancas, bueno, eso es ilegal”.
En su carta legal previa a la acción de este mes a la ministra del Interior, Priti Patel, el Consejo Conjunto para el Bienestar de los Inmigrantes argumenta que incluso el proceso de transmisión afectará la decisión final sobre las visas.
El caso está respaldado por una página de gofundme.com titulada "Deportado por algoritmo".
Su carta al ministro del Interior establece: “Un solicitante de visa individual asignado por la herramienta de transmisión a la categoría ‘Roja’ debido a su nacionalidad aún podría recibir una visa. Sin embargo, sus perspectivas de una solicitud exitosa son mucho más bajas que las perspectivas de un individuo equivalente con una nacionalidad diferente asignado a la categoría 'Verde'. Con un efecto similar, es probable que la misma solicitud 'Roja' tome mucho más tiempo que la 'Verde', lo que nuevamente implica un trato menos favorable para el solicitante debido a su nacionalidad".
Entre la información que el JCWI busca del Ministerio del Interior se encuentran todos los "documentos de políticas y orientación que se ocupan del proceso de transmisión de solicitudes de visa y el uso de la herramienta de transmisión".
También exige que se revelen todos los detalles técnicos que impulsan la herramienta de transmisión, junto con más información, como los objetivos de trabajo de casos en cada una de las tres categorías, y si ha habido alguna queja sobre la implementación del algoritmo.
El JCWI argumenta que el uso de la herramienta de transmisión es una versión más moderna de un sistema de entrada de visa declarado ilegal por la Cámara de los Lores en 2005. Se refería a los solicitantes romaníes que, según se decía, habían sido tratados con más sospecha y sometidos a un trato más intenso y preguntas intrusivas que los solicitantes no romaníes. Los Lores concluyeron que el “estereotipo de los romaníes como menos probables de ser visitantes genuinos” al Reino Unido era ilegal.
El Ministerio del Interior ha enfatizado que el nuevo sistema cumple totalmente con la Ley de Igualdad de 2010.
Agregó que de más de 3,3 millones de solicitudes de visa al Reino Unido a fines de junio de este año, 2,9 millones de personas ingresaron a Gran Bretaña.