Incidentes Asociados
El crecimiento de la tecnología ha traído mucha eficiencia y seguridad a casi todas las organizaciones y negocios. Pero tal progreso puede haber tomado un giro ligeramente equivocado ya que la confianza en la inteligencia artificial por parte del Ministerio del Interior como una herramienta de transmisión para las solicitudes de visa en realidad puede estar desempeñando sus funciones por motivos de prejuicio racial.
La semana pasada [Guardian informó] (https://www.theguardian.com/uk-news/2019/oct/29/ai-system-for-granting-uk-visas-is-biased-rights-groups-claim) El Consejo Conjunto para el Bienestar de los Inmigrantes (JCWI, por sus siglas en inglés) presentó una acción legal contra el Ministerio del Interior por el uso de un algoritmo que filtra las solicitudes de visa por motivos potencialmente ilegales, como la "nacionalidad". Esto sigue a un informe del Financial Times en junio de este año de que el Ministerio del Interior estaba usando 'secretamente' el algoritmo para procesar solicitudes de visa. Desde entonces, el Ministerio del Interior ha confirmado que esta tecnología solo se utiliza para asignar aplicaciones y no para decidir sobre ellas. Pero ¿por qué el misterio?
Estoy entre muchos que considerarían el avance de la tecnología como una bendición para la humanidad, ya que, francamente, no puedo imaginar un mundo sin teléfonos inteligentes. Por otro lado, algunos considerarían el avance de la tecnología como un desastre. A pesar de que esto es un poco dramático, puedo ver por qué uno llegaría a esta conclusión. Dependemos cada vez más de la tecnología para casi todas las tareas cotidianas. Por ejemplo, para saber cómo llegar a un lugar, usaríamos el GPS o para los servicios de taxi, recurriríamos a las numerosas aplicaciones en nuestros teléfonos. Ya no memorizamos direcciones porque Google Maps lo hace por nosotros. En muchos sentidos, tales niveles de confianza en la tecnología pueden ser desalentadores.
La confianza del Ministerio del Interior en el algoritmo para transmitir las solicitudes de visa puede haber sido implementada para mejorar su eficiencia y finalmente mejorar sus estándares de servicio y tiempos de procesamiento de visa (que en sí mismo es un tema para otro blog). Se dice que el Ministerio del Interior se basó en un algoritmo que utiliza la nacionalidad para transmitir a los solicitantes en las categorías verde, amarilla y roja. Independientemente de la afirmación que el Ministerio del Interior haya dado para confirmar que el algoritmo solo se usa para asignar solicitudes y no para tomar decisiones, la base sobre la cual se transmiten estos solicitantes y se asignan sus solicitudes es crucial. No podemos quedarnos atrapados celebrando el avance tecnológico de nuestro tiempo e ignorar una dependencia poco saludable de la inteligencia artificial para tratar con la vida de las personas y, al hacerlo, discriminarlos por motivos de raza y nacionalidad.
El proceso de asignación de casos (mediante un algoritmo) y alertar a los trabajadores sociales humanos de que una solicitud se ha transmitido como red, simplemente sobre la base de la nacionalidad del solicitante (si este es realmente el caso) ya le dice al trabajador social que la solicitud es un rechazo potencial antes el asistente social lo ha considerado completamente. Por el contrario, una aplicación que ha sido transmitida como verde por un algoritmo le dice al asistente social que este caso es digno de aprobación. Esto significa que dos solicitudes casi idénticas, basadas en los mismos motivos, se tratan y procesan de manera diferente. Es probable que el caso etiquetado como rojo sea tratado con más sospecha y sujeto a un escrutinio intenso e intrusivo. Sin embargo, el caso que ha recibido luz verde recibe menos escrutinio y es más probable que sea aprobado.
No hace falta ser un genio para saber qué nacionalidades/razas tienen probabilidades de obtener la luz roja y cuáles tienen probabilidades de obtener la luz verde. Algunos pueden aceptar la justificación de esto y decir que la razón para hacer tal distinción sobre la base de la nacionalidad puede deberse al hecho de que ciertos solicitantes de unos pocos países seleccionados pueden haber infringido previamente las leyes de inmigración y, por lo tanto, se consideran de mayor riesgo, por lo que es está bien que todos con estas nacionalidades sean pintados con el mismo pincel. Es vergonzoso escribir esto y mucho menos decirlo en voz alta. ¿Por qué un solicitante que realmente desea visitar a su familia en el Reino Unido debería estar sujeto a un escrutinio más estricto y ser tratado de manera diferente porque los solicitantes anteriores de su país de nacionalidad se quedaron más tiempo o cometieron un delito? Un solicitante solo debe cumplir con este estándar si él o ella ha infringido personalmente una ley de inmigración y/o ha cometido un delito en el pasado. Aplicar un estándar severo a un solicitante completamente nuevo simplemente porque su nacionalidad coincide con la de los infractores anteriores es injusto y perjudicial. Los solicitantes de todas las nacionalidades tienen el potencial de infringir las normas de inmigración.
Aparte del mayor escrutinio y la posibilidad de rechazo, la simplificación por sí sola significa que los tiempos de procesamiento de las solicitudes variarán según, por ejemplo, la nacionalidad del solicitante. Casi siempre ocurre que todos los solicitantes quieren y necesitan que su solicitud se tramite lo antes posible. Todos pagan las mismas altas tarifas del Ministerio del Interior, incluso a menudo por el procesamiento prioritario, y sin embargo reciben diferentes estándares de servicio basados en las características preconcebidas de los solicitantes. Tratar a los solicitantes que han sido clasificados como rojos (solo en función de su nacionalidad) de manera diferente a los solicitantes que han sido clasificados como verdes en función también solo de su nacionalidad para la misma solicitud es, sin duda, discriminatorio.
La nacionalidad es una característica protegida en virtud de la Ley de Igualdad de 2010 y una autoridad pública como el Ministerio del Interior “al tomar decisiones de carácter estratégico sobre cómo ejercer sus funciones, debe tener debidamente en cuenta la conveniencia de ejercerlas de una manera que sea diseñado para reducir las desigualdades de resultado...”
Como se mencionó anteriormente, si los solicitantes de visa reciben un trato diferente debido a que un algoritmo los ha transmitido como rojo, esto no solo explica por qué tenemos un número tan alto de rechazos de visas del Reino Unido para los visitantes africanos en el Reino Unido, sino que también indica que el El Ministerio del Interior puede estar violando la Ley de Igualdad. En consecuencia, si bien el uso de la tecnología debe apreciarse por la notable mejora que ha traído a nuestras vidas, no debe programarse para fomentar el sesgo racial, ya que esto está empeorando una situación que ya era mala.
En conclusión, por lo tanto, el Ministerio del Interior debe ser transparente en cómo funciona el algoritmo y la base sobre la cual ha sido diseñado para transmitir las solicitudes de visa. Será interesante ver si la acción legal de JCWI revela todos los detalles y la base sobre la que funciona el algoritmo, que, por ejemplo, podría afectar no solo a la nacionalidad sino también al sexo y la edad.