Incidentes Asociados
Los ministros se enfrentan a peticiones de medidas de seguridad más estrictas para el uso de la tecnología de reconocimiento facial después de que el Ministerio del Interior admitiera que es más probable que identifique incorrectamente a personas negras y asiáticas que a sus homólogos blancos en algunos entornos.
Tras las últimas pruebas realizadas por el Laboratorio Nacional de Física (NPL) sobre la aplicación de la tecnología en la base de datos nacional de la policía, el Ministerio del Interior afirmó que era "más probable que incluya incorrectamente a algunos grupos demográficos en sus resultados de búsqueda".
Los comisionados de policía y delincuencia afirmaron que la publicación de los hallazgos del NPL "pone de manifiesto un preocupante sesgo intrínseco" e instaron a la cautela ante los planes de expansión nacional.
Los hallazgos se publicaron el jueves, horas después de que Sarah Jones, ministra de policía, describiera la tecnología como el "mayor avance desde la comparación de ADN".
La tecnología de reconocimiento facial escanea los rostros de las personas y luego compara las imágenes con listas de vigilancia de delincuentes conocidos o buscados. Puede utilizarse al examinar imágenes en directo de personas que pasan frente a las cámaras, comparando sus rostros con los de las listas de buscados, o ser utilizado por agentes para localizar a personas que pasan frente a las cámaras instaladas.
Las imágenes de sospechosos también pueden analizarse retrospectivamente en las bases de datos policiales, de pasaportes o de inmigración para identificarlos y verificar sus antecedentes.
Los analistas que examinaron la herramienta de tecnología de reconocimiento facial retrospectivo de la base de datos nacional de la policía con una configuración más baja descubrieron que «la tasa de identificación de falsos positivos (FPIR) para sujetos blancos (0,04%) es menor que la de sujetos asiáticos (4,0%) y sujetos negros (5,5%)».
Las pruebas posteriores revelaron que el número de falsos positivos para mujeres negras era particularmente alto. «La FPIR para sujetos negros masculinos (0,4%) es menor que la de sujetos negros femeninos (9,9%)», según el informe.
La Asociación de Comisionados de Policía y Crimen declaró en un comunicado que los hallazgos mostraban un sesgo inherente. Decía: “Esto ha significado que, en algunas circunstancias, es más probable que se empareje incorrectamente a personas negras y asiáticas que a sus contrapartes blancas. El lenguaje es t écnico, pero tras los detalles parece claro que la tecnología se ha implementado en la policía operativa sin las garantías adecuadas”.
La declaración, firmada por los líderes de la APCC, Darryl Preston, Alison Lowe, John Tizard y Chris Nelson, cuestionaba por qué los hallazgos no se habían publicado antes ni se habían compartido con las comunidades negras y asiáticas.
Decía: “Si bien no hay evidencia de impacto adverso en ningún caso individual, esto se debe más a la suerte que al diseño. Las fallas del sistema se conocen desde hace tiempo, pero no se compartieron con las comunidades afectadas ni con los principales actores del sector”.
El gobierno anunció una consulta pública de 10 semanas que espera allanar el camino para un uso más frecuente de la tecnología. Se preguntará al público si la policía debería poder acceder a otras bases de datos, incluyendo imágenes de pasaportes y permisos de conducir, para rastrear a los delincuentes.
Funcionarios públicos están trabajando con la policía para establecer un nuevo sistema nacional de reconocimiento facial que almacenará millones de imágenes.
Charlie Whelton, responsable de políticas y campañas del grupo activista Liberty, declaró: «El sesgo racial en estas estadísticas demuestra las consecuencias negativas reales de permitir que la policía utilice el reconocimiento facial sin las debidas garantías. Con miles de búsquedas al mes que utilizan este algoritmo discriminatorio, ahora quedan serias preguntas por responder sobre cuántas personas de color fueron identificadas falsamente y qué consecuencias tuvo esto.
Este informe es una prueba más de que esta poderosa y opaca tecnología no puede utilizarse sin garantías sólidas que nos protejan a todos, incluyendo transparencia real y una supervisión significativa. El gobierno debe detener la rápida implantación de la tecnología de reconocimiento facial hasta que estas estén implementadas para protegernos a todos y priorizar nuestros derechos, algo que sabemos que la ciudadanía desea».
El exministro del gabinete David Davis expresó su preocupación después de que los líderes policiales afirmaran que las cámaras podrían instalarse en centros comerciales, estadios y centros de transporte para buscar a delincuentes buscados. Declaró al Daily Mail: "Bienvenidos a la Gran Bretaña. Es evidente que el gobierno pretende implementar esta tecnología distópica en todo el país. Algo de esta magnitud no debería ocurrir sin un debate exhaustivo y detallado en la Cámara de los Comunes".
Las autoridades afirman que la tecnología es necesaria para ayudar a detectar a los delincuentes más graves. Afirman que existen salvaguardas manuales, incluidas en la formación, las prácticas operativas y las directrices policiales, que exigen que todas las posibles coincidencias obtenidas de la base de datos nacional de la policía sean evaluadas visualmente por un usuario capacitado y un agente investigador.
Un portavoz del Ministerio del Interior declaró: "El Ministerio del Interior se toma muy en serio las conclusiones del informe y ya hemos tomado medidas". Se ha probado y adquirido de forma independiente un nuevo algoritmo que no presenta sesgo estadísticamente significativo. Se probará a principios del próximo año y será objeto de evaluación.
Dada la importancia de este problema, también hemos solicitado a la inspección policial, junto con el organismo regulador de la ciencia forense, que revise el uso del reconocimiento facial por parte de las fuerzas del orden. Evaluarán la eficacia de las medidas de mitigación, que cuentan con el apoyo del Consejo Nacional de Jefes de Policía.