Problema 2295
Las fuerzas del orden de la India están empezando a dar una gran importancia a la tecnología de reconocimiento facial. La policía de Delhi busca identificar a [personas involucradas en disturbios civiles](https://techcrunch.com/2020/03/11/india-used-facial-recognition-tech-to-identify-1100-individuals-at-a- recent-riot/) en el norte de la India en los últimos años, dijeron que considerarían una precisión del 80 por ciento o más como una coincidencia "positiva", según los documentos obtenidos por Internet Freedom Foundation a través de una solicitud de registros públicos.
La llegada del reconocimiento facial a la región de la capital de la India marca la expansión de los funcionarios encargados de hacer cumplir la ley en la India utilizando datos de reconocimiento facial [como evidencia para un posible enjuiciamiento] (https://indianexpress.com/article/cities/delhi/delhi-riots-arrests-accused-told-to-match-pose-8083399/), haciendo sonar las alarmas entre expertos en privacidad y libertades civiles. También hay preocupaciones sobre el umbral de precisión del 80 por ciento, que los críticos dicen que es arbitrario y demasiado bajo, dadas las posibles consecuencias para aquellos marcados como coincidentes. La [falta de una ley integral de protección de datos] de India (https://techcrunch.com/2022/08/03/india-government-to-withdraw-personal-data-protection-bill/) hace que las cosas sean aún más preocupantes.
Los documentos afirman además que incluso si una coincidencia es inferior al 80 por ciento, se consideraría un "falso positivo" en lugar de un negativo, lo que haría que esa persona "sujeta a la debida verificación con otra evidencia corroborativa".
“Esto significa que, aunque el reconocimiento facial no les está dando el resultado que ellos mismos han decidido que es el umbral, seguirán investigando”, dice Anushka Jain, asesora asociada de políticas de vigilancia y tecnología del IFF, quien solicitó esta información. . “Esto podría conducir al acoso del individuo solo porque la tecnología dice que se parece a la persona que la policía está buscando”. Agregó que este movimiento de la policía de Delhi también podría resultar en el acoso de personas de comunidades que históricamente han sido blanco de agentes del orden.
En respuesta a la solicitud de registros de la IFF, la policía dijo que están usando fotografías de convictos y fotografías de expedientes para ejecutar el reconocimiento facial. Agregaron que estos podrían usarse como evidencia, pero se negaron a compartir más detalles. Sin embargo, aclararon que en caso de una coincidencia positiva, los oficiales de policía realizarían una “investigación empírica” adicional antes de emprender cualquier tipo de acción legal. La policía de Delhi no respondió a las solicitudes de comentarios por correo electrónico de WIRED.
Divij Joshi, que ha dedicado tiempo a investigar la legalidad de los sistemas de reconocimiento facial, dice que el umbral de una coincidencia del 80 por ciento es prácticamente insignificante. Joshi explica que los números de precisión dependen en gran medida de las condiciones para probar los modelos de tecnología de reconocimiento facial frente a conjuntos de datos de referencia particulares.
“La precisión normal con el reconocimiento facial o los sistemas de aprendizaje automático se determina comparando un modelo desarrollado sobre datos de entrenamiento y datos de validación con un conjunto de datos de evaluación comparativa”, dice Joshi, candidato a doctorado en University College London. “Una vez que se modifican los datos de entrenamiento, se deben comparar con un conjunto de datos de terceros o un conjunto de datos ligeramente diferente”. Esta evaluación comparativa, dice, es lo que normalmente se usa para calcular el porcentaje de precisión predictiva.
La evidencia de sesgo racial en los modelos de reconocimiento facial ha [hace mucho tiempo que el uso de la tecnología es problemático] (https://www.wired.com/story/amazon-facial-recognition-congress-bias-law-enforcement/). Y aunque muchas variables afectan la precisión de los sistemas de reconocimiento facial, el uso generalizado por parte de la policía de un sistema con un umbral de precisión general del 80 por ciento parece ser muy inusual. Un [estudio del Instituto Nacional de Estándares y Tecnología de EE. UU. de 2021] (https://www.nist.gov/news-events/news/2021/07/nist-evaluates-face-recognition-softwares-accuracy-flight-boarding) encontró que los sistemas utilizados para hacer coincidir un solo escaneo de los rostros de los viajeros con una base de datos que contiene sus fotos tenían una tasa de precisión del 99,5 por ciento o mejor. Sin embargo, otros estudios han encontrado tasas de error de hasta el 34,7 % cuando se utilizan para identificar a mujeres con tez más oscura.
Una de las primeras [instancias] (https://www.indiatoday.in/india/story/delhi-up-police-use-facial-recognition-tech-at-anti-caa-protests-others-may-soon- catch-up-1647470-2020-02-18) de la policía de Delhi que usa reconocimiento facial fue en 2020, cuando se usó para identificar a las personas responsables de la violencia durante las protestas contra la Ley de Enmienda de Ciudadanía del gobierno anunciada en diciembre de 2019. Los documentos compartidos en este El caso muestra que la policía de Delhi está utilizando tecnología de reconocimiento facial para tres casos de disturbios civiles, uno de los cuales incluye 750 casos. Los documentos agregaron que esta tecnología también se “usa ampliamente” para resolver casos de personas desaparecidas y cuerpos no identificados. Otro gobierno que está utilizando activamente el reconocimiento facial se encuentra en el [estado de Telangana, en el sur de la India] (https://www.amnesty.org/en/latest/news/2021/11/india-hyderabad-on-the-brink-of- hacerse-una-ciudad-de-vigilancia-total/), cuya capital es una de las más vigiladas del mundo .
A nivel mundial, el uso del reconocimiento facial por parte de las fuerzas del orden sigue fragmentado. China tiene el sistema de reconocimiento facial más grande del mundo, pero incluso [ha recibido un mayor escrutinio en los últimos años] (https://www.washingtonpost.com/world/facial-recognition-china-tech-data/2021/07/30 /404c2e96-f049-11eb-81b2-9b7061a582d8_story.html). En 2020, un caso histórico en el Reino Unido por parte del tribunal de apelación dictaminó que el uso del reconocimiento facial por parte de la policía británica era [ilegal] (https://www.independent.co.uk/news/uk/home-news/ reconocimiento-facial-violación-ilegal-derechos-humanos-tribunal-de-apelaciones-a9664441.html). Sin embargo, más recientemente, la Policía Metropolitana de Londres tuvo su “primera operación abierta de reconocimiento facial en vivo” en dos años. Mientras tanto, la Unión Europea ha propuesto permitir que la policía de los estados miembros vincule sus bases de datos a medida que el uso del reconocimiento facial se expande en todo el mundo. el continente. En cuanto a los EE. UU., aunque casi dos docenas de gobiernos estatales o locales han [prohibido el uso del reconocimiento facial por parte de la policía] (https://www.wired.com/story/face-recognition-banned-but-everywhere/), es lentamente haciendo un regreso en varios estados