Incidentes Asociados
Una noche a fines de noviembre, la abogada de Nueva Jersey, Kelly Conlon, acompañaba a la tropa de Girl Scouts de su hija para ver un espectáculo de las Rockettes en el Radio City Music Hall.
Poco después de llegar al lugar histórico de la ciudad de Nueva York, la seguridad la hizo a un lado y le pidió que confirmara su identidad. Le dijeron que su sistema de reconocimiento facial ya sabía quién era ella y, lo que es más importante, dónde trabajaba, [Conlon le dijo a The New York Times](https://www.nytimes.com/2022/12/22/nyregion/madison- jardín-cuadrado-reconocimiento-facial.html).
Le negaron la entrada.
El problema era que su bufete de abogados estaba involucrado en un litigio contra la empresa matriz de Radio City Music Hall, Madison Square Garden Entertainment (MSGE). Como resultado, Conlon, así como los abogados de otras firmas que iniciaron juicios contra MSGE, habían sido colocados en una "lista de exclusión" en una serie de lugares populares propiedad del grupo.
La historia se ha convertido en un punto álgido en el debate sobre la tecnología de reconocimiento facial. Si bien los defensores dicen que tiene la capacidad de mantener a las personas más seguras, los críticos responden que hay poco que respalde esta idea y advierten que el uso sin control de la tecnología podría tener consecuencias incalculables.
"Los expertos creen que el reconocimiento facial es especialmente peligroso, y es algo más parecido a las armas nucleares o biológicas, donde es tan profundamente dañino, tiene un enorme potencial de daño a nuestros derechos humanos básicos, [y] a la seguridad de las personas ”, dice Evan Greer, director de Fight for the Future, una organización de derechos digitales.
¿Cómo funciona el software de reconocimiento facial?
El reconocimiento facial es una forma de vigilancia biométrica que funciona básicamente comparando dos imágenes entre sí, dice Greer.
"Tienes una base de datos de objetivos, y luego puedes usar un algoritmo para filtrar imágenes o imágenes fijas", dijeron. "O en el caso de [Conlon], estaban haciendo reconocimiento facial en tiempo real, donde efectivamente las cámaras de vigilancia en el lugar estaban siendo analizadas constantemente por un software en busca de personas específicas".
No se necesita mucho para agregar una nueva persona al sistema, dijo Greer. Tomar una foto del rostro del sitio web de una empresa, una foto policial de una base de datos de arrestos o incluso una captura de pantalla de un perfil de redes sociales puede ser suficiente para que el algoritmo apunte y luego intente identificar a una persona.
Cuando se le preguntó sobre el caso de Conlon, MSGE dijo que su política era no permitir que los abogados de las firmas iniciaran un litigio activo, independientemente de si el abogado individual estaba involucrado en el caso.
“Si bien entendemos que esta política es decepcionante para algunos, no podemos ignorar el hecho de que los litigios crean un entorno inherentemente conflictivo”, dijo MSGE en un comunicado. "Todos los abogados afectados fueron notificados de la política. Continuamos dejando en claro que los abogados afectados serán bienvenidos a nuestros lugares una vez que se resuelva el litigio".
Actualmente, la tecnología de reconocimiento facial es legal en la ciudad de Nueva York. No existe una ley federal que se ocupe específicamente del reconocimiento facial, dejando que algunos lugares como San Francisco, Boston, Portland y el estado de Illinois aprueben diversos tipos de regulaciones o prohibiciones sobre la tecnología en los últimos años.
Este lento avance de la regulación de retazos a nivel estatal preocupa a los expertos en privacidad.
Por un lado, es la simplicidad de agregar objetivos a una base de datos lo que hace que esta tecnología sea tan potencialmente peligrosa para la privacidad del usuario, dice Albert Fox Cahn, director ejecutivo del Surveillance Technology Oversight Project (STOP) con sede en Nueva York. Luego está el hecho de que los datos biométricos son exclusivos de sus características y permanentes.
"Puedes cambiar tu nombre, puedes cambiar tu número de seguro social, puedes cambiar casi cualquier cosa, pero no puedes cambiar tu rostro", dijo Cahn. "Entonces, si sus datos biométricos se ven comprometidos una vez, estarán comprometidos de por vida".
También hay preocupaciones sobre quién podría sufrir más por la tecnología. Si bien hay letreros en los lugares de MSGE que indican que el reconocimiento facial se está utilizando con fines de seguridad, los críticos dicen que no ha habido mucha evidencia de que la tecnología defienda ese propósito.
En todo caso, las fallas inherentes al software exacerban la discriminación existente hacia los grupos minoritarios, lo que los pone en mayor riesgo de ser acusados falsamente de delitos, dice Hannah Bloch-Wehba, profesora adjunta de derecho en Texas A&M que se especializa en privacidad, tecnología y derechos democráticos. gobernancia.
"La tecnología de reconocimiento facial tiende a identificar erróneamente a las personas de color y, en particular, a las mujeres de color", dijo. "Y entonces pude ver una seria preocupación sobre el tipo de implicaciones de sesgo racial y de género de este tipo de tecnología que se usa para evaluar a las personas".
Algunas versiones de la tecnología han demostrado ser menos hábiles para diferenciar entre personas con tez más oscura en el pasado. Y Greer dice que la vigilancia policial tradicional también ha llevado históricamente a la vigilancia excesiva de las comunidades de color. Temen que combinar los dos pueda conducir a un efecto amplificado.
“Debido al legado de racismo dentro de la policía en los Estados Unidos, las bases de datos de arrestos están desproporcionadamente llenas de rostros de personas negras y marrones, y particularmente de hombres negros”, dijo. "Si te detienen y escanean tu rostro con reconocimiento facial, es más probable que consigas una coincidencia si eres un hombre negro que si eres un hombre blanco debido a ese tipo de legado racista que ahora está siendo exacerbada usando esta tecnología".
En los últimos años, varios hombres negros han sido identificados falsamente como sospechosos en investigaciones criminales que utilizaron software de reconocimiento facial, en [algunos casos resultaron en arrestos y cargos injustos] (https://www.wired.com/story/ arrestos-injustificados-ai-descarrilaron-3-vidas-de-hombres/).
En Detroit, un adolescente negro fue expulsado de una pista de patinaje en 2021 después de que la tecnología de reconocimiento facial la identificara erróneamente como alguien que previamente se había metido en una pelea en la propiedad.
"Es posible que escuchemos estas historias de alto perfil sobre abogados", dice Greer, "pero al final, sabemos que esta tecnología se usa de manera desproporcionada en las comunidades marginadas y daña de manera desproporcionada a las comunidades marginadas".
Una cuestión de seguridad
En un comunicado a NPR, MSGE dijo que la tecnología de reconocimiento facial se usaba ampliamente en todo el país, incluso en la industria del deporte y el entretenimiento, y en tiendas, casinos y aeropuertos "para proteger la seguridad de las personas que visitan y trabajan en esos lugares".
"Nuestros lugares son destinos en todo el mundo y varios se encuentran en los principales centros de tránsito en el corazón de Nueva York", dijo. "Siempre les hemos dejado claro a nuestros huéspedes y al público que usamos el reconocimiento facial como una de nuestras herramientas para brindar un entorno seguro para nuestros clientes y para nosotros mismos".
Para críticos como Bloch-Wehba, la idea de seguridad requiere más matices.
"Tenemos que preguntar, ¿de quién estás tratando de mantener a salvo a los [clientes]?" ella dijo. "¿Cómo deciden quién representa la amenaza? ¿Es una decisión que toma la administración del lugar o es una decisión que toma el producto tecnológico? ¿Y quién verifica esa decisión?"
Fox Cahn dice que la falta de regulación de la tecnología de reconocimiento facial en la ciudad de Nueva York no lo deja sorprendido por los titulares recientes que atrajeron tanta atención.
“Nueva York ha dado rienda suelta a las empresas para usar el reconocimiento facial en sus propiedades. Y era solo cuestión de tiempo antes de que viéramos a los propietarios usándolo para tomar represalias de esta manera”, dijo.
STOP, y otros grupos de defensa como Amnistía Internacional y el Proyecto de Defensa de los Inmigrantes, están trabajando para lograr una legislación que frene el uso de este software en lugares públicos de Nueva York, y esperan una prohibición federal en el futuro también.
El proceso no ha sido rápido, lo que según Fox Cahn se sumó al desafío de mantenerse al día con la tecnología en constante evolución.
Dijo que muchos legisladores de la ciudad de Nueva York estaban ansiosos por la regulación, pero que creía que algunas personas en el consejo de la ciudad estaban bloqueando el progreso. Atribuyó la falta de apoyo a las preocupaciones que puedan tener algunos políticos sobre los enfrentamientos con el Departamento de Policía de Nueva York y las empresas que suministran a la ciudad este tipo de tecnología.
Tiffany Cabán, miembro del concejo municipal que representa al distrito 22 de la ciudad de Nueva York, ve una clara conexión entre la voluntad política y el mantenimiento del statu quo.
"Parte de esto es la vieja historia del dinero en la política", dijo. "Si está inyectando dinero en el sistema y la gente se ve a sí misma como responsable, o [ve que] sus contribuciones son responsables de que ellos ocupen su cargo o estén en una posición de poder, entonces no va a estar en su mejor momento". intereses para impulsar una legislación que inhiba la capacidad de esas personas para hacer las cosas que quieren hacer".
Exdefensora pública, Cabán recuerda que se utiliza tecnología defectuosa como prueba en casos penales, y le gustaría que se prohibiera.
"Ha habido esfuerzos para introducir y aprobar legislación que aumente la responsabilidad policial. Y creo que la legislación sobre el reconocimiento facial sería parte integral de eso", dijo. "Así que tengo la esperanza de que al menos veremos algunas de esas cosas saliendo y en este próximo año que acabamos de comenzar".
El llamado a la ley y el orden es fuerte
La división entre los políticos de Nueva York comienza desde arriba, con el alcalde Eric Adams defendiendo la tecnología en una [entrevista_POLITICO_](https://www.politico.com/news/2022/12/24/eric-adams-policing- tecnología-nueva-york-00075359).
Adams, un excapitán de la policía de Nueva York, hizo campaña en una plataforma de seguridad pública y ve la tecnología de reconocimiento facial como una herramienta en su arsenal.
“Me sorprende cuánto no hemos adoptado la tecnología, y parte de eso se debe a que muchos de nuestros elegidos tienen miedo”, dijo Adams. "Cualquier cosa tecnológica, ellos piensan, 'Oh, es un hombre del saco. Es el Gran Hermano observándote'. El Gran Hermano te está protegiendo".
La policía de Nueva York tampoco es ajena a la tecnología. [Una pregunta frecuente en su sitio web] (https://www.nyc.gov/site/nypd/about/about-nypd/equipment-tech/facial-recognition.page) afirma que ha estado usando reconocimiento facial desde 2011 para identificar sospechosos en diversos tipos de delitos.
"[La policía de Nueva York] no conoce ningún caso en la ciudad de Nueva York en el que una persona haya sido arrestada falsamente sobre la base de una coincidencia de reconocimiento facial", se lee en las preguntas frecuentes.
"Las medidas de seguridad integradas en los protocolos de la policía de Nueva York para gestionar el reconocimiento facial, que proporcionan una revisión humana inmediata de los hallazgos del software, evitan la identificación errónea".
Jake Parker es el director sénior de relaciones gubernamentales de Security Industry Association, una asociación comercial de empresas de seguridad, y aboga por el uso de la tecnología de reconocimiento facial.
En medio de las críticas al uso de la tecnología por parte de MSGE en el caso de Conlon, Parker dijo que su aplicación también demostró algunos de los posibles beneficios de seguridad.
"Me hace pensar cuántas veces alguien sujeto a una orden de restricción apareció sin previo aviso en un lugar de trabajo y cometió actos de violencia a pesar de la restricción. Y, desafortunadamente, esto sucede todo el tiempo, y las mujeres suelen ser las víctimas", dijo Parker.
Él cree que la tecnología puede ayudar a asegurar espacios públicos como escuelas, aeropuertos, locales de música y otros lugares que pueden requerir verificación de identidad, así como hacerlos más eficientes.
"Con casi cualquier aplicación de reconocimiento facial, aumenta y ayuda a que el proceso de control humano sea más rápido y preciso", dijo.
"La posición de los líderes tecnológicos en este espacio, creemos que cualquier tecnología, incluido el reconocimiento facial, solo debe usarse para fines legales, éticos y no discriminatorios".
Tanto Parker como la policía de Nueva York refutan las afirmaciones de que las personas de color son más propensas a sufrir con este software.
La policía de Nueva York dice que las personas identificadas por la tecnología son revisadas de forma rutinaria, lo que significa que "los observadores humanos pueden corregir rápidamente las coincidencias de software erróneas".
Parker, mientras tanto, cita estudios del Instituto Nacional de Estándares y Tecnología (NIST) del gobierno federal.
"Al observar los datos más recientes del programa de evaluación del gobierno federal, en el que participaron la mayoría de los proveedores líderes, las 150 tecnologías principales tienen una precisión de más del 99 % en general, e incluso en la demografía negra, blanca, masculina y femenina", Parker dicho.
Un portavoz del equipo de reconocimiento facial del NIST dijo que esta interpretación de sus datos parecía ser correcta, pero señalaron que los estudios se realizaron en entornos de laboratorio, con iluminación dedicada y participantes cooperativos.
"Sin esta cooperación, esperaríamos, como se muestra en nuestras pruebas, que el valor del 99% disminuya", dijeron en un comunicado. "Las pruebas del NIST en sujetos cooperativos han demostrado una mejora en el rendimiento de la diferencia demográfica. Los problemas con la captura de imágenes, como la iluminación, aún pueden existir y afectar el rendimiento".
La posibilidad de una regulación generalizada para la tecnología de reconocimiento facial es una prioridad para los grupos activistas, no solo porque podría frenar escenarios como el de Radio City Music Hall, sino porque a quién se aplica podría tener un gran impacto.
Bloch-Wehba dice que ya existe más regulación en torno a la tecnología de reconocimiento facial para el uso del gobierno y las fuerzas del orden en los EE. UU. que para las empresas privadas.
"Si tuviéramos que regular el uso policial del reconocimiento facial, pero cualquier agencia privada o empresa puede usarlo como mejor le parezca, entonces eso crea una dinámica en la que hemos permitido que el sector privado, de alguna manera, se vuelva más poderoso que el propio gobierno", dijo Bloch-Wehba.
La semana pasada, los legisladores de Nueva York se manifestaron frente al Madison Square Garden en protesta por la política de MSGE y dijeron que otra persona había sido expulsada en un lugar.
Mientras tanto, varios bufetes de abogados ahora están demandando a MSGE por la política, y los casos se están abriendo camino en los tribunales. Los resultados están siendo observados de cerca.
"Las decisiones que tomemos sobre la tecnología y las políticas que la gobiernan darán forma no solo a los próximos 10 años, sino a todo el futuro de la civilización humana", dice Greer. "Realmente hay mucho en juego".