Incidentes Asociados
Desde principios de 2023, las cámaras de reconocimiento facial, operadas por una organización privada sin fines de lucro, han escaneado a visitantes y residentes de Nueva Orleans y alertado discretamente a la policía, eludiendo la supervisión y potencialmente violando la ley municipal, según un nuevo informe.
En 2022, el gobierno municipal de Nueva Orleans flexibilizó su prohibición sobre el uso de la tecnología de reconocimiento facial. Esta tecnología podía utilizarse para investigar delitos violentos, pero debía ser verificada por un operador humano antes de tomar medidas.
Sin embargo, una investigación publicada el lunes por el Washington Post reveló que, en un año, la policía recibía silenciosamente alertas continuas de reconocimiento facial en tiempo real de una red de cámaras privada. Estas alertas provenían de cámaras gestionadas por la organización sin fines de lucro Project NOLA (https://www.projectnola.org/), que gestiona una extensa red de vigilancia privada en toda la ciudad, según el informe.
Project NOLA afirma tener acceso a más de 5000 imágenes de cámaras en el área de Nueva Orleans, más de 200 de ellas equipadas con reconocimiento facial. El sistema compara los rostros con una base de datos privada de más de 30 000 personas, recopilada en parte a partir de fotos policiales. Cuando se detecta una coincidencia, los agentes reciben una alerta en su teléfono móvil con la identidad y ubicación de la persona, según el informe.
La policía debía notificar al ayuntamiento cada vez que utilizaba tecnología de reconocimiento facial en una investigación o arresto, pero, según informes, no lo hizo. En varios casos, los informes policiales omitieron cualquier mención de la tecnología, lo que generó preocupación por la posibilidad de que a los acusados se les negara la oportunidad de impugnar el papel del reconocimiento facial en su arresto.
A medida que aumentaba el escrutinio, el departamento de policía se distanció de la operación, declarando en una declaración cuidadosamente redactada que "no posee, depende, administra ni aprueba el uso por parte de los miembros del departamento de ningún sistema de inteligencia artificial asociado con la vasta red de cámaras de crimen del Proyecto NOLA".
"Hasta ahora, ningún departamento de policía estadounidense ha estado dispuesto a arriesgarse a la enorme repercusión pública que supondría el uso de un sistema de vigilancia de reconocimiento facial tan descarado", declaró Nathan Freed Wessler, subdirector del Proyecto de Discurso, Privacidad y Tecnología de la ACLU, en un comunicado de prensa.
Al adoptar este sistema —en secreto, sin salvaguardas y con una tremenda amenaza para nuestra privacidad y seguridad—, la ciudad de Nueva Orleans ha cruzado una línea roja muy marcada. Esto es propio de estados de vigilancia autoritarios y no tiene cabida en la policía estadounidense.
Las salvaguardas existen por una razón, como ya lo han demostrado casos anteriores. En 2022, Randall Reid fue arrestado en Georgia después de que agentes de Luisiana utilizaran la inteligencia artificial de Clearview para comparar la foto de su licencia de conducir con las imágenes de vigilancia de un robo de bolso, a pesar de que afirmaba no haber estado nunca en el estado. Pasó seis días en la cárcel, incurrió en miles de dólares en honorarios legales y, en 2023, presentó una demanda federal alegando arresto injusto basándose únicamente en una coincidencia de reconocimiento facial.
En 2020, la policía de Detroit fue noticia al identificar falsamente y arrestar a Robert Williams bajo sospecha de robo en tiendas. Williams testificó posteriormente ante el Congreso sobre la experiencia. Un año después, le tocó el turno a Lamya Robinson, entonces de 14 años, quien fue expulsada de una pista de patinaje tras ser identificada falsamente con un "97% de coincidencia" con un conocido alborotador.
Casos como estos contribuyeron a la reacción pública y a los esfuerzos legislativos para frenar la tecnología de reconocimiento facial. Nueva Orleans no fue la excepción, prohibiendo la tecnología en 2020. Sin embargo, el fallo de 2022 flexibilizó ligeramente las normas para permitir su uso a través del Centro de Fusión de Luisiana, que recopila datos de la policía de todo el estado.
En ese momento, la policía aseguró a los funcionarios municipales que la tecnología solo se usaría como último recurso tras el fracaso de otros métodos de identificación. El sargento David Barnes testificó que cualquier solicitud requería la aprobación de la supervisión y que las coincidencias debían ser revisadas por varios miembros del personal antes de ser procesadas.
No se mencionó el Proyecto NOLA, y es posible que la policía creyera que recibir alertas de un sistema privado los eximía de las normas. La organización sin fines de lucro cuenta con el hardware necesario para la vigilancia en tiempo real: su sitio web promociona cámaras con IA, que se ofrecen de forma gratuita con cargos de instalación y planes de almacenamiento en la nube.
Con una inversión de $300 al año se obtiene un sistema básico de cámaras, mientras que con $2200 se cubre un modelo 4K de alta gama con zoom de 25x, visión nocturna STARVIS e IA que rastrea automáticamente a personas y vehículos, emitiendo luces rojas y azules intermitentes y un foco cuando detecta intrusos o actividad sospechosa. Las grabaciones suelen almacenarse durante 30 días, aunque ese plazo se ha ampliado a 90 días en algunos distritos tras cambios recientes en las políticas.
Los investigadores del Post comenzaron a enviar preguntas a la policía y a la ciudad en febrero. El 8 de abril, la jefa del Departamento de Policía de Nueva Orleans (NOPD), Anne Kirkpatrick, supuestamente envió un memorando general al personal, informando de que un agente había expresado su preocupación por el sistema y había suspendido su uso.
Kirkpatrick escribió que se le había solicitado al Proyecto NOLA que suspendiera las alertas a los agentes hasta que estuviera "segura de que el uso de la aplicación cumple con todos los requisitos de la ley y las políticas".
Ni el NOPD ni el Proyecto NOLA hicieron comentarios al cierre de esta edición.