Incidentes Asociados
NUEVA ORLEÁNS --- Durante dos años, la policía de Nueva Orleans utilizó en secreto la tecnología de reconocimiento facial para escanear las calles de la ciudad en busca de sospechosos. Este método de vigilancia, sin precedentes en ninguna gran ciudad estadounidense, podría violar las restricciones municipales sobre el uso de esta tecnología, según una investigación de The Washington Post. La policía utiliza cada vez más software de reconocimiento facial para identificar a culpables desconocidos a partir de imágenes fijas, generalmente tomadas por cámaras de vigilancia en la escena del crimen o en sus inmediaciones. La policía de Nueva Orleans llevó esta tecnología un paso más allá, utilizando una red privada de más de 200 cámaras de reconocimiento facial para vigilar las calles, monitoreando constantemente a los sospechosos buscados y enviando notificaciones automáticas a los teléfonos móviles de los agentes a través de una aplicación para comunicar los nombres y la ubicación actual de posibles coincidencias. Esto parece contradecir una ordenanza municipal de 2022, que limitaba a la policía al uso del reconocimiento facial únicamente para la búsqueda de sospechosos específicos en sus investigaciones de delitos violentos, y nunca como una "herramienta de vigilancia" más generalizada para rastrear a personas en lugares públicos. Cada vez que la policía desea escanear un rostro, la ordenanza exige enviar una imagen fija a examinadores capacitados en una instalación estatal y posteriormente proporcionar detalles sobre estos escaneos en informes al ayuntamiento. Esta medida protege la privacidad del público y evita que errores de software provoquen arrestos injustos. Desde principios de 2023, la red de cámaras de reconocimiento facial ha contribuido a docenas de arrestos, incluyendo al menos cuatro personas acusadas únicamente de delitos no violentos, según informes policiales, registros judiciales y publicaciones en redes sociales de Project NOLA, una organización sin fines de lucro dedicada a la prevención del delito que compra y administra muchas de las cámaras. Los agentes no revelaron su dependencia de las coincidencias de reconocimiento facial en los informes policiales en la mayoría de los arrestos para los que la policía proporcionó registros detallados, y ninguno de los casos se incluyó en los informes obligatorios del departamento al ayuntamiento sobre el uso de la tecnología. Project NOLA no tiene un contrato formal con la ciudad, pero ha estado trabajando directamente con los agentes de policía. "Esta es la pesadilla tecnológica de reconocimiento facial que nos ha preocupado", declaró Nathan Freed Wessler, subdirector del Proyecto de Discurso, Privacidad y Tecnología de la ACLU, quien ha seguido de cerca el uso de tecnologías de IA por parte de la policía. "El gobierno se está dando el poder de rastrear a cualquiera, y de hecho, a todos, mientras vivimos en público". Anne Kirkpatrick, jefa del Departamento de Policía de Nueva Orleans, suspendió el programa a principios de abril, según declaró en una entrevista, después de que un capitán identificara las alertas como un posible problema durante una revisión. En un correo electrónico del 8 de abril revisado por The Post, Kirkpatrick indicó al Proyecto NOLA que las alertas automáticas deben desactivarse hasta que esté "segura de que el uso de la aplicación cumple con todos los requisitos legales y normativos". The Post comenzó a solicitar registros públicos sobre las alertas en febrero. El departamento de policía "no posee, depende, administra ni aprueba el uso por parte de sus miembros de ningún sistema de inteligencia artificial asociado con la vasta red de cámaras de crimen del Proyecto Nola", declaró Reese Harper, portavoz de la agencia, en un comunicado enviado por correo electrónico. Las policías de todo el país utilizan software de reconocimiento facial, que utiliza inteligencia artificial para mapear rápidamente los rasgos físicos de un rostro en una imagen y compararlos con los rostros en enormes bases de datos de imágenes —generalmente extraídas de fotos policiales, licencias de conducir o fotos en redes sociales— en busca de posibles coincidencias. El uso del reconocimiento facial automatizado en Nueva Orleans no se había reportado previamente y es el primer esfuerzo generalizado conocido por parte de la policía en una gran ciudad estadounidense para usar IA para identificar a personas en transmisiones en vivo de cámaras con el fin de realizar arrestos inmediatos, afirmó Wessler. El Post ha informado que algunas agencias policiales utilizan software de reconocimiento facial basado en IA, violando las leyes locales, ignorando los estándares de investigación tradicionales y poniendo en riesgo a personas inocentes. En ocasiones, la policía arrestó a sospechosos basándose en coincidencias de IA sin pruebas independientes que los vincularan con el delito, lo que aumenta las probabilidades de un arresto falso. Con frecuencia, la policía no informaba a los acusados sobre el uso de software de reconocimiento facial, negándoles la oportunidad de impugnar los resultados de una tecnología que ha demostrado ser menos fiable para personas de color, mujeres y personas mayores. Uno de los pocos lugares donde se sabe que el reconocimiento facial en vivo se usa ampliamente es Londres, donde la policía estaciona furgonetas fuera de zonas de mucho tráfico y utiliza cámaras equipadas con reconocimiento facial para escanear los rostros de los transeúntes y confrontar a las personas que coinciden con las de una lista de vigilancia. Aunque la ciudad afirma que el programa nunca ha dado lugar a un arresto falso desde su lanzamiento en 2016, Big Brother Watch, un grupo de libertades civiles con sede en Londres, argumenta que la práctica trata a todos como posibles sospechosos, haciendo que las personas que fueron identificadas falsamente tengan la responsabilidad de demostrar su inocencia. Alertas en tiempo real ---------------- El programa de vigilancia en Nueva Orleans se basó en el Proyecto NOLA, un grupo privado dirigido por un expolicía que montó una red de cámaras en el exterior de negocios en zonas con alta delincuencia, incluido el barrio francés de la ciudad. El Proyecto NOLA configuró las cámaras para buscar a personas en una lista de sospechosos buscados. Cuando el software determinaba que había encontrado una coincidencia, enviaba alertas en tiempo real a través de una aplicación que algunos agentes instalaban en sus teléfonos móviles. Los agentes investigaban rápidamente al sujeto, acudían al lugar e intentaban realizar arrestos. La policía no instaló el programa ni puede buscar directamente a personas específicas, ni añadir o eliminar personas de la lista de vigilancia del sistema de cámaras, según Bryan Lagarde, fundador del Proyecto NOLA. Este acuerdo se parece poco al proceso descrito en la ordenanza municipal de hace tres años, que preveía que los detectives utilizaran software de reconocimiento facial únicamente como parte de investigaciones metódicas con una supervisión rigurosa. Cada vez que la policía desea escanear un rostro, la ordenanza exige enviar una imagen fija a un "centro de fusión" estatal en Baton Rouge, donde diversas agencias del orden colaboran en las investigaciones. Allí, examinadores capacitados en la identificación de rostros utilizan software de inteligencia artificial para comparar la imagen con una base de datos de fotos y solo obtienen una coincidencia si al menos dos examinadores coinciden. Los investigadores se han quejado de que el proceso es demasiado largo y, a menudo, no produce ninguna coincidencia, según una auditoría federal del departamento realizada en 2023. Solo ha resultado útil en un solo caso que culminó en un arresto desde octubre de 2022, según los registros que la policía proporcionó al ayuntamiento. En cambio, Project NOLA afirma que sus cámaras de reconocimiento facial participaron en al menos 34 arrestos desde que se activaron a principios de 2023, según las publicaciones del grupo en Facebook. Esta cifra no se puede verificar porque la ciudad no registra dichos datos y la organización sin fines de lucro no publica un informe completo de sus casos. Sin una lista de los casos, es imposible saber si alguna de las personas fue identificada erróneamente o qué medidas adicionales tomaron los agentes para confirmar su participación en los delitos. Kirkpatrick afirmó que su agencia ha iniciado una revisión formal sobre cuántos agentes utilizaron las alertas en tiempo real, cuántas personas fueron arrestadas como resultado, con qué frecuencia las coincidencias parecen haber sido erróneas y si estos usos violaron la ordenanza municipal. "Haremos lo que dictan la ordenanza y las políticas, y si descubrimos que nos salimos de esos límites, lo detendremos, lo corregiremos y nos ajustaremos a los límites de la ordenanza", declaró. No existen regulaciones federales sobre el uso de IA por parte de las fuerzas del orden locales. Cuatro estados (Maryland, Montana, Vermont y Virginia), así como al menos 19 ciudades en otros nueve estados, prohíben explícitamente a su propia policía el uso del reconocimiento facial para la identificación o el rastreo en vivo, automatizado o en tiempo real, según la Asociación de la Industria de Seguridad, un grupo comercial. Los legisladores en estos lugares expresaron su preocupación en reuniones públicas de que la tecnología podría infringir los derechos constitucionales de las personas o llevar a la policía a cometer errores cuando se apresuran a arrestar a un posible sospechoso antes de tomar medidas para confirmar su conexión con el crimen, ya que muchas personas se parecen. Al menos ocho estadounidenses han sido arrestados injustamente debido al reconocimiento facial, según han informado. El programa de vigilancia no autorizado en Nueva Orleans resalta el desafío de regular una tecnología que está ampliamente disponible, en un momento en que algunos policías ven la IA como una herramienta invaluable para combatir el crimen. Incluso en algunos lugares donde las autoridades han prohibido el reconocimiento facial, como Austin y San Francisco, los agentes eludieron las prohibiciones solicitando encubiertamente a agentes de localidades vecinas que realizaran búsquedas con IA en su nombre, según informó The Post el año pasado. Las tasas de delitos violentos en Nueva Orleans, al igual que en gran parte del país, se encuentran en mínimos históricos, según Jeff Asher, consultor que analiza las estadísticas de delincuencia en la región. Sin embargo, las autoridades municipales han aprovechado los recientes casos de delitos violentos para argumentar que la policía necesita las herramientas más potentes a su disposición. El mes pasado, un informe independiente encargado después del ataque del Día de Año Nuevo que dejó 14 personas muertas en Bourbon Street encontró que la policía de Nueva Orleans tenía poco personal y poca preparación. El informe, supervisado por el excomisionado de policía de la ciudad de Nueva York William Bratton, aconsejó a Nueva Orleans que explorara la adopción de varias herramientas nuevas, incluyendo drones, sistemas de predicción de amenazas y actualizaciones al centro de delitos en tiempo real de la ciudad, pero no recomendó agregar ninguna forma de reconocimiento facial. Kirkpatrick, el principal funcionario de policía de la ciudad, y Jason Williams, su principal fiscal, dijeron que están en conversaciones con el ayuntamiento para revisar la ordenanza de reconocimiento facial. Kirkpatrick dice que apoya la idea de que la ciudad opere legalmente su propio programa de reconocimiento facial en vivo, sin la participación del Proyecto NOLA y con ciertos límites, como prohibir el uso de la tecnología para identificar a las personas en una protesta. "¿Se puede tener la tecnología sin violar ni vigilar?", preguntó. "Sí, se puede. Y eso es lo que defendemos". 5000 cámaras ------------- Pocas personas tienen tanta visibilidad de la vida cotidiana de los residentes de Nueva Orleans como Lagarde, exoficial de patrulla e investigador que fundó su propio negocio de videovigilancia a finales de los 90 antes de lanzar el Proyecto NOLA en 2009. Financiado por donaciones y dependiente de empresas que aceptan alojar las cámaras en sus edificios o conectar las cámaras de vigilancia existentes a su red centralizada, Lagarde afirmó que el Proyecto NOLA tiene acceso a 5000 cámaras de detección de delitos en toda Nueva Orleans, la mayoría de las cuales no están equipadas con reconocimiento facial. Todas las cámaras se conectan a una única sala de control en un espacio de oficinas alquilado en el campus de la Universidad de Nueva Orleans, explicó Lagarde en una entrevista en las instalaciones. Algunas transmisiones de las cámaras también son monitoreadas por agencias policiales federales, estatales y locales, añadió. El Proyecto NOLA generó $806,724 en ingresos en 2023, según muestran sus declaraciones de impuestos. Gran parte de este dinero provino de las "tarifas de la nube" que el grupo cobra a los gobiernos locales fuera de Nueva Orleans —desde Monticello, Florida, hasta Frederick, Colorado— que instalan cámaras del Proyecto NOLA en sus propias ciudades y dependen de la ayuda de Lagarde para monitorear la delincuencia. Ha experimentado con el reconocimiento facial en Misisipi, comentó, pero su "primer ejemplo de reconocimiento facial a nivel de ciudad es Nueva Orleans". Nueva Orleans no paga al Proyecto NOLA. Durante más de una década, Lagarde utilizó cámaras estándar en el exterior de los negocios para monitorear la delincuencia y ofrecer videos de vigilancia a los agentes para que los usaran en sus investigaciones. Las cámaras de Lagarde se popularizaron tanto que la policía comenzó a llamarlo cuando detectaron una cámara del Proyecto NOLA cerca de la escena de un crimen que estaban investigando, según informes policiales de incidentes, entrevistas con la policía y correos electrónicos obtenidos mediante una solicitud de registros públicos. Lagarde comenzó a incorporar cámaras de reconocimiento facial a su red a principios de 2023, tras un legado de 87.000 dólares de una mujer local. Lagarde utilizó el dinero para comprar un lote de cámaras capaces de detectar personas a unos 213 metros de distancia y compararlas automáticamente con los rasgos faciales, las características físicas e incluso la vestimenta de las personas en una base de datos de nombres y rostros que ha compilado. Lagarde afirma que creó su base de datos, en parte, a partir de fotos policiales de las fuerzas del orden locales. Incluye a más de 30.000 "delincuentes locales sospechosos y conocidos", según escribió Project NOLA en Facebook en 2023. Lagarde puede identificar rápidamente a cualquier persona en la base de datos en cuanto se acerca a una cámara de Project NOLA, afirmó. También puede ingresar un nombre o una imagen para ver todos los videos de esa persona que el Proyecto NOLA capturó en los últimos 30 días. Tras esto, según Lagarde, los videos se eliminan automáticamente "por razones de privacidad". El Proyecto NOLA encontró socios entusiastas entre los dueños de negocios locales, algunos de los cuales estaban hartos de lo que consideraban la incapacidad de la ciudad para frenar la delincuencia en el Barrio Francés, el motor de su economía turística y un foco de narcotraficantes y ladrones que se aprovechan de los turistas, según Tim Blake, dueño de Three Legged Dog, un bar que fue uno de los primeros en instalar una de las cámaras de reconocimiento facial del Proyecto NOLA. "El Proyecto NOLA no existiría si el gobierno hubiera hecho su trabajo", dijo Blake. Aunque Lagarde a veces aparece junto a funcionarios municipales en conferencias de prensa donde anuncian arrestos importantes, no es empleado ni contratista del gobierno de Nueva Orleans. Por lo tanto, Lagarde y la organización no están obligados a compartir información sobre coincidencias de reconocimiento facial que podrían constituir evidencia crucial en el tribunal, declaró Danny Engelberg, el principal defensor público de Nueva Orleans. "Al convertir esto en una entidad privada, todas esas barreras que se supone deben existir para la aplicación de la ley y la fiscalía ya no existen, y no tenemos las herramientas para hacer lo que hacemos, que es exigir responsabilidades a las personas", afirmó. Lagarde afirma que intenta ser transparente publicando en Facebook sobre algunos de sus emparejamientos exitosos, aunque reconoce que solo publica una pequeña parte y afirma que sería "irresponsable" publicar información sobre investigaciones abiertas. El Proyecto NOLA, añadió, rinde cuentas a las empresas y particulares que alojan las cámaras y que optan voluntariamente por compartir sus feeds con la red. "Es un sistema que se puede desactivar con la misma facilidad con la que se activa", afirmó. "Si alguna vez vulneráramos la confianza pública, la gente podría desactivar estas cámaras individualmente". Dispositivos prohibidos -------------- Lagarde se negó a revelar quién fabrica los equipos que utiliza, alegando que no quiere respaldar a ninguna empresa. Varias cámaras del Proyecto NOLA en el Barrio Francés parecen casi idénticas a las que se muestran en el sitio web de Dahua, fabricante chino de cámaras y los códigos de producto estampados en la parte posterior de estos dispositivos corresponden a una cámara idéntica vendida por ENS Security, minorista de equipos con sede en Plainview, Nueva York, que ha reconocido haber revendido cámaras Dahua en el pasado. El sitio web del Proyecto NOLA también contiene un enlace para descargar una aplicación que permite a los agentes de policía ver y gestionar las grabaciones. La aplicación, llamada DSS, es de Dahua. El Congreso prohibió a las agencias federales el uso de productos o servicios fabricados por Dahua y otras empresas chinas en 2018, alegando la preocupación de que el gobierno del presidente Xi Jinping pudiera utilizar dichos equipos para espiar a ciudadanos estadounidenses. Desde 2020, la ley prohíbe a cualquier agencia o contratista que reciba fondos federales utilizarlos en la adquisición de los productos prohibidos. Un portavoz de Dahua se negó a hacer comentarios sobre las cámaras de Nueva Orleans y afirmó que la empresa dejó de vender equipos en Estados Unidos el año pasado. El Departamento de Policía de Nueva Orleans ha recibido decenas de millones de dólares del gobierno federal en los últimos años y confirmó que algunos agentes han instalado esta aplicación del DSS en teléfonos móviles y estaciones de trabajo policiales. Kirkpatrick afirmó desconocer quién creó la aplicación o las cámaras, pero que lo investigaría. Lagarde afirmó que el Proyecto NOLA utiliza servidores de marcas reconocidas, fabricados en Estados Unidos, para operar nuestro programa de cámaras. Algunos funcionarios municipales argumentan que la policía no está violando la ordenanza municipal de reconocimiento facial porque no son propietarios de las cámaras ni tienen contrato con Lagarde; simplemente reciben información de un grupo externo que realiza escaneos de reconocimiento facial por su cuenta. "Si Bryan Lagarde llama a un agente y dice 'Creo que se está cometiendo un delito en la cuadra 1800 de Bienville', es como si la señorita Johnson mirara por la ventana y dijera 'Creo que se está cometiendo un delito en la cuadra 1850 de Bienville'", declaró Williams, fiscal de distrito de la parroquia de Orleans, en una entrevista. Sin embargo, en muchos casos, la policía ha recurrido a Lagarde para solicitar grabaciones o ayuda para identificar y localizar a sospechosos, según informes policiales, publicaciones del Proyecto NOLA en redes sociales y correos electrónicos internos de la policía. Rastreando a un sospechoso ------------------ En un caso el año pasado, un detective de policía que investigaba un teléfono celular robado confió en Project NOLA para identificar al perpetrador y rastrearlo usando alertas de reconocimiento facial, según relatos de la investigación extraídos en parte del informe del incidente policial y en parte de la publicación de Facebook de Project NOLA publicación. El detective contactó a Lagarde "para ayudar a localizar al perpetrador en las cámaras de Project NOLA", según el informe policial, proporcionando tomas fijas tomadas de las grabaciones de la cámara de vigilancia de la ciudad. Lagarde usó la herramienta de reconocimiento de ropa de Project NOLA para encontrar grabaciones de video anteriores de un sospechoso. Con las nuevas y mejores imágenes de su rostro, el Proyecto NOLA utilizó el reconocimiento facial para determinar su posible identidad y compartirla con el detective. El detective tomó ese nombre y encontró fotos de un hombre en redes sociales cuya apariencia y tatuajes coincidían con los del ladrón de teléfonos. La policía obtuvo una orden de arresto en su contra. Lagarde añadió ese nombre y rostro a la lista de vigilancia del Proyecto NOLA, y pocos días después, las cámaras lo identificaron automáticamente en el Barrio Francés y alertaron a la policía, que lo encontró y lo arrestó. El hombre fue acusado de robo, pero se declaró culpable del delito menor de hurto, según consta en los registros judiciales. El informe policial mencionó que Lagarde ayudó a identificar al sospechoso, pero no mencionó que utilizó reconocimiento facial para hacerlo ni que utilizó reconocimiento facial en vivo y alertas automáticas para monitorearlo y localizarlo. David Barnes, sargento de la policía de Nueva Orleans a cargo de la investigación y planificación legal, afirmó que los agentes están entrenados para encontrar siempre una causa probable antes de realizar un arresto. Añadió que Lagarde a veces exagera en sus publicaciones de Facebook el papel que su tecnología desempeñó en algunos casos. Dijo que el detective que investigaba el robo de teléfono solo le pedía a Lagarde que encontrara videos del sospechoso, no su ubicación. Una mañana lluviosa de mayo, frente al Three Legged Dog, una cámara del Proyecto NOLA giraba, parpadeando con luces rojas y azules, y se movía de un lado a otro mientras seguía autos y personas con un programa automatizado. La cámara ya no envía alertas a la policía a través de una aplicación, a petición de Kirkpatrick. "Como usted y todos los demás, no quiero perder ningún caso de delincuentes violentos por infracciones de políticas o de nuestras ordenanzas", declaró Kirkpatrick en su correo electrónico del mes pasado a Lagarde. Sin embargo, las alertas siguen llegando al personal del Proyecto NOLA, quienes, según Lagarde, comunican la ubicación de los sospechosos buscados a la policía mediante llamadas telefónicas, mensajes de texto y correos electrónicos.