Problema 5305
La policía y las agencias federales han encontrado una nueva y controvertida forma de eludir la creciente diversidad de leyes que limitan el uso del reconocimiento facial: un modelo de IA que puede rastrear a las personas mediante atributos como la talla, el género, el color y el estilo del cabello, la ropa y los accesorios.
La herramienta, llamada Track, desarrollada por la empresa de análisis de video Veritone, es utilizada por 400 clientes, entre ellos departamentos de policía estatales y locales, y universidades de todo Estados Unidos. También se está expandiendo a nivel federal: los fiscales del Departamento de Justicia comenzaron a utilizar Track para investigaciones criminales en agosto pasado. El conjunto más amplio de herramientas de IA de Veritone, que incluye el reconocimiento facial auténtico, también es utilizado por el Departamento de Seguridad Nacional (que alberga a las agencias de inmigración) y el Departamento de Defensa (https://www.veritone.com/newsroom/press-releases/veritone-selected-by-department-of-defense-in-249-million-bpa-to-accelerate-ai-capabilities-of-joint-artificial-intelligence-center/), según la compañía.
"La visión principal de Track", afirma Ryan Steelberg, director ejecutivo de Veritone, era: "Si no se nos permite rastrear los rostros de las personas, ¿cómo podemos ayudar a identificar posibles delincuentes o comportamientos o actividades maliciosas?". Además de rastrear a personas donde el reconocimiento facial no está legalmente permitido, Steelberg añade que permite el rastreo cuando los rostros están ocultos o no son visibles.
El producto ha recibido críticas de la Unión Estadounidense por las Libertades Civiles (ACLU), que, tras conocer la herramienta a través de MIT Technology Review, afirmó que era la primera vez que veían un sistema de rastreo no biométrico utilizado a gran escala en Estados Unidos. Advirtieron que plantea muchas de las mismas preocupaciones sobre privacidad que el reconocimiento facial, pero también introduce otras nuevas en un momento en que la administración Trump presiona a las agencias federales para que intensifiquen la vigilancia de manifestantes, inmigrantes y estudiantes.
Veritone nos ofreció una demostración de Track, en la que analizó a personas en grabaciones de diferentes entornos, desde los disturbios del 6 de enero hasta estaciones de metro. Se puede usar para encontrar personas especificando su tamaño, género, color y estilo de cabello, zapatos, ropa y diversos accesorios. La herramienta puede entonces crear cronologías, rastreando a una persona en diferentes ubicaciones y transmisiones de video. Se puede acceder a ella a través de las plataformas en la nube de Amazon y Microsoft.
En una entrevista, Steelberg afirmó que la cantidad de atributos que Track utiliza para identificar a las personas seguirá creciendo. Al preguntarle si Track diferencia según el tono de piel, un portavoz de la compañía afirmó que es uno de los atributos que el algoritmo utiliza para distinguir a las personas, pero que el software actualmente no permite a los usuarios buscar personas por color de piel. Track actualmente solo funciona con videos grabados, pero Steelberg afirma que la compañía está a menos de un año de poder ejecutarlo en transmisiones de video en vivo.
Las agencias que usan Track pueden agregar imágenes de cámaras corporales policiales, drones, videos públicos en YouTube o las llamadas grabaciones de carga ciudadana (de cámaras Ring o teléfonos celulares, por ejemplo) en respuesta a las solicitudes de la policía.
"Nos gusta llamarla nuestra aplicación Jason Bourne", dice Steelberg. Prevé que la tecnología será objeto de escrutinio en casos judiciales, pero añade: "Espero que estemos exonerando a las personas tanto como ayudando a la policía a encontrar a los delincuentes". El sector público representa actualmente solo el 6% del negocio de Veritone (la mayoría de sus clientes son empresas de medios de comunicación y entretenimiento), pero la compañía afirma que es su mercado de más rápido crecimiento, con clientes en lugares como California, Washington, Colorado, Nueva Jersey e Illinois.
Esta rápida expansión ha comenzado a generar alarma en ciertos sectores. Jay Stanley, analista sénior de políticas de la ACLU, escribió en 2019 que la inteligencia artificial algún día agilizaría la tediosa tarea de revisar minuciosamente las grabaciones de vigilancia, permitiendo un análisis automatizado independientemente de si se ha cometido un delito. Desde entonces, muchas empresas de tecnología policial han estado desarrollando sistemas de análisis de video que pueden, por ejemplo, detectar cuándo una persona entra en una zona determinada. Sin embargo, Stanley afirma que Track es el primer producto que ha visto que hace tecnológicamente viable el rastreo amplio de personas específicas a gran escala.
"Esta es una tecnología potencialmente autoritaria", afirma. Una que otorgue amplios poderes a la policía y al gobierno, lo que les facilitará, sin duda, resolver ciertos delitos, pero también les facilitará el uso excesivo de esta tecnología y, potencialmente, su abuso.
La probabilidad de que se produzca una vigilancia tan abusiva, afirma Stanley, es particularmente alta actualmente en las agencias federales donde Veritone tiene clientes. El Departamento de Seguridad Nacional declaró el mes pasado que supervisará las actividades de los inmigrantes en redes sociales y utilizará la evidencia que encuentre allí para denegar visas y tarjetas de residencia. El Servicio de Inmigración y Control de Aduanas (ICE) ha detenido a activistas tras declaraciones o apariciones pro-palestinas en protestas.
En una entrevista, Jon Gacek, gerente general de la división de Veritone para el sector público, afirmó que Track es una herramienta de selección para agilizar la identificación de partes importantes de los videos, no una herramienta de vigilancia general. Veritone no especificó qué grupos del Departamento de Seguridad Nacional u otras agencias federales utilizan Track. Los Departamentos de Defensa, Justicia y Seguridad Nacional no respondieron a las solicitudes de comentarios.
Para los departamentos de policía, la herramienta amplía drásticamente la cantidad de videos que se pueden utilizar en las investigaciones. Mientras que el reconocimiento facial requiere imágenes en las que los rostros sean claramente visibles, Track no tiene esa limitación. Nathan Wessler, abogado de la ACLU, afirma que esto significa que la policía podría revisar videos que antes no les interesaban.
"Crea una escala y una naturaleza de invasión de la privacidad y un potencial de abuso categóricamente nuevos, que literalmente no eran posibles en ningún otro momento de la historia de la humanidad", afirma Wessler. "Ahora no se trata de acelerar lo que un policía podía hacer, sino de crear una capacidad que ningún policía había tenido antes".
La expansión de Track se produce a medida que se han extendido las leyes que limitan el uso del reconocimiento facial, impulsadas por arrestos injustos (https://www.wired.com/story/wrongful-arrests-ai-derailed-3-mens-lives/?utm_source=chatgpt.com) en los que los agentes han confiado excesivamente en los algoritmos. Numerosos estudios (https://www.nytimes.com/2019/12/19/technology/facial-recognition-bias.html) han demostrado que dichos algoritmos son menos precisos con rostros de personas no blancas. Las leyes de Montana y Maine limitan drásticamente cuándo puede usarlo la policía (no está permitido en tiempo real con video en vivo), mientras que San Francisco y Oakland, California, tienen prohibiciones casi totales del reconocimiento facial. Track ofrece una alternativa.
Si bien estas leyes a menudo hacen referencia a "datos biométricos", Wessler afirma que esta expresión dista mucho de estar claramente definida. Generalmente se refiere a características inmutables como el rostro, la forma de andar y las huellas dactilares, en lugar de a cosas que cambian, como la ropa. Sin embargo, ciertos atributos, como el tamaño corporal, difuminan esta distinción.
Consideremos también, dice Wessler, a alguien que en invierno usa con frecuencia las mismas botas, abrigo y mochila. "Su perfil será el mismo día tras día", afirma Wessler. "La posibilidad de rastrear a alguien a lo largo del tiempo basándose en cómo se mueve a través de un montón de transmisiones de video guardadas es prácticamente equivalente al reconocimiento facial".
En otras palabras, Track podría proporcionar una forma de seguir a alguien que plantea muchas de las mismas preocupaciones que el reconocimiento facial, pero no está sujeto a las leyes que restringen su uso porque técnicamente no implica datos biométricos. Steelberg afirmó que hay varios casos en curso que incluyen evidencia en video de Track, pero que no podía identificarlos ni hacer más comentarios. Por lo tanto, por ahora, no está claro si se está adoptando en jurisdicciones donde el reconocimiento facial está prohibido.