Problema 2619
Si ya has paseado por la catedral de Notre-Dame de Reims (51), es posible que te haya analizado una inteligencia artificial. La herramienta "Savari", diseñada por el gigante francés Thalès (1), fue integrada en las cámaras de vigilancia de la aglomeración y utilizada por la policía municipal, para un experimento de un año. El objetivo: detectar automáticamente grupos o intrusiones e identificar armas o vehículos. Problema, no se ha informado a los habitantes ni a los representantes electos de la oposición.
Una revelación que llega en un momento en que [el Senado acaba de adoptar](https://www.lemonde.fr/sport/article/2023/01/25/jo-2024-le-senat-adopte-la-videosurveillance- intelligent_6159170_3242.html), martes, 24 de enero de 2023, artículo 7 del proyecto de ley de los Juegos Olímpicos. Autoriza estos experimentos con cámaras equipadas con algoritmos a partir de este año para los Juegos Olímpicos de París 2024.
El pasado mes de noviembre, Amnistía Internacional alertó sobre “los riesgos de peligrosos abusos” para las libertades individuales contenidos en esta ley. A diferencia de la videovigilancia convencional, este tipo de herramienta puede dar lugar a un "procesamiento masivo de datos personales, incluidos a veces datos confidenciales", [explica la CNIL](https://www.cnil. fr/sites/default/files/atoms/files /cameras-intelligentes-augmentees_position_cnil.pdf) en un reportaje publicado en julio de 2022.
Reims no esperó a que los parlamentarios lo autorizaran en la capital para realizar sus propias pruebas y aprovechar el vacío legal. ** Es Arnaud Robinet, alcalde de la ciudad desde 2014, afiliado al movimiento Horizons de Édouard Philippe, quien se habría decidido por esta colaboración ** Contactado por StreetPress, el concejal derechista se negó a responder a nuestras preguntas.
Algoritmo y “aprendizaje profundo”
Savari es una “videovigilancia inteligente, clave para la seguridad urbana de las Smart Cities”. Así [presenta su solución] Thalès(https://www.salondesmaires.com/2021/11/07/la-videosurveillance-intelligente-cle-de-la-securite-urbaine-des-smart-cities/ ) en el sitio de la Feria de los Alcaldes, un seminario anual durante el cual las empresas tienen puestos para coquetear con los funcionarios electos.
Utiliza "algoritmos de video inteligente" y "aprendizaje profundo" para "monitorear, supervisar y analizar automáticamente" situaciones como grupos e intrusiones. También puede “detectar, identificar y clasificar” armas, bicicletas o vehículos, asegura el buque insignia francés. Usando el reconocimiento automático de matrículas (LAPI), Savari también permite controles en la carretera y multas para aquellos que no pagan por estacionar.
Un experimento realizado a espaldas de los Rémois
“Lo que me choca es que se hizo con una gran opacidad. No es normal que los ciudadanos no estén informados”, dice Léo Tyburce, elegido Europe-Ecologie-Les-Verts en Reims, informado del experimento Thalès en su ciudad por StreetPress. Durante el consejo municipal del 16 de noviembre de 2021, el ecologista había cuestionado al alcalde Arnaud Robinet sobre el uso de inteligencia artificial en las cámaras del municipio mencionado durante una reunión pública anterior. El concejal de la derecha le había devuelto el balón a su Sr. Seguridad, Xavier Albertini.
“Como parte de la evolución de la organización de la policía municipal, se deseaba montar un estudio y el desarrollo con una empresa nacional de un software que no es de reconocimiento facial (…) pero es una capacidad de reconocer un número determinado de elementos y en particular, dentro de los límites de la normativa, para reconocer cualquier vehículo que sea captado por el campo de las cámaras”, declaró el diputado. El video del ayuntamiento sigue en línea. Por lo tanto, admite que se está haciendo un estudio relacionado con las cámaras de vigilancia con una empresa nacional. Sin desvelar cuál podría ser, ni desvelar todos los usos de esta tecnología.
En ese momento, el concejal opositor de la ciudad, Leo Tyburce, se tranquilizó con esta respuesta. "Me dijeron, no te preocupes, todo está bien, solo es para detectar vehículos..." Hoy, se siente engañado:
“Finalmente, vemos que permite identificar grupos de personas, instalar una especie de vigilancia urbana. Me hubiera gustado que hubiera un debate público en torno a esta cuestión. Hay una falta de transparencia terrible. »
Rémois Antoine (2), miembro de Acción Noviolenta COP21, no estaba al tanto del uso de inteligencia artificial por parte de la policía. “Me interesa saber que la herramienta identifica reuniones porque hacemos acciones no declaradas”, señala. El activista medioambiental conoce bien las cámaras de vigilancia de su ciudad. Con su grupo, abordan vallas publicitarias retroiluminadas. “Te das cuenta una vez que miras hacia arriba que te están observando desde todos los lados. » Entonces, para no quedar atrapados, establecieron un mapa de las áreas monitoreadas:
“Habíamos visto alrededor de sesenta de ellos en apenas un kilómetro cuadrado en el centro de la ciudad en 2021”.
Reims te está mirando
No es casualidad que Thalès haya logrado vender su herramienta a la "ciudad de las coronaciones", particularmente aficionada a las cámaras de vigilancia. Arnaud Robinet lo convirtió en un argumento de campaña. Desde 2014, se han instalado nada menos que 218 cámaras adicionales en la conurbación de Reims, que solo contaba con 36. comisaría donde 120 agentes observan las imágenes las 24 horas del día, los 7 días de la semana.
La multiplicación de cámaras y, por tanto, de vídeos a analizar es uno de los argumentos esgrimidos por Xavier Albertini para justificar la adquisición de un algoritmo. En el concejo municipal, luego de asegurar que solo se trataba de monitorear los autos, agregó: “Desde el punto de vista técnico, hay 56 mil tipos diferentes de vehículos (…) que así ingresan a una base de datos y cuando hay es una requisición para buscar un vehículo, hay casi instantaneidad de todas las cámaras. »
Para los fabricantes del sector, la proliferación de cámaras de vigilancia hace necesaria la inteligencia artificial para ayudar a los humanos, que se han vuelto muy escasos. Un “farol tecnológico”, según La Quadrature du Net, que defiende los derechos y libertades en Internet. “Hay un mercado privado enorme que se está lanzando y que en parte se financia con fondos públicos”, analiza Martín Drago, especialista en estos temas dentro de la asociación.
Siete millones de euros para filmar a sus habitantes
Arnaud Robinet tuvo que pagar el precio para adquirir el nuevo producto del gigante aeroespacial. En el presupuesto de la ciudad, para su segunda legislatura que comenzó en 2020, no menos de siete millones de euros se dedican a inversiones en videovigilancia y equipamiento para la policía municipal. Software denominado “ayuda a la revisión”, que debe ayudar la policía para proporcionar pruebas a la autoridad judicial durante las requisas, fue financiada por este presupuesto. Pero no se sabe la cantidad exacta. Ni Thalès ni el ayuntamiento de Reims quisieron facilitárnoslo.
Reims se suma así a una larga lista de ciudades francesas que han firmado contratos con empresas ofreciéndoles experimentar con la “videovigilancia algorítmica”. En su sitio web Tecnopolice.fr, La Quadrature du Net los ha enumerado en unas diez ciudades. En Nîmes (30) o Moirans (38), la herramienta de la empresa israelí Briefcam analiza las acciones de los habitantes. Marseille (13) colabora desde 2018 con la empresa local SNEF. En 2016, Toulouse (31) firmó un contrato con la caja estadounidense IBM. Coste para la ciudad del sur: 47.350 euros.
Estos experimentos cuestan a las comunidades miles de euros. Sin embargo, queda por demostrar su utilidad. En un informe publicado en 2020, el Tribunal de Cuentas dictaminó que “no se encontró una correlación global entre la existencia de dispositivos de videoprotección y el nivel de delincuencia cometida en la vía pública, o incluso las tasas de elucidación".
¿De la tierra de nadie legal a la legalización?
Según el especialista Martín Drago, que dirige la campaña Technopolice, el despliegue de estas herramientas se ha visto facilitado por la inseguridad jurídica que las rodea. “En el código penal hay artículos específicos sobre las cámaras de videovigilancia, pero nada sobre la videovigilancia algorítmica que, sin embargo, conlleva nuevos atentados contra las libertades individuales. " Él añade :
“Los fabricantes de vigilancia están aprovechando esta tierra de nadie legal para experimentar. »
(1) Contactado por StreetPress, Thalès se negó a responder a nuestras preguntas.
(2) El primer nombre ha sido cambiado.