Problème 5305

La police et les agences fédérales ont trouvé un nouveau moyen controversé de contourner la multitude croissante de lois qui limitent leur utilisation de la reconnaissance faciale : un modèle d’IA capable de suivre les personnes grâce à des attributs tels que la taille, le sexe, la couleur et le style de cheveux, les vêtements et les accessoires.

L’outil, baptisé Track et développé par la société d’analyse vidéo Veritone, est utilisé par 400 clients, dont des services de police d’État et locaux, ainsi que des universités dans tous les États-Unis. Il est également en expansion au niveau fédéral : les procureurs américains du ministère de la Justice ont commencé à utiliser Track pour les enquêtes criminelles en août dernier. La suite plus large d'outils d'IA de Veritone, qui inclut la reconnaissance faciale authentique, est également utilisée par le Département de la Sécurité intérieure (qui abrite les agences d'immigration) et le Département de la Défense (https://www.veritone.com/newsroom/press-releases/veritone-selected-by-department-of-defense-in-249-million-bpa-to-accelerate-ai-capabilities-of-joint-artificial-intelligence-center/), selon l'entreprise.

« L'idée derrière Track » explique Ryan Steelberg, PDG de Veritone, était : « Si nous ne sommes pas autorisés à suivre les visages des personnes, comment pouvons-nous contribuer à identifier des criminels ou des comportements ou activités malveillants ? » Outre le suivi des individus lorsque la reconnaissance faciale n'est pas légalement autorisée, Steelberg précise que cette solution permet également le suivi lorsque les visages sont masqués ou invisibles.

Le produit a suscité des critiques de la part de l'Union américaine pour les libertés civiles (American Civil Liberties Union), qui, après avoir pris connaissance de l'outil grâce à la MIT Technology Review, a déclaré qu'il s'agissait du premier cas d'utilisation à grande échelle d'un système de suivi non biométrique aux États-Unis. L'organisation a averti que ce système soulevait de nombreuses préoccupations en matière de confidentialité, similaires à celles de la reconnaissance faciale, mais qu'il en introduisait également de nouvelles, à l'heure où l'administration Trump pousse les agences fédérales à intensifier la surveillance des manifestants, des immigrants et des étudiants.

Veritone nous a fait une démonstration de Track, qui analysait des images de personnes prises dans différents environnements, des émeutes du 6 janvier aux stations de métro. Il permet de retrouver des personnes en spécifiant leur taille, leur sexe, leur couleur et leur style de cheveux, leurs chaussures, leurs vêtements et divers accessoires. L'outil peut ensuite créer des chronologies, permettant de suivre une personne à travers différents lieux et flux vidéo. Il est accessible via les plateformes cloud d'Amazon et de Microsoft.

Dans une interview, Steelberg a déclaré que le nombre d'attributs utilisés par Track pour identifier les personnes allait continuer à augmenter. Lorsqu'on lui a demandé si Track distinguait les individus selon la couleur de peau, un porte-parole de l'entreprise a répondu que c'était l'un des attributs utilisés par l'algorithme pour distinguer les individus, mais que le logiciel ne permettait pas actuellement de rechercher des personnes par couleur de peau. Track fonctionne actuellement uniquement sur des vidéos enregistrées, mais Steelberg affirme que l'entreprise sera en mesure de l'utiliser sur des flux vidéo en direct dans moins d'un an.

Les services utilisant Track peuvent ajouter des images provenant de caméras de police, de drones, de vidéos publiques sur YouTube ou de vidéos citoyennes (provenant de caméras Ring ou de téléphones portables, par exemple) en réponse aux demandes de la police.

« Nous aimons appeler cela notre application Jason Bourne », explique Steelberg. Il s'attend à ce que cette technologie soit examinée de près par les tribunaux, mais ajoute : « J'espère que nous exonérons les gens autant que nous aidons la police à retrouver les criminels. » Le secteur public ne représente actuellement que 6 % de l'activité de Veritone (la plupart de ses clients sont des entreprises de médias et de divertissement), mais l'entreprise affirme qu'il s'agit de son marché à la croissance la plus rapide, avec des clients en Californie, dans l'État de Washington, au Colorado, dans le New Jersey et dans l'Illinois.

Cette expansion rapide a commencé à inquiéter certains milieux. Jay Stanley, analyste politique senior à l'ACLU, écrivait en 2019 que l'intelligence artificielle accélérerait un jour la tâche fastidieuse de passer au crible les images de surveillance, permettant une analyse automatisée, qu'un crime ait été commis ou non. Depuis lors, de nombreuses entreprises de technologie policière ont développé des systèmes d'analyse vidéo capables, par exemple, de détecter l'entrée d'une personne dans une zone donnée. Cependant, Stanley précise que Track est le premier produit qu'il a vu rendre le suivi à grande échelle de certaines personnes technologiquement réalisable.

« C'est une technologie potentiellement autoritaire », dit-il. « Une solution qui confère de grands pouvoirs à la police et au gouvernement, ce qui leur permettra sans doute de résoudre plus facilement certains crimes, mais aussi d'abuser de cette technologie. »

Selon Stanley, les risques de surveillance abusive sont particulièrement élevés actuellement au sein des agences fédérales où Veritone compte des clients. Français Le Département de la sécurité intérieure a déclaré le mois dernier qu'il surveillerait les activités des immigrants sur les réseaux sociaux et utiliserait les preuves qu'il y trouverait pour refuser des visas et des cartes vertes, et l'Immigration and Customs Enforcement a arrêté des militants à la suite de déclarations pro-palestiniennes ou de leur apparition lors de manifestations.

Dans une interview, Jon Gacek, directeur général de l'activité du secteur public de Veritone, a déclaré que Track est un « outil de tri » destiné à accélérer l'identification de parties importantes de vidéos, et non un outil de surveillance générale. Veritone n'a pas précisé quels services du Département de la Sécurité intérieure ou d'autres agences fédérales utilisent Track. Les Départements de la Défense, de la Justice et de la Sécurité intérieure n'ont pas répondu aux demandes de commentaires.

Pour les services de police, cet outil élargit considérablement la quantité de vidéos utilisables dans les enquêtes. Alors que la reconnaissance faciale nécessite des images où les visages sont clairement visibles, Track n'a pas cette limitation. Nathan Wessler, avocat de l'ACLU, explique que cela signifie que la police pourrait éplucher des vidéos qui ne l'intéressaient pas auparavant.

« Cela crée une ampleur et une nature d'atteinte à la vie privée et un potentiel d'abus d'une ampleur et d'une nature totalement nouvelles, jamais auparavant dans l'histoire de l'humanité », explique Wessler. « Il ne s'agit plus d'accélérer les actions d'un policier, mais de créer une capacité qu'aucun policier n'avait jamais eue auparavant. » L'expansion de Track intervient alors que les lois limitant l'utilisation de la reconnaissance faciale se sont répandues, déclenchées par des arrestations injustifiées où les agents ont fait trop confiance aux algorithmes. De nombreuses études ont montré que ces algorithmes sont moins précis avec les visages non blancs. Les lois du Montana et du Maine limitent fortement les cas où la police peut l'utiliser (elle n'est pas autorisée en temps réel avec des vidéos en direct), tandis que San Francisco et Oakland, en Californie, interdisent presque totalement la reconnaissance faciale. Track offre une alternative.

Bien que ces lois fassent souvent référence aux « données biométriques », Wessler affirme que cette expression est loin d'être clairement définie. Il s'agit généralement de caractéristiques immuables comme le visage, la démarche et les empreintes digitales, plutôt que de choses qui changent, comme les vêtements. Cependant, certains attributs, comme la taille, brouillent cette distinction.

Prenons également, explique Wessler, le cas d'une personne qui porte fréquemment les mêmes bottes, le même manteau et le même sac à dos en hiver. « Son profil restera le même jour après jour », précise Wessler. « La possibilité de suivre une personne au fil du temps en fonction de ses déplacements sur un grand nombre de flux vidéo enregistrés est quasiment équivalente à la reconnaissance faciale. »

En d'autres termes, Track pourrait offrir un moyen de suivre une personne qui soulève bon nombre des mêmes préoccupations que la reconnaissance faciale, mais qui n'est pas soumis aux lois limitant son utilisation, car il n'implique techniquement pas de données biométriques. Steelberg a indiqué que plusieurs affaires en cours incluent des preuves vidéo de Track, mais qu'il ne pouvait pas les nommer ni en dire plus. Par conséquent, pour l'instant, on ignore si cette technologie est adoptée dans les juridictions où la reconnaissance faciale est interdite.