Incidents associés
La technologie de surveillance faciale d'Amazon est la cible d'une opposition croissante à l'échelle nationale, et aujourd'hui, il y a 28 autres sujets de préoccupation. Lors d'un test récemment effectué par l'ACLU sur l'outil de reconnaissance faciale, appelé "Rekognition", le logiciel a identifié de manière incorrecte 28 membres du Congrès, les identifiant comme d'autres personnes arrêtées pour un crime.
Les membres du Congrès qui ont été faussement appariés avec la base de données de photos que nous avons utilisée dans le test comprennent des républicains et des démocrates, des hommes et des femmes, et des législateurs de tous âges, de partout au pays.
Les fausses correspondances concernaient de manière disproportionnée des personnes de couleur, dont six membres du Congressional Black Caucus, parmi lesquels la légende des droits civiques, le représentant John Lewis (D-Ga.). Ces résultats démontrent pourquoi le Congrès devrait se joindre à l'ACLU pour demander un moratoire sur l'utilisation de la surveillance faciale par les forces de l'ordre.
Pour effectuer notre test, nous avons utilisé exactement le même système de reconnaissance faciale qu'Amazon propose au public, que n'importe qui pourrait utiliser pour rechercher des correspondances entre des images de visages. Et l'exécution de l'ensemble du test nous a coûté 12,33 $, soit moins qu'une grande pizza.
À l'aide de Rekognition, nous avons créé une base de données de visages et un outil de recherche à l'aide de 25 000 photos d'arrestation accessibles au public. Ensuite, nous avons recherché dans cette base de données des photos publiques de chaque membre actuel de la Chambre et du Sénat. Nous avons utilisé les paramètres de correspondance par défaut définis par Amazon pour Rekognition.
Dans une récente lettre adressée au PDG d'Amazon, Jeff Bezos, le Congressional Black Caucus s'est dit préoccupé par les "conséquences négatives profondes et imprévues" que la surveillance du visage pourrait avoir pour les Noirs, les immigrants sans papiers et les manifestants. Des recherches universitaires ont également déjà montré que la reconnaissance faciale est moins précise pour les visages et les femmes à la peau plus foncée. Nos résultats valident cette préoccupation : près de 40 % des fausses correspondances de Rekognition dans notre test concernaient des personnes de couleur, même si elles ne représentent que 20 % du Congrès.
Si les forces de l'ordre utilisent Amazon Rekognition, il n'est pas difficile d'imaginer qu'un policier obtienne une « correspondance » indiquant qu'une personne a déjà été arrêtée avec une arme dissimulée, biaisant l'agent avant même qu'une rencontre ne commence. Ou une personne frappée à la porte par les forces de l'ordre et interrogée ou perquisitionnée à son domicile, sur la base d'une fausse pièce d'identité.
Une identification, qu'elle soit exacte ou non, pourrait coûter la liberté ou même la vie à des personnes. Les personnes de couleur sont déjà disproportionnellement blessées par les pratiques policières, et il est facile de voir comment Rekognition pourrait exacerber cela. Un incident récent à San Francisco fournit une illustration troublante de ce risque. La police a arrêté une voiture, menotté une femme noire âgée et l'a forcée à s'agenouiller sous la menace d'une arme – tout cela parce qu'un lecteur de plaque d'immatriculation automatique a incorrectement identifié sa voiture comme un véhicule volé.
Associer des personnes à des photos d'arrestation n'est pas un exercice hypothétique. Amazon commercialise de manière agressive sa technologie de surveillance faciale auprès de la police, se vantant que son service peut identifier jusqu'à 100 visages sur une seule image, suivre les personnes en temps réel grâce à des caméras de surveillance et numériser des images à partir de caméras corporelles. Un département du shérif de l'Oregon a déjà commencé à utiliser Amazon Rekognition pour comparer les visages des gens avec une base de données de mugshots, sans aucun débat public.
La surveillance faciale menace également de refroidir les activités protégées par le Premier Amendement, comme la participation à des manifestations ou la pratique de la religion, et elle peut être utilisée pour soumettre les immigrants à de nouveaux abus de la part du gouvernement.
Ces dangers expliquent pourquoi les employés d'Amazon, les actionnaires, une coalition de près de 70 groupes de défense des droits civiques, plus de 400 membres de la communauté universitaire et plus de 150 000 membres du public ont déjà pris la parole pour exiger qu'Amazon cesse de fournir une surveillance faciale au gouvernement.
Le Congrès doit prendre ces menaces au sérieux, freiner et décréter un moratoire sur l'utilisation de la reconnaissance faciale par les forces de l'ordre. Cette technologie ne doit pas être utilisée tant que les dommages ne sont pas pleinement pris en compte et que toutes les mesures nécessaires ne sont pas prises pour les empêcher de nuire aux communautés vulnérables.
Liste des membres du Congrès faussement appariés avec des photos d'arrestation
Sénat
John Isakson (R-Géorgie)
Edward Markey (D-Massachusetts)
Pat Roberts (R-Kansas)
Loger
Sanford Bishop (D-Géorgie)
George Butterfield (D-Caroline du Nord)
Lacy Clay (D-Missouri)
Mark DeSaulnier (D-Californie)
Adriano Espaillat (D-New York)
Ruben Gallego (D-Arizona)
Thomas Garrett (R-Virginie)
Greg Gianforte (R-Montana)
Jimmy Gomez (D-Californie)
Raúl Grijalva (D-Arizona)
Luis Gutiérrez (D-Illinois)
Steve Knight (R-Californie)
Leonard Lance (D-New Jersey)
John Lewis (D-Géorgie)
Frank LoBiondo (D-New Jersey)
David Loebsack (D-Iowa)
David McKinley (R-Virginie occidentale)
John Moolenaar (R-Michigan)
Tom Reed (R-New York)
Bobby Rush (D-Illinois)
Norma Torres (D-Californie)
Marc Veasey (D-Texas)
Brad Wenstrup (R-Ohio)
Steve Womack (R-Arkansas)
Lee Zeldin (D-New York)