Incidents associés
Lorsque les autorités de l'Immigration and Customs Enforcement (ICE) ont utilisé l'application de reconnaissance faciale sur une femme détenue afin de déterminer son identité et son statut migratoire, l'application a renvoyé deux noms différents et erronés. Ceci soulève de sérieuses questions quant à la fiabilité de l'application utilisée par l'ICE pour déterminer les personnes devant être expulsées des États-Unis, selon le témoignage d'un responsable des douanes et de la protection des frontières (CBP) obtenu par 404 Media.
L'ICE a affirmé aux parlementaires que l'application, appelée Mobile Fortify, permet de déterminer « définitivement » le statut migratoire d'une personne et qu'elle devrait être plus fiable qu'un acte de naissance. Cet incident, survenu l'année dernière en Oregon, remet en cause cette affirmation.
« L’ICE a traité Mobile Fortify comme un système de récupération de données parfaitement fiable concernant le statut d’immigration de l’ensemble de la population américaine, ce qui est manifestement faux et techniquement impossible », a déclaré Cooper Quintin, chercheur en sécurité et expert en technologies d’intérêt public à l’Electronic Frontier Foundation, à 404 Media. « Il est révoltant que l’ICE utilise cette application défectueuse et cette atteinte inacceptable à la vie privée biométrique pour soi-disant déterminer si une personne est sans papiers et l’expulser, voire pire. »
L’incident concerne une femme de 45 ans, désignée sous les initiales MJMA dans les documents judiciaires. Elle a été interpellée avec plus de 30 autres personnes lors d’une descente à Woodburn, après que les autorités ont brisé la vitre côté conducteur d’une camionnette et l’ont extraite du véhicule. MJMA poursuit désormais l'ICE en justice et est représentée par des avocats du Innovation Law Lab.
Oregon Live a brièvement mentionné la reconnaissance faciale dans un article de décembre. 404 Media a obtenu l'intégralité du témoignage de l'agente des douanes et de la protection des frontières (CBP) et en a publié une copie ici.
L'agente, désignée par les initiales MK dans la transcription, a déclaré qu'elle tentait de déterminer le statut d'immigration de la femme. MJMA a refusé de répondre aux questions.
« Alors, pour [...] utiliser un autre outil à ma disposition afin de l'identifier, j'ai sorti mon téléphone portable professionnel. Il est équipé d'une application de reconnaissance faciale pour la CBP. J'ai pris une photo [...] j'ai essayé de photographier son visage, mais elle a baissé les yeux », a déclaré MK. Un autre passage de la transcription mentionne explicitement le système Mobile Fortify.
« Alors je me souviens lui avoir remis l'épaule en place. Elle s'est plainte parce que j'avais oublié qu'elle avait des menottes, [...] dans le dos. Elle a poussé un petit cri, comme si je lui avais fait très mal. Alors je me suis excusée. J'ai dit (en espagnol), ce qui veut dire "Je suis désolée" », a-t-elle poursuivi.
MK a expliqué avoir dit à la femme qu'elle devait la prendre en photo. « Je l'ai donc prise en photo, elle me regardait. Et puis, en consultant mon téléphone, j'ai vu un profil très [...] ressemblant à une personne. Je n'étais pas sûre que ce soit elle. »
Le premier nom proposé par l'application était Maria, selon son témoignage. « Ça correspondait à quelqu'un... Je me souviens avoir dit : "Maria ? C'est bien Maria ?" À ce moment-là, il y avait d'autres agents de l'ICE autour de moi. Ils répétaient "Maria, Maria" pour voir si elle répondait, car, encore une fois, elle refusait de nous parler, ce qui est son droit. »
Après que MJMA n'ait pas réagi, ni verbalement ni par une expression faciale anormale, l'agent des douanes et de la protection des frontières (CBP) a de nouveau scanné son visage. Cette fois, Mobile Fortify a donné un nom différent.
« J'ai alors essayé de la prendre en photo une nouvelle fois, et cette fois, l'appareil a identifié une autre personne. Je ne me souviens plus du nom, mais nous l'avons utilisé aussi : “Êtes-vous cette personne ?” Elle nous a regardés. Je me souviens de ses sourcils froncés, comme pour dire : “De qui parlez-vous ?” Elle nous a lancé ce regard », a témoigné MK.
MJMA n'a toujours pas répondu verbalement et a froncé les sourcils, selon le témoignage. « Alors on s'est dit : “Bon, je ne sais pas. C'est possible.” », a déclaré l'agent du CBP.
Stephen Manning, directeur exécutif d'Innovation Law Lab, a déclaré à 404 Media que les deux noms renvoyés par Mobile Fortify étaient incorrects.
« Le fait que l'application renvoie des noms différents pour une même personne démontre son manque de fiabilité et d'exactitude, et justifie son inutilisation sur le terrain », a déclaré le représentant Bennie G. Thompson, membre de la commission de la sécurité intérieure, à 404 Media.
Oregon Live a rapporté qu'après le transfert de MJMA dans un centre de détention de l'ICE à Tacoma, les autorités l'ont libérée le lendemain sans aucune condition. Elle a intenté une action en justice pour faire valoir ses droits constitutionnels, selon Innovation Law Lab. Dans son propre témoignage, MJMA a déclaré qu'elle était titulaire d'un visa B-2, un visa de tourisme, et qu'elle était entrée aux États-Unis avec ce visa en janvier dernier. Manning a indiqué que MJMA demandait l'asile.
« Mon travail consiste à conseiller les gens en matière de sécurité numérique, et je ne peux donner aucun conseil sur ce sujet, car on ne peut pas changer son visage. Si vous ne vous soumettez pas à leurs exigences, l'ICE a prouvé qu'elle était prête à vous abattre », a ajouté Quintin.
404 Media a révélé l'existence de Mobile Fortify en juin, en se basant sur des courriels de l'ICE ayant fuité. Depuis, 404 Media a obtenu un guide d'utilisation de l'outil, expliquant les bases de données et les images utilisées. ont montré que les agents de l'ICE et du CBP utilisent l'application dans tout le pays; et ont découvert que le Département de la Sécurité intérieure (DHS) a lancé une version de l'application pour les forces de l'ordre locales appelée Mobile Identify. Cette application a été retirée du Google Play Store en décembre.
Selon les documents divulgués, Mobile Fortify utilise les systèmes du CBP (Customs and Border Protection) habituellement employés pour vérifier l'identité des voyageurs entrant aux États-Unis. L'application a détourné cette capacité à des fins malveillantes, en l'utilisant dans les rues américaines. En partenariat avec Reveal, 404 Media a révélé que l'application a été utilisée contre des citoyens américains.
404 Media avait précédemment obtenu, en vertu de la loi sur la liberté d'information (Freedom of Information Act), un document interne du Département de la Sécurité intérieure (DHS) montrant que l'ICE n'autorise pas les citoyens à refuser d'être scannés par l'application Mobile Fortify.
La semaine dernière, un groupe de parlementaires démocrates a présenté une proposition de loi, rédigée par le représentant Thompson, visant à encadrer l'utilisation de Mobile Fortify. Ce texte législatif interdirait la version de l'application destinée aux forces de l'ordre locales, limiterait son utilisation aux points d'entrée aux États-Unis et obligerait le DHS à supprimer les images des citoyens américains après 12 heures.
Le représentant Thompson avait précédemment déclaré à 404 Media : « Les responsables de l’ICE nous ont indiqué qu’une correspondance biométrique apparente via Mobile Fortify constitue une détermination “définitive” du statut d’une personne et qu’un agent de l’ICE peut ignorer les preuves de citoyenneté américaine – y compris un acte de naissance – si l’application indique que la personne est étrangère. »
L’imprécision des systèmes de reconnaissance faciale est depuis longtemps une préoccupation majeure, et des erreurs ont conduit à la détention ou à l’inculpation de personnes innocentes. Lorsque les outils de reconnaissance faciale commettent des erreurs, c'est souvent au détriment des personnes de couleur.
« Depuis plus de dix ans, les chercheurs démontrent que la reconnaissance faciale est une technologie imparfaite, particulièrement inefficace sur les femmes de couleur. L'utiliser pour déterminer le statut d'une personne expose à des erreurs d'identification et à des faux positifs », a déclaré Chris Gilliard, chercheur spécialisé dans la protection de la vie privée, à 404 Media. « L'utilisation délibérée d'une technologie aussi sujette à l'erreur suggère que l'apparence d'un processus prime sur sa précision ou son équité. »
« C'est le prolongement logique d'une tendance qui promeut la reconnaissance faciale à des fins apparemment anodines, comme les commandes au volant dans les fast-foods ou le déverrouillage des téléphones », a-t-il ajouté.
Le CBP a accusé réception d'une demande de commentaire, mais n'a pas répondu avant la publication.
Dans un autre témoignage, cette fois-ci celui d'un agent d'immigration de l'ICE désigné par les initiales DR dans les documents judiciaires, le juge a demandé : « Quel est le taux d'identification par le système Mobile Fortify ? »
DR a répondu : « Je […] je ne peux pas me prononcer sur ce chiffre. »