Incidents associés
Rite Aid a utilisé des systèmes de reconnaissance faciale pour identifier les acheteurs qui étaient auparavant considérés comme « susceptibles de se livrer » à des vols à l'étalage sans le consentement du client et des personnes mal identifiées – en particulier des femmes et des personnes noires, latino-américaines ou asiatiques – à de « nombreuses » reprises, selon un nouvel accord avec le Commission fédérale du commerce. Dans le cadre du règlement, Rite Aid s'est vu interdire de déployer une technologie de reconnaissance faciale dans ses magasins pendant cinq ans.
La FTC a déclaré dans une plainte déposée devant un tribunal fédéral que Rite Aid avait utilisé la technologie de reconnaissance faciale dans des centaines de magasins d’octobre 2012 à juillet 2020 pour identifier les acheteurs « qu’elle avait précédemment jugés susceptibles de se livrer à un vol à l’étalage ou à d’autres comportements criminels ». La technologie envoyait des alertes aux employés de Rite Aid par e-mail ou par téléphone lorsqu'elle identifiait des personnes entrant dans le magasin sur sa liste de surveillance.
La FTC a déclaré dans sa plainte que les employés des magasins placeraient alors ces personnes sous surveillance accrue, leur interdiraient de faire des achats ou les accuseraient devant leurs amis, leur famille et d'autres clients d'avoir commis des crimes dans le passé. Le système de reconnaissance faciale était largement utilisé à New York ; Los Angeles; San Francisco ; Crême Philadelphia; Baltimore ; Détroit ; Atlantic City; Seattle ; Portland, Oregon; Wilmington, Delaware et Sacramento, Californie, selon le règlement.
Le règlement répond aux accusations selon lesquelles la chaîne de pharmacies en difficulté n’a pas fait assez pour éviter que ses clients ne subissent des préjudices et n’ait pas mis en œuvre des « procédures raisonnables », a indiqué l’agence gouvernementale. Rite Aid a déclaré mardi soir qu'il n'était pas d'accord avec les allégations, mais qu'il était heureux d'être parvenu à un accord pour résoudre le problème.
Dans le cadre de son contrat avec deux fournisseurs privés anonymes, Rite Aid a créé ou ordonné aux entreprises de créer une base de données de « personnes d'intérêt » comprenant des images des personnes et d'autres informations d'identification personnelle. Ces images étaient souvent de mauvaise qualité et ont été capturées via les caméras de vidéosurveillance de Rite Aid, les caméras de reconnaissance faciale ou sur les téléphones portables des employés, selon l'accord.
Les agents de sécurité ont été formés pour « faire pression pour obtenir autant d'inscriptions que possible » et l'entreprise « a inscrit au moins des dizaines de milliers de personnes dans sa base de données », selon les [documents] de la FTC (https://www.ftc.gov/system/ files/ftc_gov/pdf/2023190_riteaid_complaint_filed.pdf).
La plainte fédérale indique également qu'il y a eu « de nombreux cas » dans lesquels la technologie a identifié de manière incorrecte quelqu'un qui est entré dans le magasin et Rite Aid n'a pas testé son exactitude avant de l'utiliser. Par exemple, Rite Aid n’a pas demandé à l’un des deux fournisseurs privés avec lesquels il travaillait si l’exactitude de sa technologie avait été testée, selon l’accord. En fait, le vendeur déclare explicitement dans son contrat qu’il « ne fait aucune déclaration ni garantie quant à l’exactitude et à la fiabilité » de son système de reconnaissance faciale.
La FTC a également déclaré que l'entreprise « n'a pas pris de mesures raisonnables pour former et superviser les employés chargés d'exploiter la technologie dans les magasins Rite Aid ».
Le groupe de défense des libertés civiles et des droits numériques, l'Electronic Privacy Information Center (Epic), a déclaré que la reconnaissance faciale peut être nocive dans n'importe quel contexte, mais que Rite Aid n'a pas pris les précautions les plus élémentaires. "Le résultat était malheureusement prévisible : des milliers d'identifications erronées qui ont affecté de manière disproportionnée les clients noirs asiatiques et latino-américains, dont certaines ont conduit à des recherches humiliantes et à des expulsions de magasins", a déclaré John Davison, directeur des litiges d'Epic.
Rite Aid affirme que les allégations portent sur un programme pilote utilisé dans un nombre limité de magasins et qu'il a cessé d'utiliser cette technologie il y a plus de trois ans.
"Nous respectons l'enquête de la FTC et sommes alignés sur la mission de l'agence consistant à protéger la vie privée des consommateurs", a déclaré la société dans un communiqué publié sur son site Internet. "Cependant, nous sommes fondamentalement en désaccord avec les allégations de reconnaissance faciale contenues dans la plainte de l'agence."
Des études ont montré que les systèmes de reconnaissance faciale identifient régulièrement à tort les personnes noires et brunes. Au cours des dernières années, aux États-Unis, il y a eu [six cas connus](https://innocenceproject.org/when-artificial-intelligence-gets-it-wrong/#:~:text=The%20use%20of% 20such%20biased,match%20%E2%80%94%20all%20six%20were%20Black.) de personnes noires arrêtées à tort en raison de la reconnaissance faciale.
"Il s'agit d'une affaire révolutionnaire, d'un grand pas en avant pour la vie privée et les droits civils, et, espérons-le, juste le début d'une tendance", a déclaré Davison. « Mais il est important de noter que Rite Aid n’est pas seul. Les entreprises utilisent régulièrement des algorithmes non éprouvés et des outils de surveillance de l’huile de serpent pour filtrer les consommateurs, souvent en secret. La FTC a raison de réprimer ces pratiques, et les entreprises feraient bien d’en prendre note. L’anarchie algorithmique n’est plus une option.»
Rite Aid a également noté dans une déclaration préparée que tout accord devrait être approuvé par le tribunal américain des faillites. L'entreprise a annoncé l'automne dernier qu'elle fermait plus de 150 magasins alors qu'elle se dirige vers une procédure de faillite volontaire (chapitre 11). L'entreprise connaît des difficultés financières depuis des années et est également confrontée à des risques financiers liés à des poursuites judiciaires concernant les prescriptions d'opioïdes, comme ses plus grands rivaux, CVS et Walgreens.