Incidents associés
Rite Aid a été [interdit](https://www.ftc.gov/news-events/news/press-releases/2023/12/rite (-aid-banned-using-ai-facial-recognition-after-ftc-dit-retailer-deployed-technology-without) d'utiliser un logiciel de reconnaissance faciale pendant cinq ans, après que la Federal Trade Commission (FTC) a constaté que le géant américain de la pharmacie « L’utilisation imprudente des systèmes de surveillance faciale » a humilié les clients et a mis leurs « informations sensibles en danger ».
L'[Ordonnance] de la FTC (https://www.ftc.gov/system/files/ftc_gov/pdf/2023190_riteaid_stipulated_order_filed.pdf), qui est soumise à l'approbation du tribunal américain des faillites après que Rite Aid [a déposé une demande de protection contre les faillites au titre du chapitre 11] (https://apnews.com/article/rite-pharmacy-bankruptcy-f80c3d231946d675b03e4e797f627fa6) en octobre, demande également à Rite Aid de supprimer toutes les images collectées dans le cadre du déploiement de son système de reconnaissance faciale, ainsi que tous les produits construits à partir de ces images. L'entreprise doit également mettre en œuvre un programme solide de sécurité des données pour protéger toutes les données personnelles qu'elle collecte.
Un rapport de Reuters de 2020 a détaillé comment la chaîne de pharmacies avait secrètement introduit des systèmes de reconnaissance faciale dans quelque 200 magasins américains sur une période de huit ans. période d’un an commençant en 2012, avec des « quartiers non blancs et largement à faible revenu » servant de banc d’essai technologique.
Avec l'augmentation [de l'accent mis par la FTC sur l'utilisation abusive de la surveillance biométrique](https://www.ftc.gov/news-events/news/press-releases/2023/05/ftc-warns-about-misuses-biometric-information- préjudice aux consommateurs), Rite Aid est tombé fermement dans la ligne de mire de l'agence gouvernementale. Parmi ses allégations, Rite Aid – en partenariat avec deux sociétés sous contrat – a créé une « base de données de liste de surveillance » contenant des images de clients qui, selon la société, s'étaient livrés à des activités criminelles dans l'un de ses magasins. Ces images, souvent de mauvaise qualité, provenaient des caméras de vidéosurveillance ou des téléphones portables des salariés.
Lorsqu'un client entrait dans un magasin et était censé correspondre à une image existante dans sa base de données, les employés recevaient une alerte automatique leur demandant d'agir - et la plupart du temps, cette instruction consistait à « s'approcher et à s'identifier », c'est-à-dire à vérifier l'identité et l'identité du client. leur demandant de partir. Souvent, ces « correspondances » étaient des faux positifs qui conduisaient les employés à accuser à tort les clients d'actes répréhensibles, créant ainsi « de l'embarras, du harcèlement et d'autres préjudices », selon la FTC.
« Les employés, agissant sur la base d'alertes faussement positives, ont suivi les consommateurs dans ses magasins, les ont fouillés, leur ont ordonné de partir, ont appelé la police pour confronter ou expulser les consommateurs et les ont publiquement accusés, parfois devant des amis ou des membres de leur famille, de vol à l'étalage ou d'autres actes répréhensibles. », indique la plainte.
De plus, la FTC a déclaré que Rite Aid n'avait pas informé les clients que la technologie de reconnaissance faciale était utilisée, tout en demandant aux employés de ne pas spécifiquement révéler cette information aux clients.
Face-à-face
Les logiciels de reconnaissance faciale sont devenus l’un des aspects les plus controversés de l’ère de la surveillance basée sur l’IA. Au cours des dernières années, nous avons vu des villes émettre des interdictions étendues sur la technologie, tandis que les politiciens se sont battus pour réglementer la manière dont la police l'utilise. Et des entreprises telles que Clearview AI, quant à elles, ont été faites l'objet de poursuites et [amendes](https://techcrunch.com /2022/07/13/clearview-greek-ban-order/) dans le monde pour des atteintes majeures à la confidentialité des données autour de la technologie de reconnaissance faciale.
Les dernières conclusions de la FTC concernant Rite Aid mettent également en lumière les préjugés inhérents aux systèmes d’IA. Par exemple, la FTC affirme que Rite Aid n’a pas réussi à atténuer les risques pour certains consommateurs en raison de leur race – sa technologie était « plus susceptible de générer des faux positifs dans les magasins situés dans des communautés majoritairement noires et asiatiques que dans des communautés majoritairement blanches ». note des conclusions.
De plus, la FTC a déclaré que Rite Aid n'avait pas réussi à tester ou à mesurer la précision de son système de reconnaissance faciale avant ou après son déploiement.
Dans un communiqué de presse, Rite Aid a déclaré que elle était « heureuse de parvenir à un accord avec la FTC », mais elle n'était pas d'accord avec l'essentiel des allégations.
"Les allégations concernent un programme pilote de technologie de reconnaissance faciale que la société a déployé dans un nombre limité de magasins", a déclaré Rite Aid dans son communiqué. "Rite Aid a cessé d'utiliser la technologie dans ce petit groupe de magasins il y a plus de trois ans, avant le début de l'enquête de la FTC concernant l'utilisation de la technologie par l'entreprise."