Incidents associés
Rite Aid, la chaîne de pharmacies, a utilisé la technologie de reconnaissance faciale pour identifier de manière fausse et disproportionnée les personnes de couleur et les femmes comme étant des voleurs potentiels à l'étalage, a déclaré mardi la Federal Trade Commission, décrivant un système qui a embarrassé les clients et soulevé de nouvelles inquiétudes quant aux préjugés inhérents à ces technologies. .
Selon les termes d'un règlement, Rite Aid se verra interdire d'utiliser la technologie de reconnaissance faciale dans ses magasins à des fins de surveillance pendant cinq ans, [la F.T.C. a déclaré](https://www.ftc.gov/news-events/news/press-releases/2023/12/rite-aid-banned-using-ai-facial-recognition-after-ftc-says-retailer-deployed -technologie-sans). L'agence, qui applique les lois fédérales sur la protection des consommateurs, semble indiquer avec quel sérieux elle répondrait aux préoccupations concernant la technologie de reconnaissance faciale.
La plainte de 54 pages de la F.T.C. a également mis en lumière la façon dont une inquiétude autrefois théorique – selon laquelle les préjugés humains se répercuteraient sur les algorithmes d’intelligence artificielle et amplifieraient la discrimination – est devenue une source d’inquiétude dans le monde réel.
Samuel Levine, directeur du Bureau de protection des consommateurs de la F.T.C., a déclaré dans un communiqué que « l’utilisation imprudente par Rite Aid des systèmes de surveillance faciale a laissé ses clients confrontés à l’humiliation et à d’autres préjudices ».
D'octobre 2012 à juillet 2020, selon la plainte, les employés de Rite Aid, agissant sur la base de fausses alertes des systèmes, ont suivi les clients dans les magasins, les ont fouillés, ont ordonné à certains de partir et, s'ils refusaient, ont parfois appelé la police pour les confronter ou les expulser. devant mes amis et ma famille.
Les actions de Rite Aid ont affecté de manière disproportionnée les personnes de couleur, en particulier les Noirs, les Asiatiques et les Latinos, le tout au nom de l’exclusion des « personnes d’intérêt » de centaines de magasins Rite Aid dans des villes comme New York, Philadelphie et Sacramento, a indiqué la F.T.C. dit.
Rite Aid a déclaré dans un communiqué que même si En désaccord avec les accusations de la F.T.C., elle était « heureuse de parvenir à un accord ».
"Les allégations concernent un programme pilote de technologie de reconnaissance faciale que l'entreprise a déployé dans un nombre limité de magasins", a indiqué l'entreprise. "Rite Aid a cessé d'utiliser la technologie dans ce petit groupe de magasins il y a plus de trois ans, avant le début de l'enquête de la F.T.C. concernant l'utilisation de la technologie par l'entreprise."
Le règlement avec Rite Aid intervient environ deux mois après que la société a déposé une demande de protection contre la faillite et annoncé son intention de fermer 154 magasins dans plus de 10 états.
Rite Aid utilisait la technologie de reconnaissance faciale alors que les chaînes de vente au détail tiraient l'alarme contre le vol à l'étalage, en particulier le « crime organisé de vente au détail », dans lequel plusieurs personnes volent des produits dans plusieurs magasins pour les revendre ensuite sur le marché noir.
Ces préoccupations ont incité plusieurs magasins, dont Rite Aid, à protéger leurs marchandises en les enfermant en grande partie dans des caisses en plastique.
Mais ces inquiétudes semblent avoir été exagérées. Ce mois-ci, la National Retail Federation a rétracté son estimation incorrecte qui organisait la criminalité dans le commerce de détail. était responsable de près de la moitié des 94,5 milliards de dollars de marchandises en magasin disparues en 2021. Les experts estiment que ce chiffre est probablement plus proche de 5 %.
Rite Aid n'a pas dit aux clients qu'elle utilisait la technologie dans ses magasins, et les employés ont été « découragés de révéler de telles informations », a indiqué la F.T.C. dit.
On ne sait pas exactement combien d’autres détaillants utilisent la technologie de reconnaissance faciale pour la surveillance. Macy's a déclaré à Business Insider qu'il l'utilise dans certains magasins. Home Depot indique sur son site Web qu'il collecte « des informations biométriques, y compris la reconnaissance faciale ».
Alvaro M. Bedoya, commissaire de la F.T.C., a déclaré dans un communiqué que « le fait brutal que la surveillance peut nuire aux gens » ne devrait pas être perdu dans les conversations sur la façon dont la surveillance viole les droits et envahit la vie privée.
« Il est clair depuis des années que les systèmes de reconnaissance faciale peuvent être moins efficaces pour les personnes à la peau plus foncée et les femmes », a déclaré M. Bedoya.
Woodrow Hartzog, professeur de droit à l'Université de Boston qui a étudié les technologies de reconnaissance faciale et la F.T.C., a déclaré que la plainte de l'agence contre Rite Aid montre qu'elle considère l'IA comme un outil efficace. la technologie de surveillance constitue une menace sérieuse.
La cible de la plainte de l’agence était importante, a déclaré le professeur Hartzog. Même si Rite Aid a embauché deux sociétés anonymes pour l'aider à créer une base de données de personnes qu'elle considérait comme susceptibles de voler à l'étalage, la F.T.C. s'en est seulement pris à Rite Aid.
La F.T.C., a-t-il dit, dit essentiellement que « le comportement coupable que nous ciblons est le manquement à faire preuve de diligence raisonnable lorsque nous travaillons avec d’autres fournisseurs ».
La plainte indique que Rite Aid a utilisé les systèmes de surveillance dans les zones urbaines et le long des axes de transports publics, ce qui a entraîné un effet disproportionné sur les personnes de couleur, ont indiqué des responsables.
Environ 80 pour cent des magasins Rite Aid se trouvent dans des zones où les Blancs constituent le groupe racial ou ethnique le plus important. Mais 60 % des magasins Rite Aid qui utilisaient la technologie de reconnaissance faciale se trouvaient dans des zones où les Blancs ne constituaient pas le groupe racial ou ethnique le plus important, selon la F.T.C.
Rite Aid a formé les agents de sécurité de ses magasins à introduire des images dans une « base de données d’inscription » des personnes considérées comme des « personnes d’intérêt », et il a été demandé aux employés de « faire pression pour obtenir autant d’inscriptions que possible ». Les bases de données étaient remplies d'images de mauvaise qualité, dont beaucoup provenaient de télévisions en circuit fermé, de caméras de téléphones portables et de reportages dans les médias, a indiqué la F.T.C. dit.
Ce système défectueux, ont déclaré les responsables, a provoqué des milliers de « correspondances faussement positives » ou d’alertes indiquant à tort qu’un client correspondait à une personne figurant dans la base de données de Rite Aid. Pire encore, Rite Aid n'avait aucun moyen de traquer les faux positifs, indique la plainte.
"L'incapacité de Rite Aid à former ou à superviser de manière appropriée les employés qui utilisaient la technologie de reconnaissance faciale a encore accru le risque de préjudice pour les consommateurs", a déclaré la F.T.C. dit.
Dans un cas, les employés de Rite Aid ont arrêté et fouillé une fillette de 11 ans que le système avait faussement signalée comme étant susceptible de commettre un vol à l'étalage.
Dans un autre exemple cité dans la plainte, un homme noir a écrit à Rite Aid après avoir été victime d'une correspondance de reconnaissance faciale faussement positive.
"Quand j'entre dans un magasin maintenant, c'est bizarre", a-t-il déclaré, ajoutant : "Tous les hommes noirs ne sont pas des voleurs et ne devraient pas non plus se sentir comme tels."