Incidents associés
La Federal Trade Commission (FTC) a interdit mardi à Rite Aid d'utiliser la reconnaissance faciale alimentée par l'intelligence artificielle (IA) à des fins de surveillance pendant cinq ans à la suite d'accusations. l'utilisation de l'IA par le détaillant manquait de garanties appropriées et étiquetait à tort les clients comme des voleurs à l'étalage.
Dans une plainte déposée devant un tribunal fédéral, la FTC a fait valoir que Rite Aid utilisait des outils de reconnaissance faciale basés sur l'IA pour identifier les clients susceptibles de s'être livrés à un vol à l'étalage ou à d'autres comportements problématiques. L'agence a déclaré que Rite Aid n'avait pas mis en place de mesures de protection pour protéger les employés faussement accusés d'actes répréhensibles, car la technologie de reconnaissance faciale les avait signalés par erreur comme correspondant à une personne précédemment identifiée comme un voleur à l'étalage ou un autre fauteur de troubles.
La FTC a déclaré que le système de reconnaissance faciale « générait des milliers de correspondances faussement positives » et qu'il « faisait parfois correspondre des clients avec des personnes initialement inscrites dans la base de données ». basé sur une activité à des milliers de kilomètres, ou signalé la même personne dans des dizaines de magasins différents »à travers le pays.
Il a ajouté que la technologie de Rite Aid était également plus susceptible de générer des faux positifs dans les magasins situés dans des communautés majoritairement noires et asiatiques, utilisait des images de mauvaise qualité qui rendaient les faux positifs plus probables et ne parvenait pas à former adéquatement les employés sur la technologie et à surveiller régulièrement son utilisation. précision.
« L'utilisation imprudente par Rite Aid des systèmes de surveillance faciale a laissé ses clients confrontés à l'humiliation et à d'autres préjudices, et ses violations des ordonnances mettent en danger les informations sensibles des consommateurs », a déclaré Samuel Levine, directeur du Bureau de protection des consommateurs de la FTC. "L'ordonnance révolutionnaire d'aujourd'hui montre clairement que la Commission sera vigilante pour protéger le public contre une surveillance biométrique déloyale et des pratiques déloyales en matière de sécurité des données."
La FTC exigera de Rite Aid qu'elle mette en œuvre des mesures de protection pour les consommateurs lors du déploiement de systèmes automatisés utilisant des informations biométriques pour les suivre ou les signaler comme risques de sécurité. Cela obligera également l'entreprise à cesser d'utiliser la technologie si elle ne peut pas contrôler les risques potentiels pour les consommateurs, et les dirigeants de Rite Aid devront mettre en œuvre une « [sécurité de l'information] robuste » (https://www.foxbusiness.com/category/ cybersécurité) » qui doit être « supervisé par les plus hauts dirigeants de l'entreprise ».
Rite Aid a publié une déclaration disant qu'elle était "heureuse de parvenir à un accord avec la FTC et de laisser cette affaire derrière nous", tout en notant que même si elle partage l'objectif de protéger la vie privée des consommateurs, elle a contesté certaines des allégations de l'agence.
"Nous respectons l'enquête de la FTC et sommes alignés sur la mission de l'agence de protéger la vie privée des consommateurs", a écrit la société. "Cependant, nous sommes fondamentalement en désaccord avec les allégations de reconnaissance faciale contenues dans la plainte de l'agence. Les allégations concernent un programme pilote de reconnaissance faciale que la société a déployé dans un nombre limité de magasins. Rite Aid a cessé d'utiliser la technologie dans ce petit groupe de magasins plus de trois il y a quelques années, avant le début de l'enquête de la FTC concernant l'utilisation de la technologie par la société.
"Pour l'avenir, nous nous concentrons sur les actions importantes en cours pour renforcer notre situation financière alors que nous continuons à fournir des produits et services de santé de premier plan à près d'un million de clients que nous servons quotidiennement", ajoute-t-il.
Rite Aid – la troisième plus grande chaîne de pharmacies aux États-Unis – a déposé son bilan (chapitre 11) en octobre et a annoncé qu'elle fermerait plus de 154 magasins dans 15 États alors qu'elle cherche à restructurer ses activités. La société a fermé environ 210 magasins au cours de l'exercice clos le 30 septembre, ce qui lui laisse un total de 2 100 magasins en activité.