Incidents associés
Le 19 décembre 2023, la Federal Trade Commission (« FTC ») [annoncé](https://www.ftc.gov/news-events/news/press-releases/2023/12/rite-aid-banned-using -ai-facial-recognition-after-ftc-dits-retailer-deployed-technology-without) qu'il est parvenu à un règlement avec Rite Aid Corporation et Rite Aid Headquarters Corporation (collectivement, « Rite Aid ») pour résoudre les allégations selon lesquelles les sociétés ont violé Article 5 de la loi FTC (ainsi qu'un règlement préalable avec l'agence) en omettant de mettre en œuvre des procédures raisonnables pour éviter de nuire aux consommateurs lors de l'utilisation de la technologie de reconnaissance faciale. Dans le cadre du règlement, Rite Aid a accepté de cesser d'utiliser les « systèmes de reconnaissance ou d'analyse faciale » (définis ci-dessous) pendant cinq ans et d'établir un programme de surveillance pour gérer certains risques si elle cherche à utiliser de tels systèmes à certaines fins à l'avenir.
Selon la [plainte] de la FTC (https://www.ftc.gov/system/files/ftc_gov/pdf/2023190_riteaid_complaint_filed.pdf), Rite Aid « a utilisé la technologie de reconnaissance faciale dans des centaines de ses pharmacies de détail pour identifier les clients qu'elle avait précédemment jugé susceptible de se livrer à un vol à l'étalage ou à d'autres comportements criminels. La FTC a affirmé que la technologie envoyait des alertes aux employés de Rite Aid lorsque les clients étaient mis en correspondance avec des entrées dans la « base de données de liste de surveillance » de l'entreprise. Les employés de Rite Aid auraient pris des mesures contre les clients qui avaient déclenché les matchs, par exemple en les soumettant à une surveillance en personne. La FTC a affirmé que Rite Aid n'avait pas pris en compte ni résolu les dommages prévisibles causés aux clients par un tel comportement, notamment en omettant (1) de tester l'exactitude de la technologie, (2) d'appliquer les normes de qualité d'image nécessaires au bon fonctionnement de la technologie, (3) de prendre des mesures raisonnables. des mesures pour former les employés, et (4) « prendre des mesures pour évaluer ou gérer les risques que sa… [la] technologie nuise de manière disproportionnée aux consommateurs en raison de leur race, de leur sexe ou d’autres caractéristiques démographiques ».
Le ordonnance sur consentement proposée impose un certain nombre de restrictions et d'obligations à ite Aid, notamment en ce qui concerne son utilisation d'un « visage Système de reconnaissance ou d'analyse », qu'il définit comme « un système automatisé de sécurité ou de surveillance biométrique qui analyse ou utilise des représentations ou des images, des descriptions, des enregistrements, des copies, des mesures ou la géométrie du visage d'un individu ou liés à celui-ci pour générer une sortie ». Un « système automatisé de sécurité ou de surveillance biométrique » est défini comme « tout système basé sur une machine, y compris tout logiciel, application ou algorithme informatique, qui analyse ou utilise des informations biométriques de, provenant ou concernant des consommateurs individuels pour générer un Les résultats relatifs à ces consommateurs, malgré toute assistance d'un être humain dans une telle analyse ou utilisation, et qui sont utilisés en tout ou en partie à des fins de sécurité ou de surveillance, sous réserve de quelques exceptions.
Entre autres restrictions, l'ordonnance par consentement proposée exige que Rite Aid :
- ne pas déployer ni utiliser de système de reconnaissance ou d'analyse faciale pendant cinq ans, que ce soit dans un magasin de détail ou sur une plateforme de vente au détail en ligne ;
- supprimer toutes les photos et vidéos des consommateurs utilisées dans un système de reconnaissance ou d'analyse faciale, y compris toutes données, modèles ou algorithmes dérivés de ces informations ;
- avant de déployer ultérieurement un système automatisé de sécurité ou de surveillance biométrique :
- Établir et maintenir un programme de surveillance qui, entre autres, identifie et traite les risques qui « entraîneront, en tout ou en partie, un préjudice physique, financier ou à la réputation des consommateurs » et « tout préjudice de ce type [qui] affectera de manière disproportionnée les consommateurs ». en fonction de la race, de l'origine ethnique, du genre, du sexe, de l'âge ou du handicap, seuls ou en combinaison ;
- Élaborer des procédures obligatoires de notification et de plainte qui incluent la fourniture d'un avis écrit aux consommateurs dont les informations biométriques seront enregistrées dans le système ;
- Élaborer un calendrier de conservation écrit qui fixe, entre autres, un délai de suppression des informations biométriques qui ne dépasse pas cinq ans, sous réserve de certaines exceptions ; et
- mettre en œuvre un programme complet de sécurité de l'information qui comprend des mesures de protection basées sur « le volume et la sensibilité » des informations à risque et la probabilité que le risque puisse entraîner une collecte non autorisée ou une utilisation abusive.
L'ordonnance de consentement proposée par la FTC est soumise à une période de commentaires publics de 30 jours après sa publication dans le Federal Register.
Rite Aid a déposé une demande de redressement en vertu du chapitre 11 du Code des faillites le 15 octobre 2023. En conséquence, le règlement est également soumis à l'approbation du tribunal américain des faillites qui supervise la procédure de faillite de l'entreprise.
Ce règlement a été décrit par la FTC comme la première mesure coercitive de l'agence qui traite des allégations de discrimination par le biais de l'utilisation de technologies de prise de décision automatisée.