Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Incident 619: Rite Aid Facial Recognition Disproportionately Misidentified Minority Shoppers as Shoplifters

Description: Rite Aid used facial recognition technology from October 2012 to July 2020, allegedly leading to disproportionate misidentifications of women, Black, Latino, and Asian shoppers as "likely" shoplifters. The FTC settlement prohibits Rite Aid from using this technology in stores for five years.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique

Entités

Voir toutes les entités
Alleged: Unnamed developed an AI system deployed by Rite Aid, which harmed Rite Aid customers who were women , Rite Aid customers who were minorities et Rite Aid customers.

Statistiques d'incidents

ID
619
Nombre de rapports
14
Date de l'incident
2023-12-20
Editeurs
Daniel Atherton
Applied Taxonomies
CSETv1, MIT

Classifications de taxonomie CSETv1

Détails de la taxonomie

Incident Number

The number of the incident in the AI Incident Database.
 

619

AI Tangible Harm Level Notes

Notes about the AI tangible harm level assessment
 

3.1 - People flagged as shoplifters by Rite Aid's facial recognition technology could be approached, asked to leave without finishing their purchases, searched, humiliated, or reported to the police.

Special Interest Intangible Harm

An assessment of whether a special interest intangible harm occurred. This assessment does not consider the context of the intangible harm, if an AI was involved, or if there is characterizable class or subgroup of harmed entities. It is also not assessing if an intangible harm occurred. It is only asking if a special interest intangible harm occurred.
 

yes

Date of Incident Year

The year in which the incident occurred. If there are multiple harms or occurrences of the incident, list the earliest. If a precise date is unavailable, but the available sources provide a basis for estimating the year, estimate. Otherwise, leave blank. Enter in the format of YYYY
 

2012

Classifications de taxonomie MIT

Machine-Classified
Détails de la taxonomie

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

1.1. Unfair discrimination and misrepresentation

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Discrimination and Toxicity

Entity

Which, if any, entity is presented as the main cause of the risk
 

Human

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Intentional

Rapports d'incidents

Chronologie du rapport

+4
Rite Aid risque une interdiction de reconnaissance faciale pendant 5 ans
+6
La reconnaissance faciale de Rite Aid a identifié à tort les Noirs, les Latinos et les Asiatiques comme des voleurs à l'étalage « probables »
L’IA de Rite Aid La reconnaissance faciale étiquete à tort les personnes de couleur comme des voleurs à l'étalageRite Aid règle les allégations de la FTC concernant l'utilisation de la technologie de reconnaissance facialeLa FTC annonce une action révolutionnaire contre Rite Aid pour utilisation déloyale de l’IA
Rite Aid risque une interdiction de reconnaissance faciale pendant 5 ans

Rite Aid risque une interdiction de reconnaissance faciale pendant 5 ans

axios.com

La FTC interdit l'utilisation par Rite Aid de la reconnaissance faciale IA en raison du manque de protection des consommateurs

La FTC interdit l'utilisation par Rite Aid de la reconnaissance faciale IA en raison du manque de protection des consommateurs

foxbusiness.com

Rite Aid ne sera pas autorisé à utiliser la reconnaissance faciale en vertu du règlement proposé par la FTC

Rite Aid ne sera pas autorisé à utiliser la reconnaissance faciale en vertu du règlement proposé par la FTC

cnbc.com

Se retrouver face à face avec l’utilisation prétendument déloyale de la technologie de reconnaissance faciale par Rite Aid

Se retrouver face à face avec l’utilisation prétendument déloyale de la technologie de reconnaissance faciale par Rite Aid

ftc.gov

Rite Aid interdit d'utiliser la reconnaissance faciale IA après que la FTC a déclaré que le détaillant avait déployé la technologie sans garanties raisonnables

Rite Aid interdit d'utiliser la reconnaissance faciale IA après que la FTC a déclaré que le détaillant avait déployé la technologie sans garanties raisonnables

ftc.gov

La reconnaissance faciale de Rite Aid a identifié à tort les Noirs, les Latinos et les Asiatiques comme des voleurs à l'étalage « probables »

La reconnaissance faciale de Rite Aid a identifié à tort les Noirs, les Latinos et les Asiatiques comme des voleurs à l'étalage « probables »

theguardian.com

L’utilisation « imprudente » de la reconnaissance faciale par Rite Aid lui a valu d’être interdit d’utiliser cette technologie dans les magasins pendant cinq ans.

L’utilisation « imprudente » de la reconnaissance faciale par Rite Aid lui a valu d’être interdit d’utiliser cette technologie dans les magasins pendant cinq ans.

cnn.com

Rite Aid frappé d'une interdiction de reconnaissance faciale de cinq ans pour utilisation « imprudente »

Rite Aid frappé d'une interdiction de reconnaissance faciale de cinq ans pour utilisation « imprudente »

theverge.com

Rite Aid interdit d'utilisation de la technologie de reconnaissance faciale pendant 5 ans après un ciblage de vol défectueux dans les magasins

Rite Aid interdit d'utilisation de la technologie de reconnaissance faciale pendant 5 ans après un ciblage de vol défectueux dans les magasins

apnews.com

Rite Aid interdit d'utiliser un logiciel de reconnaissance faciale après avoir faussement identifié des voleurs à l'étalage

Rite Aid interdit d'utiliser un logiciel de reconnaissance faciale après avoir faussement identifié des voleurs à l'étalage

techcrunch.com

Rite Aid interdit d'utiliser la reconnaissance faciale dans les magasins après des milliers de fausses correspondances

Rite Aid interdit d'utiliser la reconnaissance faciale dans les magasins après des milliers de fausses correspondances

abcnews.go.com

L’IA de Rite Aid La reconnaissance faciale étiquete à tort les personnes de couleur comme des voleurs à l'étalage

L’IA de Rite Aid La reconnaissance faciale étiquete à tort les personnes de couleur comme des voleurs à l'étalage

nytimes.com

Rite Aid règle les allégations de la FTC concernant l'utilisation de la technologie de reconnaissance faciale

Rite Aid règle les allégations de la FTC concernant l'utilisation de la technologie de reconnaissance faciale

insideprivacy.com

La FTC annonce une action révolutionnaire contre Rite Aid pour utilisation déloyale de l’IA

La FTC annonce une action révolutionnaire contre Rite Aid pour utilisation déloyale de l’IA

wilmerhale.com

Rite Aid risque une interdiction de reconnaissance faciale pendant 5 ans
axios.com · 2023
Traduit par IA

Rite Aid se verra interdire d'utiliser la technologie de reconnaissance faciale basée sur l'IA pendant cinq ans dans le cadre d'un projet de règlement des accusations de la Federal Trade Commission, a annoncé la FTC. Mardi.

Pourquoi c'est i…

La FTC interdit l'utilisation par Rite Aid de la reconnaissance faciale IA en raison du manque de protection des consommateurs
foxbusiness.com · 2023
Traduit par IA

La Federal Trade Commission (FTC) a interdit mardi à Rite Aid d'utiliser la reconnaissance faciale alimentée par l'intelligence artificielle (IA) à des fins de surveillance pendant cinq ans à la suite d'accusations. l'utilisation de l'IA pa…

Rite Aid ne sera pas autorisé à utiliser la reconnaissance faciale en vertu du règlement proposé par la FTC
cnbc.com · 2023
Traduit par IA

La Federal Trade Commission a proposé d'interdire à Rite Aid d'utiliser un logiciel de reconnaissance faciale dans ses pharmacies pendant cinq ans afin de régler les allégations selon lesquelles il aurait utilisé de manière inappropriée cet…

Se retrouver face à face avec l’utilisation prétendument déloyale de la technologie de reconnaissance faciale par Rite Aid
ftc.gov · 2023
Traduit par IA

Rite Aid a « utilisé la technologie de reconnaissance faciale dans ses magasins de détail sans prendre de mesures raisonnables pour faire face aux risques que son déploiement d’une telle technologie soit susceptible de nuire aux consommateu…

Rite Aid interdit d'utiliser la reconnaissance faciale IA après que la FTC a déclaré que le détaillant avait déployé la technologie sans garanties raisonnables
ftc.gov · 2023
Traduit par IA

Il sera interdit à Rite Aid d'utiliser la technologie de reconnaissance faciale à des fins de surveillance pendant cinq ans afin de régler les accusations de la Federal Trade Commission selon lesquelles le détaillant n'a pas mis en œuvre de…

La reconnaissance faciale de Rite Aid a identifié à tort les Noirs, les Latinos et les Asiatiques comme des voleurs à l'étalage « probables »
theguardian.com · 2023
Traduit par IA

Rite Aid a utilisé des systèmes de reconnaissance faciale pour identifier les acheteurs qui étaient auparavant considérés comme « susceptibles de se livrer » à des vols à l'étalage sans le consentement du client et des personnes mal identif…

L’utilisation « imprudente » de la reconnaissance faciale par Rite Aid lui a valu d’être interdit d’utiliser cette technologie dans les magasins pendant cinq ans.
cnn.com · 2023
Traduit par IA

Rite Aid a accepté une interdiction de cinq ans d'utiliser la technologie de reconnaissance faciale après que la Federal Trade Commission a constaté que la chaîne accusait à tort ses clients de crimes et ciblait injustement les personnes de…

Rite Aid frappé d'une interdiction de reconnaissance faciale de cinq ans pour utilisation « imprudente »
theverge.com · 2023
Traduit par IA

Rite Aid n'est pas autorisé à utiliser la technologie de reconnaissance faciale basée sur l'IA pendant encore cinq ans dans le cadre de [un règlement conclu](https://www.ftc.gov/news-events/news/press-releases/2023/ 12/rite-aid-banned-using…

Rite Aid interdit d'utilisation de la technologie de reconnaissance faciale pendant 5 ans après un ciblage de vol défectueux dans les magasins
apnews.com · 2023
Traduit par IA

Rite Aid s'est vu interdire d'utiliser la technologie de reconnaissance faciale pendant cinq ans en raison d'allégations selon lesquelles son système de surveillance aurait été utilisé de manière incorrecte pour identifier des voleurs à l'é…

Rite Aid interdit d'utiliser un logiciel de reconnaissance faciale après avoir faussement identifié des voleurs à l'étalage
techcrunch.com · 2023
Traduit par IA

Rite Aid a été [interdit](https://www.ftc.gov/news-events/news/press-releases/2023/12/rite (-aid-banned-using-ai-facial-recognition-after-ftc-dit-retailer-deployed-technology-without) d'utiliser un logiciel de reconnaissance faciale pendant…

Rite Aid interdit d'utiliser la reconnaissance faciale dans les magasins après des milliers de fausses correspondances
abcnews.go.com · 2023
Traduit par IA

La chaîne de pharmacies Rite Aid a accepté l'interdiction de son utilisation du logiciel de reconnaissance faciale pendant cinq ans en raison de fausses accusations découlant de la technologie qui ont touché de manière disproportionnée les …

L’IA de Rite Aid La reconnaissance faciale étiquete à tort les personnes de couleur comme des voleurs à l'étalage
nytimes.com · 2023
Traduit par IA

Rite Aid, la chaîne de pharmacies, a utilisé la technologie de reconnaissance faciale pour identifier de manière fausse et disproportionnée les personnes de couleur et les femmes comme étant des voleurs potentiels à l'étalage, a déclaré mar…

Rite Aid règle les allégations de la FTC concernant l'utilisation de la technologie de reconnaissance faciale
insideprivacy.com · 2024
Traduit par IA

Le 19 décembre 2023, la Federal Trade Commission (« FTC ») [annoncé](https://www.ftc.gov/news-events/news/press-releases/2023/12/rite-aid-banned-using -ai-facial-recognition-after-ftc-dits-retailer-deployed-technology-without) qu'il est par…

La FTC annonce une action révolutionnaire contre Rite Aid pour utilisation déloyale de l’IA
wilmerhale.com · 2024
Traduit par IA

Le 19 décembre 2023, la Federal Trade Commission (FTC) [annoncé](https://www.ftc.gov/news-events/news/press-releases/2023/12/rite-aid-banned-using-ai -facial-recognition-after-ftc-dits-retailer-deployed-technology-without) une mesure coerci…

Variantes

Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

Defamation via AutoComplete

Algorithmic Defamation: The Case of the Shameless Autocomplete

Apr 2011 · 28 rapports
Facial Recognition Trial Performed Poorly at Notting Hill Carnival

Don’t Believe the Algorithm

Aug 2017 · 4 rapports
Tinder's Personalized Pricing Algorithm Found to Offer Higher Prices for Older Users

A Consumer Investigation into Personalised Pricing

Mar 2015 · 4 rapports
Incident précédentProchain incident

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

Defamation via AutoComplete

Algorithmic Defamation: The Case of the Shameless Autocomplete

Apr 2011 · 28 rapports
Facial Recognition Trial Performed Poorly at Notting Hill Carnival

Don’t Believe the Algorithm

Aug 2017 · 4 rapports
Tinder's Personalized Pricing Algorithm Found to Offer Higher Prices for Older Users

A Consumer Investigation into Personalised Pricing

Mar 2015 · 4 rapports

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • ecd56df