Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Incidente 619: Rite Aid Facial Recognition Disproportionately Misidentified Minority Shoppers as Shoplifters

Descripción: Rite Aid used facial recognition technology from October 2012 to July 2020, allegedly leading to disproportionate misidentifications of women, Black, Latino, and Asian shoppers as "likely" shoplifters. The FTC settlement prohibits Rite Aid from using this technology in stores for five years.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial

Entidades

Ver todas las entidades
Alleged: Unnamed developed an AI system deployed by Rite Aid, which harmed Rite Aid customers who were women , Rite Aid customers who were minorities y Rite Aid customers.

Estadísticas de incidentes

ID
619
Cantidad de informes
14
Fecha del Incidente
2023-12-20
Editores
Daniel Atherton
Applied Taxonomies
CSETv1, MIT

Clasificaciones de la Taxonomía CSETv1

Detalles de la Taxonomía

Incident Number

The number of the incident in the AI Incident Database.
 

619

AI Tangible Harm Level Notes

Notes about the AI tangible harm level assessment
 

3.1 - People flagged as shoplifters by Rite Aid's facial recognition technology could be approached, asked to leave without finishing their purchases, searched, humiliated, or reported to the police.

Special Interest Intangible Harm

An assessment of whether a special interest intangible harm occurred. This assessment does not consider the context of the intangible harm, if an AI was involved, or if there is characterizable class or subgroup of harmed entities. It is also not assessing if an intangible harm occurred. It is only asking if a special interest intangible harm occurred.
 

yes

Date of Incident Year

The year in which the incident occurred. If there are multiple harms or occurrences of the incident, list the earliest. If a precise date is unavailable, but the available sources provide a basis for estimating the year, estimate. Otherwise, leave blank. Enter in the format of YYYY
 

2012

Clasificaciones de la Taxonomía MIT

Machine-Classified
Detalles de la Taxonomía

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

1.1. Unfair discrimination and misrepresentation

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Discrimination and Toxicity

Entity

Which, if any, entity is presented as the main cause of the risk
 

Human

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Intentional

Informes del Incidente

Cronología de Informes

+4
Rite Aid se enfrenta a una prohibición de reconocimiento facial de cinco años
+6
El reconocimiento facial de Rite Aid identificó erróneamente a personas negras, latinas y asiáticas como “probables” ladrones
La IA de Rite Aid El reconocimiento facial etiquetó erróneamente a las personas de color como ladronesRite Aid resuelve las acusaciones de la FTC sobre el uso de tecnología de reconocimiento facialLa FTC anuncia una acción innovadora contra Rite Aid por el uso injusto de la IA
Rite Aid se enfrenta a una prohibición de reconocimiento facial de cinco años

Rite Aid se enfrenta a una prohibición de reconocimiento facial de cinco años

axios.com

La FTC prohíbe el uso de reconocimiento facial de IA por parte de Rite Aid por falta de protección al consumidor

La FTC prohíbe el uso de reconocimiento facial de IA por parte de Rite Aid por falta de protección al consumidor

foxbusiness.com

A Rite Aid se le prohibirá utilizar el reconocimiento facial según el acuerdo propuesto por la FTC

A Rite Aid se le prohibirá utilizar el reconocimiento facial según el acuerdo propuesto por la FTC

cnbc.com

Cara a cara con el uso supuestamente injusto de la tecnología de reconocimiento facial por parte de Rite Aid

Cara a cara con el uso supuestamente injusto de la tecnología de reconocimiento facial por parte de Rite Aid

ftc.gov

A Rite Aid se le prohibió el uso de reconocimiento facial de IA después de que la FTC dijera que el minorista implementó tecnología sin garantías razonables

A Rite Aid se le prohibió el uso de reconocimiento facial de IA después de que la FTC dijera que el minorista implementó tecnología sin garantías razonables

ftc.gov

El reconocimiento facial de Rite Aid identificó erróneamente a personas negras, latinas y asiáticas como “probables” ladrones

El reconocimiento facial de Rite Aid identificó erróneamente a personas negras, latinas y asiáticas como “probables” ladrones

theguardian.com

El uso “imprudente” del reconocimiento facial por parte de Rite Aid le prohibió el uso de la tecnología en las tiendas durante cinco años.

El uso “imprudente” del reconocimiento facial por parte de Rite Aid le prohibió el uso de la tecnología en las tiendas durante cinco años.

cnn.com

Rite Aid recibe una prohibición de reconocimiento facial de cinco años por uso ��“imprudente”

Rite Aid recibe una prohibición de reconocimiento facial de cinco años por uso “imprudente”

theverge.com

Rite Aid prohibió el uso de tecnología de reconocimiento facial durante 5 años después de un robo defectuoso en las tiendas

Rite Aid prohibió el uso de tecnología de reconocimiento facial durante 5 años después de un robo defectuoso en las tiendas

apnews.com

A Rite Aid se le prohibió usar software de reconocimiento facial después de identificar falsamente a ladrones

A Rite Aid se le prohibió usar software de reconocimiento facial después de identificar falsamente a ladrones

techcrunch.com

Rite Aid prohibió el uso del reconocimiento facial en las tiendas después de miles de coincidencias falsas

Rite Aid prohibió el uso del reconocimiento facial en las tiendas después de miles de coincidencias falsas

abcnews.go.com

La IA de Rite Aid El reconocimiento facial etiquetó erróneamente a las personas de color como ladrones

La IA de Rite Aid El reconocimiento facial etiquetó erróneamente a las personas de color como ladrones

nytimes.com

Rite Aid resuelve las acusaciones de la FTC sobre el uso de tecnología de reconocimiento facial

Rite Aid resuelve las acusaciones de la FTC sobre el uso de tecnología de reconocimiento facial

insideprivacy.com

La FTC anuncia una acción innovadora contra Rite Aid por el uso injusto de la IA

La FTC anuncia una acción innovadora contra Rite Aid por el uso injusto de la IA

wilmerhale.com

Rite Aid se enfrenta a una prohibición de reconocimiento facial de cinco años
axios.com · 2023
Traducido por IA

A Rite Aid se le prohibirá utilizar tecnología de reconocimiento facial basada en AI durante cinco años en virtud de una propuesta de acuerdo sobre los cargos de la Comisión Federal de Comercio, anunció la FTC. Martes.

Por qué es importante…

La FTC prohíbe el uso de reconocimiento facial de IA por parte de Rite Aid por falta de protección al consumidor
foxbusiness.com · 2023
Traducido por IA

La Comisión Federal de Comercio (FTC) prohibió el martes a Rite Aid utilizar el reconocimiento facial impulsado por [inteligencia artificial (IA)] (https://www.foxbusiness.com/category/artificial-intelligence) con fines de vigilancia durant…

A Rite Aid se le prohibirá utilizar el reconocimiento facial según el acuerdo propuesto por la FTC
cnbc.com · 2023
Traducido por IA

La Comisión Federal de Comercio propuso prohibir a Rite Aid el uso de software de reconocimiento facial en sus farmacias durante cinco años para resolver las acusaciones de que utilizó indebidamente la tecnología para identificar a los ladr…

Cara a cara con el uso supuestamente injusto de la tecnología de reconocimiento facial por parte de Rite Aid
ftc.gov · 2023
Traducido por IA

Rite Aid ha "utilizado tecnología de reconocimiento facial en sus tiendas minoristas sin tomar medidas razonables para abordar los riesgos de que su implementación de dicha tecnología pudiera resultar en daño a los consumidores como resulta…

A Rite Aid se le prohibió el uso de reconocimiento facial de IA después de que la FTC dijera que el minorista implementó tecnología sin garantías razonables
ftc.gov · 2023
Traducido por IA

A Rite Aid se le prohibirá usar tecnología de reconocimiento facial con fines de vigilancia durante cinco años para resolver los cargos de la Comisión Federal de Comercio de que el minorista no implementó procedimientos razonables y evitó d…

El reconocimiento facial de Rite Aid identificó erróneamente a personas negras, latinas y asiáticas como “probables” ladrones
theguardian.com · 2023
Traducido por IA

Rite Aid utilizó sistemas de reconocimiento facial para identificar a compradores que anteriormente se consideraban "probables" de robar en tiendas sin el consentimiento del cliente y a personas identificadas erróneamente -particularmente m…

El uso “imprudente” del reconocimiento facial por parte de Rite Aid le prohibió el uso de la tecnología en las tiendas durante cinco años.
cnn.com · 2023
Traducido por IA

Rite Aid acordó una prohibición de cinco años del uso de tecnología de reconocimiento facial después de que la Comisión Federal de Comercio descubriera que la cadena acusó falsamente a los clientes de delitos y atacó injustamente a personas…

Rite Aid recibe una prohibición de reconocimiento facial de cinco años por uso “imprudente”
theverge.com · 2023
Traducido por IA

A Rite Aid no se le permite utilizar tecnología de reconocimiento facial basada en IA durante otros cinco años como parte de [un acuerdo al que llegó](https://www.ftc.gov/news-events/news/press-releases/2023/ 12/rite-aid-banned-using-ai-fac…

Rite Aid prohibió el uso de tecnología de reconocimiento facial durante 5 años después de un robo defectuoso en las tiendas
apnews.com · 2023
Traducido por IA

A Rite Aid se le ha prohibido utilizar tecnología de reconocimiento facial durante cinco años por acusaciones de que su sistema de vigilancia se utilizó incorrectamente para identificar posibles ladrones, especialmente compradores negros, l…

A Rite Aid se le prohibió usar software de reconocimiento facial después de identificar falsamente a ladrones
techcrunch.com · 2023
Traducido por IA

Rite Aid ha sido [prohibido](https://www.ftc.gov/news-events/news/press-releases/2023/12/rite -ayuda-prohibida-el-uso-de-reconocimiento-facial-ai-después-de-la-FTC-dice-que-el-minorista-implementó-tecnología-sin) el uso de software de recon…

Rite Aid prohibió el uso del reconocimiento facial en las tiendas después de miles de coincidencias falsas
abcnews.go.com · 2023
Traducido por IA

La cadena de farmacias Rite Aid ha aceptado la prohibición del uso del software reconocimiento facial durante cinco años debido a acusaciones falsas derivadas de la tecnología que afectó desproporcionadamente a las personas de color, [dijo]…

La IA de Rite Aid El reconocimiento facial etiquetó erróneamente a las personas de color como ladrones
nytimes.com · 2023
Traducido por IA

Rite Aid, la cadena de farmacias, utilizó tecnología de reconocimiento facial para identificar falsa y desproporcionadamente a personas de color y mujeres como posibles ladrones, dijo el martes la Comisión Federal de Comercio, describiendo …

Rite Aid resuelve las acusaciones de la FTC sobre el uso de tecnología de reconocimiento facial
insideprivacy.com · 2024
Traducido por IA

El 19 de diciembre de 2023, la Comisión Federal de Comercio ("FTC") [anunció](https://www.ftc.gov/news-events/news/press-releases/2023/12/rite-aid-banned-using -ai-facial-recognition-after-ftc-says-retailer-deployed-technology- without) que…

La FTC anuncia una acción innovadora contra Rite Aid por el uso injusto de la IA
wilmerhale.com · 2024
Traducido por IA

El 19 de diciembre de 2023, la Comisión Federal de Comercio (FTC) [anunció](https://www.ftc.gov/news-events/news/press-releases/2023/12/rite-aid-banned-using-ai -facial-recognition-after-ftc-says-retailer-deployed-technology- without) una a…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Defamation via AutoComplete

Algorithmic Defamation: The Case of the Shameless Autocomplete

Apr 2011 · 28 informes
Facial Recognition Trial Performed Poorly at Notting Hill Carnival

Don’t Believe the Algorithm

Aug 2017 · 4 informes
Tinder's Personalized Pricing Algorithm Found to Offer Higher Prices for Older Users

A Consumer Investigation into Personalised Pricing

Mar 2015 · 4 informes
Incidente AnteriorSiguiente Incidente

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Defamation via AutoComplete

Algorithmic Defamation: The Case of the Shameless Autocomplete

Apr 2011 · 28 informes
Facial Recognition Trial Performed Poorly at Notting Hill Carnival

Don’t Believe the Algorithm

Aug 2017 · 4 informes
Tinder's Personalized Pricing Algorithm Found to Offer Higher Prices for Older Users

A Consumer Investigation into Personalised Pricing

Mar 2015 · 4 informes

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • ecd56df