Incidentes Asociados
Rite Aid ha sido [prohibido](https://www.ftc.gov/news-events/news/press-releases/2023/12/rite -ayuda-prohibida-el-uso-de-reconocimiento-facial-ai-después-de-la-FTC-dice-que-el-minorista-implementó-tecnología-sin) el uso de software de reconocimiento facial durante cinco años, después de que la Comisión Federal de Comercio (FTC) descubriera que el gigante de las farmacias de EE. UU. El “uso imprudente de los sistemas de vigilancia facial” dejó a los clientes humillados y puso en riesgo su “información confidencial”.
La [Orden] de la FTC (https://www.ftc.gov/system/files/ftc_gov/pdf/2023190_riteaid_stipulated_order_filed.pdf), que está sujeta a la aprobación del Tribunal de Quiebras de EE. UU. después de que Rite Aid [presentó la protección por quiebra del Capítulo 11] (https://apnews.com/article/rite-pharmacy-bankruptcy-f80c3d231946d675b03e4e797f627fa6) en octubre, también instruye a Rite Aid a eliminar cualquier imagen que recopiló como parte de la implementación de su sistema de reconocimiento facial, así como cualquier producto que se haya creado a partir de esas imágenes. La empresa también debe implementar un programa sólido de seguridad de datos para salvaguardar los datos personales que recopila.
Un [informe de 2020] de Reuters (https://www.reuters.com/investigates/special-report/usa-riteaid-software/) detalló cómo la cadena de farmacias había introducido en secreto sistemas de reconocimiento facial en unas 200 tiendas de EE. UU. en ocho -año que comenzó en 2012, con “vecindarios en gran medida de bajos ingresos y no blancos” que sirvieron como banco de pruebas de tecnología.
Con el creciente [enfoque en el uso indebido de la vigilancia biométrica](https://www.ftc.gov/news-events/news/press-releases/2023/05/ftc-warns-about-misuses-biometric-information- perjudiciales para los consumidores), Rite Aid cayó firmemente en la mira de la agencia gubernamental. Entre sus acusaciones se encuentra que Rite Aid, en asociación con dos empresas contratadas, creó una "base de datos de lista de vigilancia" que contenía imágenes de clientes que, según la empresa, habían participado en actividades delictivas en una de sus tiendas. Estas imágenes, que a menudo eran de mala calidad, fueron capturadas por CCTV o por las cámaras de los teléfonos móviles de los empleados.
Cuando un cliente ingresaba a una tienda y supuestamente coincidía con una imagen existente en su base de datos, los empleados recibían una alerta automática indicándoles que tomaran medidas, y la mayoría de las veces esta instrucción era "acercarse e identificarse", es decir, verificar la identidad del cliente y pidiéndoles que se fueran. A menudo, estas "coincidencias" eran falsos positivos que llevaban a los empleados a acusar incorrectamente a los clientes de irregularidades, creando "vergüenza, acoso y otros daños", según la FTC.
“Los empleados, basándose en alertas de falsos positivos, siguieron a los consumidores por sus tiendas, los registraron, les ordenaron que se fueran, llamaron a la policía para confrontar o sacar a los consumidores y los acusaron públicamente, a veces frente a amigos o familiares, de hurto u otras irregularidades. ”, se lee en la denuncia.
Además, la FTC dijo que Rite Aid no informó a los clientes que se estaba utilizando la tecnología de reconocimiento facial, y al mismo tiempo ordenó a los empleados que no revelaran específicamente esta información a los clientes.
cara a cara
El software de reconocimiento facial se ha convertido en una de las facetas más controvertidas de la era de la vigilancia impulsada por la IA. En los últimos años hemos visto ciudades emitir prohibiciones expansivas sobre la tecnología, mientras que los políticos han luchado para [regular cómo lo utiliza la policía] (https://techcrunch.com/2022/09/29/house-democrats-facial-recognition-act/). Y empresas como Clearview AI, mientras tanto, han sido golpeadas con demandas y [multas](https://techcrunch.com /2022/07/13/clearview-greek-ban-order/) en todo el mundo por [violaciones de privacidad de datos] importantes (https://techcrunch.com/2022/05/23/clearview-uk-ico-fine/) en torno a la tecnología de reconocimiento facial.
Los últimos hallazgos de la FTC sobre Rite Aid también arrojan luz sobre los sesgos inherentes a los sistemas de inteligencia artificial. Por ejemplo, la FTC dice que Rite Aid no logró mitigar los riesgos para ciertos consumidores debido a su raza: su tecnología era “más probable que generara falsos positivos en tiendas ubicadas en comunidades de pluralidad negra y asiática que en comunidades de pluralidad blanca”, la nota de hallazgos.
Además, la FTC dijo que Rite Aid no probó ni midió la precisión de su sistema de reconocimiento facial antes o después del despliegue.
En un comunicado de prensa, Rite Aid dijo que estaba “complacido de llegar a un acuerdo con la FTC”, pero no estaba de acuerdo con el quid de las acusaciones.
"Las acusaciones se relacionan con un programa piloto de tecnología de reconocimiento facial que la Compañía implementó en un número limitado de tiendas", dijo Rite Aid en su comunicado. "Rite Aid dejó de utilizar la tecnología en este pequeño grupo de tiendas hace más de tres años, antes de que comenzara la investigación de la FTC sobre el uso de la tecnología por parte de la empresa".