Incidentes Asociados
Rite Aid utilizó sistemas de reconocimiento facial para identificar a compradores que anteriormente se consideraban "probables" de robar en tiendas sin el consentimiento del cliente y a personas identificadas erróneamente -particularmente mujeres y personas negras, latinas o asiáticas- en "numerosas" ocasiones, según un nuevo acuerdo con la Comisión Federal de Comercio. Como parte del acuerdo, a Rite Aid se le ha prohibido implementar tecnología de reconocimiento facial en sus tiendas durante cinco años.
La FTC dijo en una demanda ante un tribunal federal que Rite Aid utilizó tecnología de reconocimiento facial en cientos de tiendas desde octubre de 2012 hasta julio de 2020 para identificar a los compradores “que previamente había considerado propensos a robar u otras conductas delictivas”. La tecnología envió alertas a los empleados de Rite Aid, ya sea por correo electrónico o por teléfono, cuando identificó personas que ingresaban a la tienda en su lista de vigilancia.
La FTC dijo en su denuncia que los empleados de las tiendas pondrían a esas personas bajo mayor vigilancia, les prohibirían realizar compras o las acusarían delante de amigos, familiares y otros clientes de haber cometido delitos anteriormente. El sistema de reconocimiento facial se utilizó ampliamente en la ciudad de Nueva York; Los Angeles; San Francisco; Filadelfia; Baltimore; Detroit; Ciudad Atlántica; Seattle; Portland, Oregon; Wilmington, Delaware y Sacramento, California, según el acuerdo.
El acuerdo aborda las acusaciones de que la cadena de farmacias en dificultades no hizo lo suficiente para evitar daños a sus clientes e implementar “procedimientos razonables”, dijo la agencia gubernamental. Rite Aid dijo el martes por la noche que no estaba de acuerdo con las acusaciones, pero que se alegraba de haber llegado a un acuerdo para resolver el problema.
Como parte de su contrato con dos proveedores privados no identificados, Rite Aid creó o ordenó a las empresas que crearan una base de datos de “personas de interés” que incluía imágenes de las personas y otra información de identificación personal. Según el acuerdo, esas imágenes a menudo eran de baja calidad y fueron capturadas a través de las cámaras CCTV de Rite Aid, las cámaras de reconocimiento facial o los teléfonos móviles de los empleados.
Los trabajadores de seguridad fueron capacitados para "presionar para lograr la mayor cantidad de inscripciones posible" y la empresa "inscribió al menos a decenas de miles de personas en su base de datos", según [documentos] de la FTC (https://www.ftc.gov/system/ files/ftc_gov/pdf/2023190_riteaid_complaint_filed.pdf).
La denuncia federal también dice que hubo “numerosos casos” en los que la tecnología identificó incorrectamente a alguien que ingresó a la tienda y Rite Aid no pudo probar su precisión antes de usarla. Por ejemplo, Rite Aid no preguntó a uno de los dos proveedores privados con los que trabajó si se había probado la precisión de su tecnología, según el acuerdo. De hecho, el proveedor establece explícitamente en su contrato que “no hace ninguna declaración ni garantía en cuanto a la precisión y confiabilidad” de su sistema de reconocimiento facial.
La FTC también dijo que la empresa "no tomó medidas razonables para capacitar y supervisar a los empleados encargados de operar la tecnología en las tiendas Rite Aid".
El grupo de libertad civil y derechos digitales, el Centro de Información sobre Privacidad Electrónica (Epic), dijo que el reconocimiento facial puede ser perjudicial en cualquier contexto, pero que Rite Aid no tomó ni siquiera las precauciones más básicas. “El resultado fue lamentablemente predecible: miles de identificaciones erróneas que afectaron de manera desproporcionada a los clientes negros, asiáticos y latinos, algunos de los cuales llevaron a búsquedas humillantes y expulsiones de tiendas”, dijo John Davison, director de litigios de Epic.
Rite Aid dice que las acusaciones se centran en un programa piloto que utilizó en un número limitado de tiendas y que dejó de utilizar esta tecnología hace más de tres años.
"Respetamos la investigación de la FTC y estamos alineados con la misión de la agencia de proteger la privacidad del consumidor", dijo la compañía en un comunicado publicado en su sitio web. "Sin embargo, estamos fundamentalmente en desacuerdo con las acusaciones de reconocimiento facial en la denuncia de la agencia".
Los estudios han demostrado que los sistemas de reconocimiento facial identifican erróneamente de forma rutinaria a las personas negras y de color. En los últimos años en EE. UU. ha habido [seis casos conocidos](https://innocenceproject.org/when-artificial-intelligence-gets-it-wrong/#:~:text=The%20use%20of% 20such%20biased,match%20%E2%80%94%20all%20six%20were%20Black.) de personas negras arrestadas falsamente debido al reconocimiento facial.
"Este es un caso innovador, un gran paso para la privacidad y los derechos civiles y, con suerte, sólo el comienzo de una tendencia", dijo Davison. “Pero es importante señalar que Rite Aid no está solo. Las empresas utilizan habitualmente algoritmos no probados y herramientas de vigilancia para controlar a los consumidores, a menudo en secreto. La FTC tiene razón al tomar medidas enérgicas contra estas prácticas, y las empresas harían bien en tomar nota. La anarquía algorítmica ya no es una opción”.
Rite Aid también señaló en una declaración preparada que cualquier acuerdo tendría que ser aprobado en el tribunal de quiebras de Estados Unidos. La compañía anunció el otoño pasado que cerraría más de 150 tiendas mientras avanzaba por un proceso voluntario de bancarrota del capítulo 11. La compañía ha tenido problemas financieros durante años y también enfrenta riesgos financieros debido a demandas por recetas de opioides, como sus rivales más grandes, CVS y Walgreens.