Incidentes Asociados
El 19 de diciembre de 2023, la Comisión Federal de Comercio ("FTC") [anunció](https://www.ftc.gov/news-events/news/press-releases/2023/12/rite-aid-banned-using -ai-facial-recognition-after-ftc-says-retailer-deployed-technology- without) que llegó a un acuerdo con Rite Aid Corporation y Rite Aid Headquarters Corporation (colectivamente, "Rite Aid") para resolver las acusaciones de que las empresas violaron Sección 5 de la Ley FTC (así como un acuerdo previo con la agencia) al no implementar procedimientos razonables para evitar daños a los consumidores al utilizar tecnología de reconocimiento facial. Como parte del acuerdo, Rite Aid acordó dejar de usar "Sistemas de análisis o reconocimiento facial" (definidos a continuación) durante cinco años y establecer un programa de monitoreo para abordar ciertos riesgos si busca usar dichos sistemas para ciertos propósitos en el futuro.
Según la [queja] de la FTC (https://www.ftc.gov/system/files/ftc_gov/pdf/2023190_riteaid_complaint_filed.pdf), Rite Aid "utilizó tecnología de reconocimiento facial en cientos de sus farmacias minoristas para identificar a los clientes que previamente había considerado probable que participara en robos u otras conductas delictivas". La FTC afirmó que la tecnología enviaba alertas a los empleados de Rite Aid cuando los clientes coincidían con entradas en la "base de datos de la lista de vigilancia" de la empresa. Los empleados de Rite Aid supuestamente tomaron medidas contra los clientes que desencadenaron las coincidencias, por ejemplo, sometiéndolos a vigilancia en persona. La FTC afirmó que Rite Aid no consideró ni abordó el daño previsible a los clientes por tal conducta, incluyendo no (1) probar la precisión de la tecnología, (2) hacer cumplir los estándares de calidad de imagen necesarios para que la tecnología funcione con precisión, (3) tomar medidas razonables medidas para capacitar a los empleados, y (4) "tomar medidas para evaluar o abordar los riesgos de que... [la] tecnología dañaría desproporcionadamente a los consumidores debido a su raza, género u otras características demográficas".
La orden de consentimiento propuesta impone una serie de restricciones y obligaciones a ite Aid, incluso con respecto al uso de un "dispositivo facial". Sistema de reconocimiento o análisis", que define como "un sistema de vigilancia o seguridad biométrica automatizado que analiza o utiliza representaciones o imágenes, descripciones, grabaciones, copias, medidas o geometría de la cara de un individuo o relacionada con ella para generar una salida". Un "Sistema Automatizado de Vigilancia o Seguridad Biométrica", a su vez, se define como "cualquier sistema basado en una máquina, incluido cualquier software, aplicación o algoritmo informático, que analiza o utiliza información biométrica de, de o sobre consumidores individuales para generar una Productos que se relacionan con esos consumidores, independientemente de cualquier asistencia por parte de un ser humano en dicho análisis o uso, y que se utilizan en su totalidad o en parte para un Propósito de Seguridad o Vigilancia", sujeto a algunas excepciones.
Entre otras restricciones, la orden de consentimiento propuesta requiere que Rite Aid:
- no implementar ni utilizar ningún sistema de análisis o reconocimiento facial durante cinco años, ya sea en una tienda minorista o en una plataforma minorista en línea;
- eliminar todas las fotografías y vídeos de consumidores utilizados en un Sistema de análisis o reconocimiento facial, incluidos los datos, modelos o algoritmos derivados de dicha información;
- antes de implementar un sistema de vigilancia o seguridad biométrica automatizada en el futuro:
- Establecer y mantener un programa de seguimiento que, entre otras cosas, identifique y aborde los riesgos que "resultarán, total o parcialmente, en daños físicos, financieros o de reputación a los consumidores" y "cualquier daño de ese tipo [que] afectará desproporcionadamente a los consumidores". por motivos de raza, etnia, género, sexo, edad o discapacidad, solos o en combinación;
- Desarrollar procedimientos obligatorios de notificación y queja que incluyan proporcionar notificación por escrito a los consumidores cuya información biométrica se registrará en el sistema;
- Desarrollar un cronograma de retención por escrito que, entre otras cosas, establezca un plazo de eliminación de la información biométrica que no sea mayor a cinco años, sujeto a ciertas excepciones; y
- implementar un programa integral de seguridad de la información que incluya salvaguardas basadas en el "volumen y la sensibilidad" de la información que está en riesgo y la probabilidad de que el riesgo pueda resultar en una recopilación no autorizada o un uso indebido.
La orden de consentimiento propuesta por la FTC está sujeta a un período de comentarios públicos de 30 días después de su publicación en el Registro Federal.
Rite Aid solicitó reparación en virtud del Capítulo 11 del Código de Quiebras el 15 de octubre de 2023. En consecuencia, el acuerdo también está sujeto a la aprobación del Tribunal de Quiebras de EE. UU. que supervisa el procedimiento de quiebra de la empresa.
La FTC describió este acuerdo como la primera acción de cumplimiento de la agencia que aborda la supuesta discriminación mediante el uso de tecnologías automatizadas de toma de decisiones.