Incidentes Asociados
El negocio del reconocimiento facial fracasó después de recolectar fotos y videos de personas sin permiso.
La Comisión Federal de Comercio de EE. UU. ordenó a un negocio de reconocimiento facial con sede en California que elimine los modelos y algoritmos de inteligencia artificial que desarrolló al recopilar fotos y videos de personas sin permiso, un remedio que sugiere que es posible que los infractores de la privacidad ya no puedan beneficiarse de malos -Datos obtenidos.
Everalbum, un fabricante de aplicaciones de fotos para el consumidor que cerró el 31 de agosto de 2020 y desde entonces se relanzó como proveedor de reconocimiento facial con el nombre de Paravision, llegó el lunes a un acuerdo con la FTC sobre la introducción en 2017 de una función llamada "Amigos" en su aplicación Ever descontinuada. La agencia de vigilancia afirma que la aplicación implementó un código de reconocimiento facial para organizar las fotos de los usuarios de forma predeterminada, sin permiso.
Según la FTC, entre julio de 2018 y abril de 2019, Everalbum le dijo a la gente que no emplearía el reconocimiento facial en el contenido de los usuarios sin su consentimiento. La compañía supuestamente permitió a los usuarios en ciertas regiones (Illinois, Texas, Washington y la UE) tomar esa decisión, pero activó automáticamente la función para aquellos ubicados en otros lugares.
La agencia afirma además que el uso del reconocimiento facial por parte de Everalbum fue más allá de apoyar la función Amigos. Se alega que la compañía combinó los rostros de los usuarios con imágenes faciales de otra información para crear cuatro conjuntos de datos que informaron su tecnología de reconocimiento facial, que se convirtió en la base de un servicio de detección de rostros para clientes empresariales.
También se dice que la compañía les dijo a los consumidores que usaban su aplicación que eliminaría sus datos si desactivaban sus cuentas, pero no lo hizo hasta al menos octubre de 2019.
La FTC, al anunciar el caso y su acuerdo, dijo que Everalbum/Paravision deberá eliminar: fotos y videos pertenecientes a los usuarios de la aplicación Ever que desactivaron sus cuentas; todas las incrustaciones de rostros (representaciones vectoriales de rasgos faciales) de usuarios que no dieron su consentimiento; y "cualquier modelo o algoritmo de reconocimiento facial desarrollado con las fotos o videos de los usuarios de Ever".
La FTC no ha hecho esto en casos anteriores de privacidad con empresas de tecnología. Según el comisionado de la FTC, Rohit Chopra, cuando Google y YouTube acordaron pagar $170 millones por acusaciones de que las empresas habían recopilado datos de niños sin el consentimiento de los padres, el acuerdo de la FTC "permitió que Google y YouTube se beneficiaran de su conducta, incluso después de pagar una sanción civil". "
Del mismo modo, cuando la FTC votó para aprobar un acuerdo con Facebook sobre las afirmaciones de que había violado su acuerdo de acuerdo de privacidad de 2012, dijo, Facebook no tuvo que renunciar a ninguna de sus tecnologías o datos de reconocimiento facial.
"Los comisionados votaron previamente para permitir que los infractores de la ley de protección de datos retengan algoritmos y tecnologías que derivan gran parte de su valor de datos obtenidos ilegalmente", dijo Chopra en un comunicado [PDF]. "Esta es una corrección de rumbo importante".
En respuesta a una consulta de The Register, un vocero de la FTC dijo que, si bien la agencia emitió órdenes anteriormente que exigen que las empresas eliminen datos, "este es el primer caso de la FTC que se enfoca exclusivamente en la tecnología de reconocimiento facial, y los requisitos particulares de eliminación de datos se adaptan a los hechos alegados en el caso”.
En una entrevista telefónica con The Register, Adam Schwartz, abogado senior de la Electronic Frontier Foundation, dijo que la EFF generalmente apoya este remedio de la FTC.
"Pensamos que lo que hizo la empresa aquí fue muy malo", dijo. “Dijeron a los consumidores que harían una cosa con su fotografía y la usaron para una tecnología de vigilancia facial”, dijo.
"Parte de la forma en que la FTC debería resolver estos problemas es hacer que la empresa infractora devuelva todo el beneficio que obtuvo. Si construyen un algoritmo de reconocimiento facial ilegalmente, entonces el remedio es eliminar el sistema".
Un portavoz de Paravision AI le dijo a The Register en un correo electrónico que la Orden de Consentimiento de la FTC refleja cambios ya implementados por la compañía.
"El servicio Ever se cerró en agosto de 2020 y la compañía no tiene planes de operar un negocio de consumo en el futuro", dijo el portavoz. "En septiembre de 2020, Paravision lanzó su modelo de reconocimiento facial de última generación que no utiliza los datos de ningún usuario de Ever. La orden de consentimiento refleja el curso que ya habíamos establecido y refuerza un tono consciente a medida que miramos hacia el futuro y, por supuesto, lo haremos por completo". cumplirlo".