Incidentes Asociados
Se le ordenó al desarrollador de reconocimiento facial Paravision AI que elimine una gran cantidad de datos de usuario que tenía y usaba ilegalmente para crear aplicaciones de reconocimiento facial a partir de las imágenes almacenadas en su antiguo servicio de almacenamiento en la nube, Ever. La Comisión Federal de Comercio de EE. UU. (FTC, por sus siglas en inglés) descubrió que la empresa había utilizado imágenes cargadas en su servicio sin permiso y que vendió los algoritmos de reconocimiento facial creados a empresas y organizaciones de terceros, incluidas las fuerzas del orden.
Establecida originalmente como un servicio gratuito de almacenamiento en la nube para los consumidores, la empresa que dirigía Ever pronto descubrió que no podía ganar tanto dinero como esperaba, por lo que comenzó a recopilar datos de las imágenes que cargaban sus usuarios para desarrollar un software de reconocimiento facial. Introdujo un servicio llamado 'Amigos' que comercializó permitiendo a los usuarios etiquetar fácilmente a sus amigos y que podría filtrar imágenes según quién estaba en ellas. Este servicio estaba activo de forma predeterminada, y solo aquellos en Illinois, Texas, Washington y la Unión Europea, lugares que tienen leyes sobre datos personales y reconocimiento facial, tenían la capacidad de decidir si el software de reconocimiento estaría activado o desactivado.
La FTC también descubrió que Ever no eliminó las imágenes de las cuentas que estaban cerradas, como estaba obligado a hacer según sus propios términos, y que incluso cuando el servicio cerró, mantuvo todas las imágenes de los clientes y continuó usándolas para desarrollar su software. .
El [fallo de la comisión] (https://www.ftc.gov/system/files/documents/cases/everalbum_order.pdf) ordena a Paravision AI, el nuevo nombre de la empresa, eliminar todas las imágenes de los usuarios, todos los datos que tiene en esos usuarios, así como los algoritmos que produjo ilegalmente usando esas imágenes. Sorprendentemente, aunque la comisión no ha multado a la empresa ni castigado a sus propietarios. El comisionado Rohit Chopra de la FTC dijo en una declaración que le preocupa que, además de ordenar sus algoritmos, eliminó la comisión no puede imponer ninguna sanción a Paravision por sus actividades ilegales.
Dado que el fallo, Paravision ha anunciado, ha designado un asesor jefe de ética de IA y [publicado](https: //www.paravision.ai/ai-principles/) un conjunto de Principios de IA 'para guiar el desarrollo ético y el uso apropiado del reconocimiento facial y tecnologías relacionadas'.
Un desarrollador de una aplicación de fotos con sede en California ha resuelto las acusaciones de la Comisión Federal de Comercio de que engañó a los consumidores sobre el uso de la tecnología de reconocimiento facial y la retención de las fotos y videos de los usuarios que desactivaron sus cuentas.
Como parte del acuerdo propuesto, Everalbum, Inc. debe obtener el consentimiento expreso de los consumidores antes de usar la tecnología de reconocimiento facial en sus fotos y videos. La orden propuesta también requiere que la empresa elimine los modelos y algoritmos que desarrolló utilizando las fotos y videos subidos por sus usuarios.
“Usando el reconocimiento facial, las empresas pueden convertir fotos de sus seres queridos en datos biométricos confidenciales”, dijo Andrew Smith, Director de la Oficina de Protección al Consumidor de la FTC. “Garantizar que las empresas cumplan sus promesas a los clientes sobre cómo usan y manejan los datos biométricos seguirá siendo una alta prioridad para la FTC”.
Everalbum ofreció una aplicación llamada "Ever" que permitía a los usuarios cargar fotos y videos desde sus dispositivos móviles, computadoras o cuentas de redes sociales para almacenarlos y organizarlos utilizando el servicio de almacenamiento basado en la nube de la compañía. En su denuncia, la FTC alega que, en febrero de 2017, Everalbum lanzó una nueva función en la aplicación Ever, llamada "Amigos", que usaba tecnología de reconocimiento facial para agrupar las fotos de los usuarios por los rostros de las personas que aparecían en ellas y permitía usuarios para "etiquetar" a las personas por su nombre. Everalbum supuestamente habilitó el reconocimiento facial de forma predeterminada para todos los usuarios de aplicaciones móviles cuando lanzó la función Amigos.
Entre julio de 2018 y abril de 2019, Everalbum supuestamente manifestó que no aplicaría la tecnología de reconocimiento facial al contenido de los usuarios a menos que los usuarios decidieran afirmativamente activar la función. Aunque, a partir de mayo de 2018, la empresa permitió que algunos usuarios de la aplicación Ever (aquellos ubicados en Illinois, Texas, Washington y la Unión Europea) eligieran activar la función de reconocimiento facial, estuvo automáticamente activa para todos los demás usuarios hasta abril de 2019. y no se pudo apagar.
La queja de la FTC alega que la aplicación de reconocimiento facial de Everalbum a las fotos de los usuarios de la aplicación Ever no se limitaba a proporcionar la función Amigos. Entre septiembre de 2017 y agosto de 2019, Everalbum combinó millones de imágenes faciales que extrajo de las fotos de los usuarios de Ever con imágenes faciales que Everalbum obtuvo de conjuntos de datos disponibles públicamente para crear cuatro conjuntos de datos para usar en el desarrollo de su tecnología de reconocimiento facial. La demanda alega que Everalbum usó la tecnología de reconocimiento facial resultante de uno de esos conjuntos de datos para proporcionar la función Amigos de la aplicación Ever y también para desarrollar los servicios de reconocimiento facial vendidos a sus clientes empresariales; sin embargo, la empresa no compartió imágenes de las fotos de los usuarios de Ever ni sus fotos, videos o información personal con esos clientes.
Según la denuncia, Everalbum también prometió a los usuarios que la empresa eliminaría las fotos y videos de los usuarios de Ever que desactivaran sus cuentas. Sin embargo, la FTC alega que, al menos hasta octubre de 2019, Everalbum no eliminó las fotos o los videos de los usuarios que habían desactivado sus cuentas y, en cambio, los retuvo indefinidamente.
El acuerdo propuesto requiere que Everalbum elimine:
- las fotos y videos de los usuarios de la aplicación Ever que desactivaron sus cuentas;
- todas las incrustaciones de rostros (datos que reflejan características faciales que se pueden usar con fines de reconocimiento facial) que la empresa obtuvo de las fotos de los usuarios de Ever que no dieron su consentimiento expreso para su uso; y
- cualquier modelo o algoritmo de reconocimiento facial desarrollado con las fotos o videos de los usuarios de Ever.
Además, el acuerdo propuesto prohíbe que Everalbum tergiverse cómo recopila, usa, divulga, mantiene o elimina información personal, incluidas las incrustaciones faciales creadas con el uso de tecnología de reconocimiento facial, así como la medida en que protege la privacidad y seguridad de la información personal que recopila. Según el acuerdo propuesto, si la empresa comercializa software a los consumidores para uso personal, debe obtener el consentimiento expreso del usuario antes de utilizar la información biométrica que recopiló del usuario a través de ese software para crear incrustaciones faciales o desarrollar tecnología de reconocimiento facial.
La Comisión votó 5-0 para emitir la queja administrativa propuesta y aceptar el acuerdo de consentimiento con la empresa. El comisionado Rohit Chopra emitió una declaración por separado.
La FTC publicará una descripción del paquete de acuerdo de consentimiento en el Registro Federal. El acuerdo estará sujeto a comentarios públicos durante 30 días después de la publicación en el Registro Federal, después de lo cual la Comisión decidirá si hace que la orden de consentimiento propuesta sea definitiva. Las instrucciones para presentar comentarios aparecerán en el aviso publicado. Una vez procesados, los comentarios se publicarán en Regulations.gov.
NOTA: La Comisión emite una queja administrativa cuando tiene “motivos para creer” que se ha violado o se está violando la ley, y le parece a la Comisión que un procedimiento es de interés público. Cuando la Comisión emite una orden de consentimiento de manera definitiva, tiene fuerza de ley con respecto a acciones futuras. Cada violación de dicha orden puede resultar en una sanción civil de hasta $43,280.
La Comisión Federal de Comercio trabaja para promover la competencia y proteger y educar a los consumidores. Puede obtener más información sobre temas de consumo y denunciar estafas, fraudes y malas prácticas comerciales en línea en ReportFraud.ftc.gov.