Le business de la reconnaissance faciale a martelé après avoir récolté les photos et vidéos des gens sans autorisation.
Une entreprise de reconnaissance faciale basée en Californie a été chargée par la Federal Trade Commission des États-Unis de supprimer les modèles et les algorithmes d'IA qu'elle a développés en récoltant les photos et les vidéos des gens sans autorisation, un remède qui suggère que les contrevenants à la vie privée ne peuvent plus être autorisés à bénéficier de la maladie. -données obtenues.
Everalbum, un fabricant d'applications photo grand public qui a fermé ses portes le 31 août 2020 et a depuis été relancé en tant que fournisseur de reconnaissance faciale sous le nom de Paravision, a conclu lundi un accord avec la FTC concernant l'introduction en 2017 d'une fonctionnalité appelée "Friends" dans son application Ever abandonnée. L'agence de surveillance affirme que l'application a déployé un code de reconnaissance faciale pour organiser les photos des utilisateurs par défaut, sans autorisation.
Selon la FTC, entre juillet 2018 et avril 2019, Everalbum a déclaré aux gens qu'il n'utiliserait pas la reconnaissance faciale sur le contenu des utilisateurs sans leur consentement. La société aurait laissé les utilisateurs de certaines régions – Illinois, Texas, Washington et l'UE – faire ce choix, mais aurait automatiquement activé la fonctionnalité pour ceux situés ailleurs.
L'agence affirme en outre que l'utilisation de la reconnaissance faciale par Everalbum est allée au-delà de la prise en charge de la fonctionnalité Friends. La société aurait combiné les visages des utilisateurs avec des images faciales provenant d'autres informations pour créer quatre ensembles de données qui ont informé sa technologie de reconnaissance faciale, qui est devenue la base d'un service de détection de visage pour les entreprises clientes.
La société aurait également dit aux consommateurs utilisant son application qu'elle supprimerait leurs données s'ils désactivaient leurs comptes, mais ne l'a fait qu'en octobre 2019 au moins.
La FTC, en annonçant l'affaire et son règlement, a déclaré qu'Everalbum/Paravision sera tenu de supprimer : les photos et vidéos appartenant aux utilisateurs de l'application Ever qui ont désactivé leurs comptes ; tous les embeddings de visage - représentations vectorielles des traits du visage - d'utilisateurs qui n'ont pas donné leur consentement ; et "tous les modèles ou algorithmes de reconnaissance faciale développés avec les photos ou vidéos des utilisateurs d'Ever".
La FTC ne l'a pas fait dans le passé avec des entreprises technologiques. Selon le commissaire de la FTC, Rohit Chopra, lorsque Google et YouTube ont accepté de payer 170 millions de dollars pour des allégations selon lesquelles les entreprises auraient collecté des données d'enfants sans le consentement parental, le règlement de la FTC "a permis à Google et YouTube de tirer profit de sa conduite, même après avoir payé une amende civile". "
De même, lorsque la FTC a voté pour approuver un règlement avec Facebook concernant des allégations selon lesquelles il avait violé son accord de règlement sur la confidentialité de 2012, a-t-il déclaré, Facebook n'a pas eu à renoncer à sa technologie ou à ses données de reconnaissance faciale.
"Les commissaires ont déjà voté pour permettre aux contrevenants à la loi sur la protection des données de conserver des algorithmes et des technologies qui tirent une grande partie de leur valeur de données mal acquises", a déclaré Chopra dans un communiqué [PDF]. "C'est une correction de cap importante."
En réponse à une demande de The Register, un porte-parole de la FTC a déclaré que, bien que l'agence ait précédemment émis des ordonnances obligeant les entreprises à supprimer des données, "il s'agit du premier cas de la FTC qui se concentre exclusivement sur la technologie de reconnaissance faciale, et les exigences particulières de suppression des données sont adaptées aux allégations factuelles de l'affaire."
Dans un entretien téléphonique avec The Register, Adam Schwartz, avocat principal de l'Electronic Frontier Foundation, a déclaré que l'EFF était généralement favorable à ce recours de la FTC.
"Nous pensons que ce que l'entreprise a fait ici était très mauvais", a-t-il déclaré. "Ils ont dit aux consommateurs qu'ils feraient une chose avec leur photographie et se sont retournés et l'ont utilisé pour une technologie de surveillance faciale", a-t-il déclaré.
"Une partie de la façon dont la FTC devrait résoudre ces problèmes consiste à obliger l'entreprise fautive à restituer tous les avantages qu'elle a obtenus. S'ils construisent illégalement un algorithme de reconnaissance faciale, le remède consiste à supprimer le système."
Un porte-parole de Paravision AI a déclaré à The Register dans un e-mail que l'ordonnance de consentement de la FTC reflétait les changements déjà mis en œuvre par la société.
"Le service Ever a été fermé en août 2020 et la société n'a pas l'intention de gérer une entreprise de consommation à l'avenir", a déclaré le porte-parole. "En septembre 2020, Paravision a publié son modèle de reconnaissance faciale de dernière génération qui n'utilise aucune donnée des utilisateurs d'Ever. L'ordonnance de consentement reflète le cap que nous avions déjà défini et renforce un ton conscient alors que nous regardons vers l'avenir, et nous allons bien sûr pleinement s'y conformer."