Le développeur de reconnaissance faciale Paravision AI a reçu l'ordre de supprimer des masses de données utilisateur qu'il détenait et utilisait illégalement pour créer des applications de reconnaissance faciale à partir des images stockées sur son ancien service de stockage en nuage Ever. La Federal Trade Commission (FTC) des États-Unis a constaté que la société avait utilisé des images téléchargées sur son service sans autorisation et qu'elle avait vendu les algorithmes de reconnaissance faciale créés à des sociétés et organisations tierces, y compris des organismes chargés de l'application de la loi.
Créée à l'origine comme un service de stockage en nuage gratuit pour les consommateurs, la société qui dirigeait Ever a rapidement découvert qu'elle ne pouvait pas gagner autant d'argent que prévu, alors elle a commencé à récolter des données à partir des images que ses utilisateurs ont téléchargées pour développer un logiciel de reconnaissance faciale. Il a introduit un service appelé "Friends" qu'il a commercialisé comme permettant aux utilisateurs de taguer facilement leurs amis et qui pouvait filtrer les images en fonction de qui s'y trouvait. Ce service était actif par défaut, seuls ceux de l'Illinois, du Texas, de Washington et de l'Union européenne - des lieux dotés de lois sur les données personnelles et la reconnaissance faciale - ayant la possibilité de décider si le logiciel de reconnaissance serait activé ou désactivé.
La FTC a également constaté qu'Ever n'avait pas supprimé les images des comptes fermés, comme il était tenu de le faire selon ses propres conditions, et que même lorsque le service a fermé, il a conservé toutes les images des clients et a continué à les utiliser pour développer son logiciel. .
La décision de la commission ordonne à Paravision AI, le nouveau nom de la société, de supprimer toutes les images des utilisateurs, toutes les données qu'elle détient sur ces utilisateurs ainsi que les algorithmes qu'il a produits illégalement en utilisant ces images. Remarquablement, la commission n'a pas infligé d'amende à l'entreprise ni puni ses propriétaires. Le commissaire Rohit Chopra de la FTC a déclaré dans une déclaration qu'il craignait qu'autre que la commande de ses algorithmes ait supprimé la commission n'est pas en mesure d'imposer aucune sanction à Paravision pour ses activités illégales.
Depuis que la décision Paravision a annoncé, elle a à la fois nommé un conseiller en chef pour l'éthique de l'IA et [publié](https: //www.paravision.ai/ai-principles/) un ensemble de principes d'IA "pour guider le développement éthique et l'utilisation appropriée de la reconnaissance faciale et des technologies associées".
** Un développeur californien d'une application photo a réglé les allégations de la Federal Trade Commission selon lesquelles il aurait trompé les consommateurs sur son utilisation de la technologie de reconnaissance faciale et sa conservation des photos et vidéos des utilisateurs qui ont désactivé leurs comptes. **
Dans le cadre du règlement proposé, Everalbum, Inc. doit obtenir le consentement exprès des consommateurs avant d'utiliser la technologie de reconnaissance faciale sur leurs photos et vidéos. L'ordonnance proposée oblige également l'entreprise à supprimer les modèles et algorithmes qu'elle a développés en utilisant les photos et vidéos téléchargées par ses utilisateurs.
"En utilisant la reconnaissance faciale, les entreprises peuvent transformer les photos de vos proches en données biométriques sensibles", a déclaré Andrew Smith, directeur du Bureau de la protection des consommateurs de la FTC. "S'assurer que les entreprises tiennent leurs promesses envers leurs clients sur la façon dont elles utilisent et gèrent les données biométriques continuera d'être une priorité pour la FTC."
Everalbum a proposé une application appelée "Ever" qui permettait aux utilisateurs de télécharger des photos et des vidéos à partir de leurs appareils mobiles, ordinateurs ou comptes de réseaux sociaux pour les stocker et les organiser à l'aide du service de stockage basé sur le cloud de l'entreprise. Dans sa plainte, la FTC allègue qu'en février 2017, Everalbum a lancé une nouvelle fonctionnalité dans l'application Ever, appelée "Friends", qui utilisait la technologie de reconnaissance faciale pour regrouper les photos des utilisateurs en fonction des visages des personnes qui y figuraient et permettait aux utilisateurs de « taguer » les personnes par leur nom. Everalbum aurait activé la reconnaissance faciale par défaut pour tous les utilisateurs d'applications mobiles lors du lancement de la fonction Amis.
Entre juillet 2018 et avril 2019, Everalbum aurait déclaré qu'il n'appliquerait pas la technologie de reconnaissance faciale au contenu des utilisateurs à moins que les utilisateurs ne choisissent affirmativement d'activer la fonctionnalité. Bien qu'à partir de mai 2018, la société ait autorisé certains utilisateurs de l'application Ever (ceux situés dans l'Illinois, le Texas, Washington et l'Union européenne) à choisir d'activer ou non la fonction de reconnaissance faciale, celle-ci était automatiquement active pour tous les autres utilisateurs jusqu'en avril 2019. et n'a pas pu être désactivé.
La plainte de la FTC allègue que l'application de la reconnaissance faciale par Everalbum aux photos des utilisateurs de l'application Ever ne se limitait pas à fournir la fonctionnalité Amis. Entre septembre 2017 et août 2019, Everalbum a combiné des millions d'images faciales qu'il a extraites des photos des utilisateurs d'Ever avec des images faciales qu'Everalbum a obtenues à partir d'ensembles de données accessibles au public pour créer quatre ensembles de données à utiliser dans le développement de sa technologie de reconnaissance faciale. La plainte allègue qu'Everalbum a utilisé la technologie de reconnaissance faciale issue de l'un de ces ensembles de données pour fournir la fonctionnalité Amis de l'application Ever et également pour développer les services de reconnaissance faciale vendus à ses entreprises clientes ; cependant, la société n'a pas partagé les images des photos des utilisateurs d'Ever ni leurs photos, vidéos ou informations personnelles avec ces clients.
Selon la plainte, Everalbum a également promis aux utilisateurs que la société supprimerait les photos et vidéos des utilisateurs d'Ever ayant désactivé leurs comptes. La FTC allègue, cependant, que jusqu'en octobre 2019 au moins, Everalbum n'a pas supprimé les photos ou vidéos des utilisateurs qui avaient désactivé leurs comptes et les a plutôt conservés indéfiniment.
Le règlement proposé oblige Everalbum à supprimer :
- les photos et vidéos des utilisateurs de l'application Ever qui ont désactivé leur compte ;
- tous les embeddings de visage - données reflétant les traits du visage pouvant être utilisés à des fins de reconnaissance faciale - la société a dérivé des photos des utilisateurs d'Ever qui n'ont pas donné leur consentement exprès à leur utilisation ; et
- tous les modèles ou algorithmes de reconnaissance faciale développés avec les photos ou vidéos des utilisateurs d'Ever.
En outre, le règlement proposé interdit à Everalbum de déformer la manière dont il collecte, utilise, divulgue, conserve ou supprime les informations personnelles, y compris les intégrations de visage créées à l'aide de la technologie de reconnaissance faciale, ainsi que la mesure dans laquelle il protège la vie privée et sécurité des renseignements personnels qu'il recueille. En vertu du règlement proposé, si l'entreprise commercialise un logiciel auprès des consommateurs pour un usage personnel, elle doit obtenir le consentement exprès de l'utilisateur avant d'utiliser les informations biométriques qu'elle a recueillies auprès de l'utilisateur via ce logiciel pour créer des intégrations de visage ou développer une technologie de reconnaissance faciale.
La Commission a voté 5 contre 0 pour émettre la plainte administrative proposée et accepter l'accord de consentement avec l'entreprise. Le commissaire Rohit Chopra a publié une déclaration distincte.
La FTC publiera une description de l'ensemble d'accords de consentement dans le Federal Register. L'accord sera soumis aux commentaires du public pendant 30 jours après sa publication dans le Federal Register, après quoi la Commission décidera de rendre l'ordonnance de consentement proposée définitive. Les instructions pour déposer des commentaires figureront dans l'avis publié. Une fois traités, les commentaires seront publiés sur Regulations.gov.
REMARQUE : La Commission dépose une plainte administrative lorsqu'elle a « des raisons de croire » que la loi a été ou est en train d'être violée et qu'il lui semble qu'une procédure est dans l'intérêt public. Lorsque la Commission rend une ordonnance sur consentement de manière définitive, elle a force de loi à l'égard des actions futures. Chaque violation d'une telle ordonnance peut entraîner une sanction civile pouvant aller jusqu'à 43 280 $.
La Federal Trade Commission travaille à promouvoir la concurrence et à protéger et éduquer les consommateurs. Vous pouvez en savoir plus sur les sujets liés aux consommateurs et signaler les escroqueries, les fraudes et les mauvaises pratiques commerciales en ligne sur ReportFraud.ftc.gov.