Les pouvoirs en place à l'UCLA pensaient que c'était une bonne idée à l'époque - utiliser une technologie de pointe pour scanner les visages des étudiants afin d'accéder aux bâtiments du campus. Les élèves pensaient autrement.
"La mise en œuvre de la technologie de reconnaissance faciale constituerait une violation majeure de la vie privée des étudiants et ferait en sorte que les étudiants ne se sentent pas en sécurité sur un campus qu'ils sont censés appeler chez eux", a déclaré le Daily Bruin dans un éditorial l'année dernière.
UCLA a abandonné le plan de reconnaissance faciale quelques semaines plus tard. "Nous avons déterminé que les avantages potentiels sont limités et largement compensés par les préoccupations de notre communauté universitaire", ont déclaré les responsables.
J'ai rappelé ce fracas après que la Federal Trade Commission a annoncé l'autre jour qu'elle était parvenue à un accord avec une société de San Francisco appelée Everalbum, qui proposait le stockage en ligne de photos et de vidéos.
La société, via son application Ever, a numérisé des millions d'images faciales à l'insu des clients et a utilisé les données pour développer un logiciel de reconnaissance faciale pour les entreprises clientes, a déclaré la FTC.
Everalbum a également promis aux utilisateurs qu'il supprimerait leurs photos et vidéos de ses serveurs cloud s'ils fermaient leur compte. Cependant, la société "les a conservés indéfiniment", a indiqué l'agence.
"En utilisant la reconnaissance faciale, les entreprises peuvent transformer les photos de vos proches en données biométriques sensibles", a déclaré Andrew Smith, directeur du Bureau de la protection des consommateurs de la FTC.
"S'assurer que les entreprises tiennent leurs promesses envers leurs clients sur la manière dont elles utilisent et gèrent les données biométriques restera une priorité élevée pour la FTC", a-t-il déclaré.
Quoi qu'il en soit, il y a beaucoup d'argent à gagner avec une telle technologie de pointe. Les experts me disent que les consommateurs doivent être vigilants quant aux violations de la vie privée, car certains des plus grands noms du monde de la technologie, notamment Google, Amazon, Facebook et Apple, poursuivent des avancées dans le domaine.
"Puisqu'il n'y a pas de lois fédérales sur la reconnaissance faciale, il semble assez probable que d'autres entreprises utilisent cette technologie invasive à l'insu ou sans le consentement des utilisateurs", a déclaré Caitlin Seeley George, directrice de campagne du groupe de défense des droits numériques Fight for the Future.
Elle a qualifié les pratiques présumées d'Everalbum de "encore un autre exemple de la façon dont les entreprises abusent de la reconnaissance faciale, ce qui nuit autant à la vie privée des personnes que le gouvernement et les forces de l'ordre".
La technologie de reconnaissance faciale a occupé le devant de la scène après l'émeute du 6 janvier au Capitole. Les forces de l'ordre du pays utilisent des systèmes de reconnaissance faciale pour identifier les participants à partir de photos et de vidéos publiées par les émeutiers.
C'est effrayant, bien sûr, mais cela me semble être une utilisation légitime d'une telle technologie. Chaque émeutier dans le bâtiment enfreignait la loi – et beaucoup s'en vantaient bêtement sur les réseaux sociaux. Ces gens méritent leur récompense.
En l'absence de règles claires, cependant, certains des gros chiens du monde de la technologie ont adopté des approches lentes de la reconnaissance faciale, du moins en ce qui concerne l'application de la loi.
Microsoft a déclaré l'année dernière qu'il ne vendrait pas son logiciel de reconnaissance faciale aux services de police tant que le gouvernement fédéral ne réglementerait pas ces systèmes. Amazon a annoncé un moratoire d'un an sur l'autorisation des forces de police à utiliser sa technologie de reconnaissance faciale.
Mais l'application de la loi n'est qu'une partie de l'équation. Il y a aussi la tendance croissante des entreprises à utiliser la reconnaissance faciale pour identifier les consommateurs.
"Les consommateurs doivent savoir que si la technologie de reconnaissance faciale semble bénigne, elle normalise lentement la surveillance et érode notre vie privée", a déclaré Shobita Parthasarathy, professeur de politique publique à l'Université du Michigan.
Parmi les problèmes potentiels, des chercheurs du MIT et de l'Université de Toronto ont découvert que la reconnaissance faciale d'Amazon tend à mal identifier les femmes à la peau plus foncée, illustrant un préjugé racial et sexiste troublant.
Ensuite, il y a la question de savoir si les gens sont identifiés et triés par les entreprises sans leur permission.
Facebook a accepté de payer 550 millions de dollars l'année dernière pour régler un recours collectif alléguant que la société avait violé une loi sur la confidentialité de l'Illinois avec ses activités de reconnaissance faciale.
L'affaire Everalbum illustre comment la reconnaissance faciale se répand comme l'herbe à puce dans le monde des affaires, avec au moins certaines entreprises exploitant discrètement la technologie à des fins douteuses.
"Entre septembre 2017 et août 2019, Everalbum a combiné des millions d'images faciales qu'il a extraites des photos des utilisateurs d'Ever avec des images faciales qu'Everalbum a obtenues à partir d'ensembles de données accessibles au public", a déclaré la FTC dans sa plainte.
Ce vaste magasin d'images a ensuite été utilisé par la société pour développer de vastes capacités de reconnaissance faciale qui pourraient être vendues à d'autres sociétés, a-t-il déclaré.
Everalbum a fermé son application Ever en août dernier et a rebaptisé la société Paravision AI. Le site Web de la société indique qu'elle continue de vendre "une large gamme d'applications de reconnaissance faciale".
Paravision "n'a pas l'intention de gérer une entreprise de consommation à l'avenir", m'a dit un porte-parole de l'entreprise, demandant que son nom ne soit pas divulgué même s'il est, vous savez, un porte-parole.
Il a déclaré que la technologie de reconnaissance faciale actuelle de Paravision "n'utilise aucune donnée d'utilisateur d'Ever".
Emily Hand, professeur d'informatique et d'ingénierie à l'Université du Nevada, Reno, a déclaré que les données de reconnaissance faciale "sont une ressource très recherchée" pour de nombreuses entreprises. C'est une façon de plus de savoir qui vous êtes et comment vous vous comportez.
Hand a déclaré que "pour chaque entreprise qui a des problèmes, il y en a 10 ou plus qui ne se sont pas fait prendre".
Seeley George de Fight for the Future a déclaré: "Le Congrès doit agir maintenant pour interdire la reconnaissance faciale et doit absolument rester à l'écart des réglementations favorables à l'industrie qui pourraient accélérer l'adoption de la technologie et la rendre encore plus omniprésente."
Elle n'est pas seule dans ce sentiment. Amnesty International a également appelé cette semaine à une interdiction mondiale des systèmes de reconnaissance faciale.
Je doute que cela se produise. Avec les plus grands noms de la Silicon Valley fortement investis dans cette technologie, cela ne va pas disparaître. Ce qu'il faut, ce sont des règles claires sur la manière dont ces données peuvent être collectées et utilisées, en particulier par le secteur privé.
Toute entreprise utilisant la technologie de reconnaissance faciale doit divulguer clairement ses pratiques et donner aux consommateurs la possibilité de se retirer facilement. Mieux encore, les entreprises devraient avoir à demander notre permission avant de scanner et de stocker nos visages.
"La technologie de reconnaissance faciale d'aujourd'hui est fondamentalement défectueuse et renforce les préjugés néfastes", a déclaré Rohit Chopra, alors commissaire de la FTC, après l'annonce du règlement Everalbum.
"Avec le tsunami de données collectées sur les individus, nous avons besoin de tout le monde sur le pont pour contrôler ces entreprises", a-t-il déclaré.
Chopra a depuis été nommé par le président Biden au poste de directeur du Consumer Financial Protection Bureau.
Nous pouvons tous reconnaître qu'il s'agit d'une étape positive.