Incidents associés
"Plutôt que de rechercher des législateurs dans une base de données de photos d'arrestations, Clearview a apparemment fouillé sa propre base de données de photos assemblées de manière confuse", a déclaré Snow. « Clearview prétend[ed] que des images des législateurs étaient présentes dans l'énorme référentiel de scans de visage de l'entreprise. Mais que se passe-t-il lorsque la police recherche une personne dont la photo ne figure pas dans la base de données ? À quelle fréquence le système renverra-t-il une fausse correspondance ? Les taux d'erreur sont-ils pires pour les personnes de couleur ? »
Il est également atypique pour un officier enquêtant sur une affaire d'avoir une photo claire d'un suspect, comme celles que Clearview a vraisemblablement utilisées comme données d'entrée pour les législateurs. L'outil de Clearview est destiné à être utilisé dans des situations réelles, où la qualité de la photo, l'éclairage et d'autres facteurs peuvent fausser le processus et doivent être testés en tant que tels, a déclaré Snow.
"Si Clearview est si confiant dans sa technologie, il devrait soumettre son produit à des tests indépendants rigoureux dans des conditions réelles", a-t-il déclaré. "Et cela devrait donner au public le droit de décider si le gouvernement est autorisé à utiliser son produit."
Ton-That a déclaré que le test du panel indépendant était déjà diligent et approfondi. "Le test Clearview a exécuté les mêmes photos que l'ACLU, mais par rapport à une base de données plus de 100 000 fois plus grande", a-t-il déclaré, notant qu'en plus de rechercher 535 dirigeants du Congrès américain, la technologie de son entreprise a été testée sur des législateurs d'État du Texas. et la Californie. "Avec ce niveau de difficulté plus élevé, Clearview a obtenu un score de 100 % en suivant la norme ACLU."
Les chercheurs en reconnaissance faciale ont exprimé de sérieux doutes sur le rapport de Clearview. Bien que l'étude de l'ACLU ait été efficace pour démontrer les lacunes d'un logiciel de reconnaissance faciale, ce n'est en aucun cas une méthodologie suffisante pour évaluer définitivement la précision d'un outil commercial comme Clearview AI, Liz O'Sullivan, directrice de la technologie au Surveillance Technology Oversight Project, a déclaré à BuzzFeed News. O’Sullivan a également remis en question l’affirmation du panel selon laquelle la technologie de Clearview est exacte pour « tous les groupes démographiques », étant donné que le groupe de test de l’étude composé de 834 législateurs d’État et fédéraux n’est pas représentatif de toutes les personnes ou de toutes les ethnies.
Le PDG de Clearview, Ton-That, n'était pas d'accord avec cette évaluation. "Les rigueurs du test ont couvert tous les groupes démographiques représentés dans la population générale et ont montré la précision de Clearview lors de la recherche de milliards de photos", a-t-il déclaré.
Le chercheur en reconnaissance faciale et en confidentialité Adam Harvey a déclaré à BuzzFeed News qu'il est impossible d'évaluer l'exactitude de l'étude Clearview sans plus d'informations sur la manière dont elle a été menée. "Ce document ne fournit pas suffisamment d'informations pour valider leur demande", a-t-il déclaré. "Il semble que personne dans le panel n'ait d'expérience préalable avec la reconnaissance faciale."
Le rapport de Clearview a été signé par un panel de trois personnes, dont Jonathan Lippman, juge en chef de la Cour d'appel de New York de 2009 à 2015 ; le Dr Nicholas Cassimatis, universitaire et entrepreneur en intelligence artificielle ; et Aaron Renn, analyste urbain et ancien chercheur principal au Manhattan Institute, un groupe de réflexion conservateur. Le panel a déterminé si les deux correspondances les mieux classées des résultats de la recherche Clearview montraient la même personne dans la recherche d'origine.
"En octobre 2019, le panel soussigné a effectué un test de précision indépendant de Clearview AI, une nouvelle technologie de correspondance d'images qui fonctionne comme un moteur de recherche Internet pour les visages", indique le rapport.
Aucun des panélistes ne semble avoir d'expertise en reconnaissance faciale. Lippman a déclaré à BuzzFeed News qu'il "a été présenté à Clearview par Richard Schwartz", l'un des cofondateurs de la société qu'il connaît depuis l'époque de Schwartz en tant que rédacteur en chef de la page éditoriale du New York Daily News. Il a dit qu'il n'était pas payé pour son travail sur l'étude.
"Je suppose que j'ai été approché en raison de mon expérience en tant que juge au sein du gouvernement et de la justice pénale, et dans l'examen et la pesée des preuves empiriques", a déclaré Lippman.
Cassimatis a déclaré à BuzzFeed News qu'il avait travaillé dans l'intelligence artificielle pendant 20 ans et a souligné son travail en tant que professeur au Rensselaer Polytechnic Institute et en tant qu'ancien "responsable de la recherche nord-américaine sur l'IA chez Samsung". Il a dit avoir rencontré Ton-That par l'intermédiaire d'un ami commun et avoir été sélectionné "pour mon expertise dans ce domaine". Cassimatis a déclaré qu'il n'était pas payé pour travailler sur l'étude.
Renn n'a pas répondu à une demande de commentaire. Auparavant, Ton-That a déclaré que lui et Schwartz s'étaient rencontrés lors d'un événement au Manhattan Institute, où Renn a été chercheur principal jusqu'à l'année dernière.
L'étude "ACLU" de Clearview n'est pas la première fois que l'entreprise vante la précision de sa technologie sans trop de documents à l'appui ou d'examen par les pairs. L'été dernier, la société a déclaré au département de police d'Atlanta dans des documents marketing que [sa technologie était précise à 98,6 %] (https://www.buzzfeednews.com/article/ryanmac/clearview-ai-nypd-facial-recognition) lors d'un test de 1 million de visages – un taux de précision supérieur à celui des outils créés par Google et le géant chinois de la technologie Tencent. Cependant, cette affirmation, qui a été faite à l'aide de la référence de reconnaissance faciale MegaFace de l'Université de Washington, n'a jamais été vérifiée de manière indépendante par l'université ou un tiers, a déclaré la société plus tard à BuzzFeed News. Clearview a refusé une demande de mise à disposition des résultats de ce test pour examen.
Depuis octobre, cependant, la société semble s'être éloignée de la commercialisation du numéro MegaFace et est allée de l'avant avec la cote de précision de 100% du test basé sur l'ACLU effectué par son panel de trois personnes. Après la publication des premiers reportages sur la société le mois dernier, la société a ajouté une nouvelle section à son site Web autrefois clairsemée appelée "Clearview Facts", où elle a déclaré qu '"un panel d'experts indépendants a évalué Clearview à 100% précis dans tous les groupes démographiques selon à la méthodologie de précision de la reconnaissance faciale de l'ACLU.
Cela n'a pas plu à l'ACLU, qui a finalement déposé une plainte. Le 28 janvier, Clearview a retiré le nom du groupe de défense des droits civiques de son site, bien qu'il prétende toujours qu '«un groupe d'experts indépendants a examiné et certifié Clearview pour son exactitude et sa fiabilité».
Cela peut ne pas être suffisant pour l'ACLU et Snow, qui ont déclaré que toute preuve d'exactitude était "hors de propos".
"La technologie de Clearview donne au gouvernement le pouvoir sans précédent de nous espionner où que nous allions - en traquant nos visages lors des manifestations, des réunions des [Alcooliques anonymes], de l'église, et plus encore", a-t-il déclaré. « Précise ou non, la technologie de Clearview entre les mains des forces de l'ordre mettra fin à la vie privée telle que nous la connaissons.