Incidents associés
La reconnaissance faciale de Clearview AI ne soulève pas seulement des problèmes de confidentialité -- il y a s'inquiète également de ses allégations d'exactitude. L'ACLU a rejeté l'affirmation de Clearview selon laquelle sa technologie est "précise à 100 %" sur la base des méthodologie de Liberty Group pour les tests Amazon's Rekognition, indiquant à BuzzFeed News que le les conclusions sont "absurdes à plusieurs niveaux" et équivalaient à des "approbations de fabrication". Selon l'ACLU, il existe des différences clés qui rendent le discours de vente de Clearview trompeur.
D'une part, Clearview recherchait près de 3 milliards de photos publiques qui incluaient les politiciens dont les visages faisaient partie du test, pas des photos d'arrêt comme l'ACLU a utilisé. Cela ne tenait pas compte de ce qui se passerait si quelqu'un n'était pas dans la base de données. Cela générerait-il des faux positifs, et y aurait-il un biais dans ces faux résultats ? En plus de cela, Clearview avait le luxe des photos claires, parfois formelles, qui apparaissent souvent en ligne. Son outil est censé être utilisé dans le monde réel, où l'éclairage et la qualité de l'image sont souvent sous-optimaux - il n'est pas certain que la reconnaissance faciale se comporte bien avec les images granuleuses des caméras de sécurité.
Liz O'Sullivan du Surveillance Technology Oversight Project a également douté de l'insistance de Clearview sur le fait que l'exactitude s'appliquait à "tous les groupes démographiques", notant que 834 politiciens ne seraient pas représentatifs de toutes les ethnies. De plus, de nombreuses personnes du panel d'étude indépendant ne maîtrisaient pas directement la reconnaissance faciale, même si l'une d'entre elles était l'ancienne responsable de la recherche nord-américaine sur l'IA de Samsung.
Sans surprise, le chef de Clearview, Hoan Ton-That, a soutenu que les résultats étaient acceptables. Il a insisté sur le fait que Clearview utilisait les mêmes méthodes de l'ACLU et qu'il y avait un "niveau de difficulté plus élevé" car il utilisait des visages de politiciens de Californie et du Texas. Il a également fait valoir que le test avait examiné "tous les groupes démographiques". Cependant, Ton-That n'a pas vraiment répondu aux critiques de l'ACLU et Clearview a finalement répondu à une plainte de l'ACLU en supprimant le nom du groupe du site. La précision de l'entreprise n'a donc pas été revérifiée, et c'est préoccupant lorsque la police des États-Unis s'appuie sur la technologie pour identifier les suspects.