Incidents associés
Une nouvelle étude révèle qu'un ensemble de données controversées sur la reconnaissance faciale des personnes trans est resté disponible en ligne pendant des années après la controverse initiale sur son existence, rapports AlgorithmWatch. Le responsable académique est un conseiller du gouvernement américain.
L'examen public remonte à 2017 lorsque The Verge a enquêté sur le travail de Karl Ricanek, professeur à l'Université de Caroline du Nord à Wilmington, note AlgorithmWatch. Mais ses recherches remontent encore plus loin, à 2013.
Ricanek a construit un ensemble de données biométriques de 10 000 images de 38 personnes trans, extraites de leurs vidéos YouTube documentant leurs thérapies hormonales. L'ensemble de données améliorerait la précision du système de reconnaissance faciale en étant en mesure d'établir qu'un individu est la même personne mais après une hormonothérapie.
En 2017, Ricanek a déclaré qu'il avait tenté d'obtenir le consentement des affiches vidéo, mais qu'il n'avait pas pu tous les atteindre et qu'il ne partageait que des liens vers les vidéos, pas les images elles-mêmes.
Cependant, de nouvelles recherches menées par Os Keyes et Jeanie Austin, publiées dans Big Data & Society, constatent que non seulement l'ensemble de données HRT Transgender était toujours disponible en tant qu'URL Dropbox jusqu'en avril 2021, mais qu'il ne s'agissait pas simplement d'URL vidéo, mais contenait les vidéos, dont beaucoup avaient depuis été supprimées de YouTube par les affiches et qui étaient toutes soumises au droit d'auteur.
Keyes et Austin ont contacté le comité d'examen institutionnel de l'Université de Caroline du Nord à Wilmington à propos du projet, pour découvrir que Ricanek n'a jamais demandé l'approbation éthique. L'ensemble de données a été partagé avec des universitaires qui l'ont ensuite partagé avec leurs propres doctorants et chercheurs, encore une fois sans surveillance.
Plus tôt cette semaine, Ricanek a parlé de la démocratisation de la technologie biométrique faciale pour la communauté transgenre, à FedID, le Federal Identity Forum and Expo, dans le cadre de les Académies nationales des sciences, de l'ingénierie et de la médecine des États-Unis [projet de collecte de connaissances sur la reconnaissance faciale et les données sous-jacentes] (https://www.biometricupdate.com/202209/days-of-facial-recognition-discussions-uncover-a -futur-difficile-pour-les-décideurs).
Ricanek a déclaré que la démocratisation de la technologie basée sur le visage pour la communauté transgenre sera un défi pour les algorithmes ainsi que pour les décideurs.
Son acquisition de données semble éclairer ses conseils. Il a déclaré que même l'hormonothérapie peut altérer un visage de manière significative, car des changements dans la densité de la peau et la structure vasculaire peuvent suffire à tromper l'IA.