Incidentes Asociados
Una nueva investigación encuentra que un controvertido conjunto de datos de reconocimiento facial de personas trans permaneció disponible en línea durante años después de la controversia inicial de su existencia, [informa AlgorithmWatch] (https://algorithmwatch.org/en/dataset-face-recognition/). El académico responsable es un asesor del gobierno de los Estados Unidos.
El escrutinio público se remonta a 2017 cuando The Verge investigó el trabajo de Karl Ricanek, profesor de la Universidad de Carolina del Norte en Wilmington, señala AlgorithmWatch. Pero su investigación se remonta aún más atrás, a 2013.
Ricanek construyó un conjunto de datos biométricos de 10,000 imágenes de 38 personas trans, extraídas de sus videos de YouTube que documentan sus terapias hormonales. El conjunto de datos mejoraría la precisión del sistema de reconocimiento facial al poder establecer que un individuo es la misma persona pero después de la terapia hormonal.
En 2017, Ricanek dijo que había tratado de obtener el consentimiento de los publicadores de videos, pero que no había podido llegar a todos y que solo compartía enlaces a los videos, no las imágenes en sí.
Sin embargo, una nueva investigación de Os Keyes y Jeanie Austin, publicada en Big Data & Society, encuentra que no solo el HRT Transgender Dataset aún estaba disponible como una URL de Dropbox hasta abril de 2021, pero que no se trataba simplemente de URL de video, sino que contenía los videos, muchos de los cuales habían sido eliminados de YouTube por los carteles y todos estaban sujetos a derechos de autor.
Keyes y Austin se comunicaron con la junta de revisión institucional de la Universidad de Carolina del Norte en Wilmington sobre el proyecto, solo para descubrir que Ricanek nunca buscó la aprobación ética. El conjunto de datos se compartió con académicos que posteriormente lo compartieron con sus propios estudiantes de doctorado e investigadores, nuevamente sin supervisión.
A principios de esta semana, Ricanek habló sobre la democratización de la tecnología biométrica facial para la comunidad transgénero en FedID, el Federal Identity Forum and Expo, como parte de las Academias Nacionales de Ciencias, Ingeniería y Medicina de EE. UU. [proyecto de recopilación de conocimientos sobre el reconocimiento facial y los datos detrás de él] (https://www.biometricupdate.com/202209/days-of-facial-recognition-discussions-uncover-a -futuro-complicado-para-los-formuladores-de-políticas).
Ricanek dijo que democratizar la tecnología basada en el rostro para la comunidad transgénero será un desafío tanto para los algoritmos como para los legisladores.
Su adquisición de datos parece estar informando su consejo. Dijo que incluso la terapia hormonal puede alterar una cara de manera significativa, ya que los cambios en la densidad de la piel y la estructura vascular pueden ser suficientes para engañar a la IA.