Incidentes Asociados
Los poderes fácticos de UCLA pensaron que era una buena idea en ese momento: usar tecnología de punta para escanear las caras de los estudiantes para obtener acceso a los edificios del campus. Los estudiantes pensaron lo contrario.
“La implementación de la tecnología de reconocimiento facial presentaría una violación importante de la privacidad de los estudiantes y haría que los estudiantes se sintieran inseguros en un campus al que se supone que deben llamar hogar”, dijo el Daily Bruin en un editorial el año pasado.
UCLA abandonó el plan de reconocimiento facial unas semanas después. “Hemos determinado que los beneficios potenciales son limitados y son ampliamente superados por las preocupaciones de la comunidad de nuestro campus”, declararon los funcionarios.
Recordé esa pelea después de que la Comisión Federal de Comercio anunciara el otro día que había llegado a un acuerdo con una empresa de San Francisco llamada Everalbum, que ofrecía almacenamiento en línea de fotos y videos.
La empresa, a través de su aplicación Ever, escaneó millones de imágenes faciales sin el conocimiento de los clientes y usó los datos para desarrollar un software de reconocimiento facial para clientes corporativos, dijo la FTC.
Everalbum también prometió a los usuarios que eliminaría sus fotos y videos de sus servidores en la nube si cerraban su cuenta. Sin embargo, la compañía “los retuvo indefinidamente”, dijo la agencia.
“Usando el reconocimiento facial, las empresas pueden convertir fotos de sus seres queridos en datos biométricos confidenciales”, dijo Andrew Smith, director de la Oficina de Protección al Consumidor de la FTC.
“Garantizar que las empresas cumplan sus promesas a los clientes sobre cómo usan y manejan los datos biométricos seguirá siendo una alta prioridad para la FTC”, dijo.
Sea como fuere, se puede ganar mucho dinero con una tecnología tan avanzada. Los expertos me dicen que los consumidores deben estar atentos a las violaciones de la privacidad, ya que algunos de los nombres más importantes en el mundo de la tecnología, incluidos Google, Amazon, Facebook y Apple, buscan avances en el campo.
“Dado que no existen leyes federales sobre el reconocimiento facial, parece bastante probable que haya otras empresas que utilicen esta tecnología invasiva sin el conocimiento o consentimiento de los usuarios”, dijo Caitlin Seeley George, directora de campaña del grupo de derechos digitales Fight for the Future.
Llamó a las supuestas prácticas de Everalbum “otro ejemplo más de cómo las corporaciones están abusando del reconocimiento facial, lo que representa tanto daño para la privacidad de las personas como el uso del gobierno y las fuerzas del orden”.
La tecnología de reconocimiento facial ocupó un lugar central después de los disturbios del 6 de enero en el Capitolio. Los organismos encargados de hacer cumplir la ley en todo el país han estado utilizando sistemas de reconocimiento facial para identificar a los participantes a partir de fotos y videos publicados por los alborotadores.
Eso es espeluznante, sin duda, pero me parece un uso legítimo de dicha tecnología. Todos los alborotadores en el edificio estaban infringiendo la ley, y muchos alardeaban tontamente de ello en las redes sociales. Estas personas merecen su merecido.
Sin embargo, en ausencia de reglas claras, algunos de los perros grandes en el mundo de la tecnología han adoptado enfoques lentos para el reconocimiento facial, al menos en lo que respecta a la aplicación de la ley.
Microsoft dijo el año pasado que no vendería su software de reconocimiento facial a los departamentos de policía hasta que el gobierno federal regule dichos sistemas. Amazon anunció una moratoria de un año para permitir que las fuerzas policiales usen su tecnología de reconocimiento facial.
Pero la aplicación de la ley es solo una parte de la ecuación. También existe la tendencia creciente de las empresas que utilizan el reconocimiento facial para identificar a los consumidores.
“Los consumidores deben saber que, si bien la tecnología de reconocimiento facial parece benigna, está normalizando lentamente la vigilancia y erosionando nuestra privacidad”, dijo Shobita Parthasarathy, profesora de política pública en la Universidad de Michigan.
No menos importante entre los posibles problemas, los investigadores del MIT y la Universidad de Toronto descubrieron que el reconocimiento facial de Amazon tiende a identificar erróneamente a las mujeres con piel más oscura, lo que ilustra un preocupante sesgo racial y de género.
Luego está la cuestión de si las empresas identifican y clasifican a las personas sin su permiso.
Facebook acordó pagar $ 550 millones el año pasado para resolver una demanda colectiva que alega que la compañía violó una ley de privacidad de Illinois con sus actividades de reconocimiento facial.
El caso de Everalbum ilustra cómo el reconocimiento facial se está extendiendo como la hiedra venenosa en el mundo de los negocios, con al menos algunas empresas explotando silenciosamente la tecnología con fines cuestionables.
“Entre septiembre de 2017 y agosto de 2019, Everalbum combinó millones de imágenes faciales que extrajo de las fotos de los usuarios de Ever con imágenes faciales que Everalbum obtuvo de conjuntos de datos disponibles públicamente”, dijo la FTC en su denuncia.
Luego, la compañía usó este vasto almacén de imágenes para desarrollar amplias capacidades de reconocimiento facial que podrían venderse a otras compañías, dijo.
Everalbum cerró su aplicación Ever en agosto pasado y cambió el nombre de la compañía a Paravision AI. El sitio web de la compañía dice que continúa vendiendo "una amplia gama de aplicaciones de reconocimiento facial".
Paravision "no tiene planes de dirigir un negocio de consumo en el futuro", me dijo un portavoz de la compañía, y pidió que no se revelara su nombre a pesar de que él es, ya sabes, un portavoz.
Dijo que la tecnología actual de reconocimiento facial de Paravision “no utiliza los datos de ningún usuario de Ever”.
Emily Hand, profesora de informática e ingeniería en la Universidad de Nevada, Reno, dijo que los datos de reconocimiento facial "son un recurso muy buscado" para muchas empresas. Es una forma más de saber quién eres y cómo te comportas.
Hand dijo que “por cada empresa que se mete en problemas, hay 10 o más que no fueron atrapadas”.
Seeley George en Fight for the Future dijo: "El Congreso debe actuar ahora para prohibir el reconocimiento facial y debe mantenerse alejado de las regulaciones favorables a la industria que podrían acelerar la adopción de la tecnología y hacerla aún más generalizada".
Ella no está sola en ese sentimiento. Amnistía Internacional también pidió esta semana una prohibición global de los sistemas de reconocimiento facial.
Dudo que eso suceda. Con los nombres más importantes de Silicon Valley invirtiendo fuertemente en esta tecnología, no va a desaparecer. Lo que se necesita son reglas claras sobre cómo se pueden recopilar y utilizar dichos datos, especialmente por parte del sector privado.
Cualquier empresa que emplee tecnología de reconocimiento facial debe divulgar de forma destacada sus prácticas y dar a los consumidores la posibilidad de optar por no participar fácilmente. Mejor aún, las empresas deberían pedirnos permiso antes de escanear y almacenar nuestros rostros.
“La tecnología de reconocimiento facial actual es fundamentalmente defectuosa y refuerza los sesgos dañinos”, dijo Rohit Chopra, entonces comisionado de la FTC, después de que se anunciara el acuerdo de Everalbum.
“Con el tsunami de datos que se recopilan sobre las personas, necesitamos todas las manos a la obra para mantener a estas empresas bajo control”, dijo.
Desde entonces, Chopra ha sido designado por el presidente Biden para servir como director de la Oficina de Protección Financiera del Consumidor.
Todos podemos reconocer eso como un paso positivo.