Incidentes Asociados
Un repartidor que está demandando a Uber Eats en Londres por su despido de la empresa y afirma que su tecnología de reconocimiento facial tiene prejuicios raciales dice que la empresa trata a los mensajeros como "números en vez de humanos”.
Pa Edrissa Manjang trabajó para Uber Eats entre noviembre de 2019 y abril de 2021 mientras trabajaba a tiempo completo como asistente financiera.
Cuando Manjang comenzó a trabajar para la empresa, no se le pedía regularmente que enviara fotografías de sí mismo con fines de verificación. Sin embargo, estos controles de verificación facial se hicieron más frecuentes.
Manjang finalmente fue despedido de la empresa por correo electrónico, cuando afirmó que había “continuas discrepancias” entre las fotos que tomó para registrarse para un turno y la de su perfil de trabajo de Uber.
Cuando Manjang sugirió a Uber que le pidiera a un ser humano que revisara las fotos, le dijeron que después de una “consideración cuidadosa”, su cuenta sería desactivada.
Hablando de su tiempo trabajando para Uber, Manjang dijo que la experiencia “no fue buena”. Él dijo: “Cualquiera puede decirte que trabajar para la empresa no es bueno. No respetan ni valoran a las personas con las que trabajan.
“No nos valoran. Sé que existe una empresa para obtener ganancias, pero [Uber] procede de manera agresiva. Entonces, como resultado, para las personas que trabajan para ellos, solo somos números”.
La afirmación de Manjang, respaldada por App Drivers and Couriers Union (ADCU), es que fue despedido debido a una tecnología de reconocimiento facial con prejuicios raciales y, mientras trabajaba para Uber Eats, fue objeto de controles de verificación de reconocimiento facial elevados y excesivos que equivalían a acoso racial.
El miércoles, el tribunal laboral del este de Londres rechazó la solicitud de Uber de anular un reclamo por discriminación. En el fallo, el juez dijo: “En el momento de la presentación faltaba claridad sobre cuáles eran los procesos que habían llevado a la desactivación. Estos solo fueron sacados a la luz en los terrenos de la resistencia”.
Regístrese en First Edition, nuestro boletín diario gratuito, todas las mañanas de lunes a viernes a las 7 a.m. BST
Manjang dice que aunque emprender acciones legales contra la empresa no ha sido fácil, tiene la esperanza de ganar su demanda. Él dijo: “[La acción legal] ha llevado mucho tiempo y algunas veces ha sido estresante. Tengo suerte de que mi sindicato me esté apoyando, pero incluso así ha sido difícil.
“Pero sí, estoy seguro [sobre el reclamo]”.
Yaseen Aslam, presidente de ADCU, dijo que el despido de Manjang por parte de Uber, supuestamente basado en un software de reconocimiento facial con prejuicios raciales, fue "ofensivo".
Aslam agregó: “A pesar de estos procedimientos y una solicitud de acceso a datos legal por separado, Uber no ha aclarado los hechos básicos sobre por qué Pa Edrissa Manjang fue despedido antes de que Uber lo reincorporara subrepticiamente después de que se presentara el caso.
“Uber ha demostrado ser irresponsable en el uso de tecnología sensible que se sabe que tiene un sesgo racial inherente porque Pa no solo fue identificado erróneamente por la tecnología, sino que fue perfilado para controles elevados y excesivos debido a su origen étnico. Esto es inmoral e inaceptable”.
Se ha demostrado que el software de reconocimiento facial es controvertido debido a la posibilidad de generar sesgos. Microsoft anunció recientemente dejaría de usar algunas de sus herramientas de IA de reconocimiento facial.
Un portavoz de Uber Eats dijo: “La verificación facial automatizada no fue el motivo de la pérdida temporal de acceso del Sr. Manjang a su cuenta de mensajería. Nuestra Verificación de identificación en tiempo real está diseñada para proteger la seguridad de todos los que usan la aplicación Uber. El sistema incluye una sólida revisión humana para asegurarnos de que no estamos tomando decisiones sobre el sustento de alguien en el vacío, sin supervisión”.