Incidentes Asociados
Corrección: esta historia se ha actualizado para incluir la respuesta de Uber. La apertura se modificó para eliminar una anécdota sobre la experiencia de un conductor específico en función de esa respuesta.
Los conductores de Uber en India dicen que los problemas con el reconocimiento facial que usan para acceder a sus aplicaciones les están costando trabajo. En una encuesta realizada por MIT Technology Review de 150 conductores de Uber en el país, casi la mitad dice que han sido bloqueados temporal o permanentemente de sus cuentas como resultado de problemas con su selfie. Muchos sospecharon que un cambio en su apariencia, como vello facial, cabeza rapada o corte de pelo, era el culpable. Otra cuarta parte de ellos cree que se debió a la poca iluminación.
India tiene alrededor de [600 000](https://economictimes.indiatimes.com/industry/auto/auto-news/indian-economy-saw-rs-44600-crore-worth-of-value-generated-by-uber-in -2021-says-report/articleshow/93756824.cms?from=mdr) Conductores de Uber, pero muchos otros trabajan para la plataforma local de viajes compartidos Ola y para empresas emergentes como [Swiggy](https://bytes.swiggy.com /real-time-mask-and-gear-compliance-check-for-swiggy-delivery-partners-adf804b7b902), Zomato, y Empresa urbana. Todos piden a los trabajadores de su plataforma que carguen selfies para inicios de sesión o verificaciones.
Uber verifica que la cara de un conductor coincida con lo que la compañía tiene en el archivo a través de un programa llamado "Verificación de identificación en tiempo real". Se lanzó en los EE. UU. en 2016, en India en 2017 y luego en otros mercados. "Esto evita el fraude y protege las cuentas de los conductores para que no se vean comprometidas. También protege a los pasajeros al crear otra capa de responsabilidad en la aplicación para garantizar que la persona adecuada esté detrás del volante", dijo Joe Sullivan, director de seguridad de Uber, en un comunicado en 2017.
Pero los procedimientos de verificación de conductores de la compañía están lejos de ser perfectos. Adnan Taqi, un conductor de Uber en Mumbai, tuvo problemas cuando la aplicación le pidió que se tomara una selfie al anochecer. Estuvo encerrado durante 48 horas, una gran mella en su horario de trabajo: dice que conduce 18 horas seguidas, a veces hasta 24 horas, para poder ganarse la vida. Días después, se tomó una selfie que lo bloqueó nuevamente de su cuenta, esta vez durante toda una semana. Esa vez, sospecha Taqi, todo se redujo al cabello: "No me había afeitado en varios días y mi cabello también había crecido un poco", dice.
Otros dicen que han tenido problemas con los rasguños en sus cámaras y teléfonos inteligentes de bajo presupuesto. El problema no es exclusivo de Uber. Los conductores con Ola, que cuenta con el respaldo de SoftBank, enfrentan problemas similares.
Uber no respondió inicialmente a una serie de preguntas de MIT Technology Review sobre su tecnología y las experiencias de los conductores. Después de la publicación, la compañía dijo que no se pueden realizar desactivaciones basadas solo en el reconocimiento facial. Dijo que Real-Time ID Check funciona escalando las no coincidencias marcadas a al menos dos humanos que luego verifican las fotos manualmente. Este proceso toma menos de 25 segundos. Dice que su herramienta puede manejar cambios en el cabello.
Sin embargo, más de una docena de conductores entrevistados para esta historia detallaron casos en los que tuvieron que encontrar una mejor iluminación para evitar ser bloqueados de sus cuentas de Uber. "Cada vez que Uber pide una selfie por la tarde o por la noche, he tenido que detenerme y pasar por debajo de una farola para hacer clic en una imagen clara; de lo contrario, hay posibilidades de que me rechacen", dijo Santosh Kumar, un conductor de Uber de Hyderabad. .
Real-Time ID Check funciona convirtiendo tu cara en un conjunto de puntos, explica Jernej Kavka, un consultor de tecnología independiente con acceso a Face API de Microsoft, que es lo que Uber usa para potenciar Real-Time ID Check.
"Con exceso de vello facial, los puntos cambian y es posible que no reconozca dónde está la barbilla", dice Kavka. Lo mismo sucede cuando hay poca iluminación o la cámara del teléfono no tiene un buen contraste. "Esto dificulta que la computadora detecte los bordes", explica.
El software puede ser especialmente frágil en India. En diciembre de 2021, los investigadores de políticas tecnológicas Smriti Parsheera (miembro del proyecto CyberBRICS) y Gaurav Jain (economista de la Corporación Financiera Internacional) publicaron un documento preliminar que auditó cuatro herramientas comerciales de procesamiento facial (Rekognition de Amazon, Face, Face++ y FaceX de Microsoft Azure) por su desempeño en rostros indios. Cuando el software se aplicó a una base de datos de 32.184 candidatos electorales, Face de Microsoft ni siquiera detectó la presencia de un rostro en más de 1.000 imágenes, arrojando una tasa de error de más del 3%, la peor entre las cuatro.
Podría ser que la aplicación Uber esté fallando a los conductores porque su software no fue entrenado en una amplia gama de rostros indios, dice Parsheera. Pero ella dice que también puede haber otros problemas en juego. "Podría haber una serie de otros factores contribuyentes como la iluminación, el ángulo, los efectos del envejecimiento, etc.", explicó por escrito. "Pero la falta de transparencia que rodea el uso de tales sistemas hace que sea difícil dar una explicación más concreta".
Uber dijo que realiza regularmente pruebas de equidad (tanto internamente como en asociación con Microsoft) para comprender cómo funciona este producto para usuarios con diferentes complexiones de piel e identificar cualquier oportunidad para mejorar la eficiencia y la precisión. Microsoft se negó a comentar en respuesta a las preguntas enviadas por MIT Technology Review.
Los problemas no terminan con la decisión del algoritmo. Los conductores dicen que el mecanismo de reparación de quejas que sigue Uber es tedioso, consume mucho tiempo, es frustrante y, en su mayoría, inútil. Dicen que a veces pasan semanas tratando de resolver sus problemas. "Tenemos que seguir llamando a su línea de ayuda incesantemente antes de que desbloqueen nuestras cuentas, diciéndonos constantemente que el servidor no funciona", dijo Taqi, con un tono de frustración, pero sobre todo una sensación de derrota, en su voz. "Es como si su servidor estuviera siempre caído".
Uber dijo que les da a los conductores la oportunidad de apelar las desactivaciones.
Si los problemas persisten y las protecciones siguen siendo limitadas, podrían tener un efecto enorme, y no solo en el trabajo. "Las plataformas laborales en India están comenzando a convertirse en una interfaz clave entre el trabajador, el mercado y el gobierno: permiten préstamos para automóviles o incluso créditos para gastos domésticos más grandes", dice Aditi Surie, investigadora principal del Instituto Indio de Derechos Humanos. Settlements, que ha realizado investigaciones sobre trabajos temporales en la India. En un país donde ese trabajo puede catapultar a alguien de la precariedad a una existencia de clase media (especialmente cuando las estimaciones sugieren que la [la mayoría de las personas](https://openknowledge.worldbank.org/bitstream/handle/10986/37739/9781464818936. pdf) en todo el mundo que cayeron en la pobreza durante la pandemia viven en India), ser bloqueado o expulsado de una plataforma puede tener consecuencias devastadoras.
En otros mercados, los trabajadores temporales han luchado contra el reconocimiento facial. En el Reino Unido, por ejemplo, al menos 35 conductores de Uber afirmaron el año pasado que sus cuentas fueron canceladas por error. El Sindicato de Trabajadores Independientes de Gran Bretaña ha culpado a un ["algoritmo racista".](https://www.theguardian.com/technology/2021/oct/05/ex-uber-driver-takes-legal-action-over -racist-face-recognition-software) Uber ha enfrentado al menos dos demandas en el Reino Unido debido al software. Uber dijo que en el Reino Unido y la UE, los conductores pueden elegir si su selfie es revisado por tecnología de verificación o por revisores humanos.
Algunos países y regiones se han movido para brindar mejores protecciones a los trabajadores temporales. La UE propuso una directiva el año pasado para mejorar las condiciones de trabajo y proporcionar transparencia algorítmica. Y en septiembre de 2021, un tribunal de California anuló la Proposición 22, una iniciativa electoral que excluía a los trabajadores temporales de los beneficios para empleados según la ley estatal. Estas regulaciones reconocen que los sistemas algorítmicos pueden "afectar negativamente los derechos de los trabajadores", dice Divij Joshi, abogado y candidato a doctorado en University College London. Pero India actualmente tiene pocas protecciones legales para los trabajadores temporales, dice Joshi: "Estos mismos esfuerzos de transparencia no se ven en India desde una perspectiva normativa o regulatoria".
Elizabeth Anne Watkins, socióloga organizacional de la Universidad de Princeton que ha estudiado exhaustivamente el impacto del reconocimiento facial en los conductores de Uber en los EE. UU., probablemente encuentre familiar este patrón. "Propenso a fallar en condiciones variables, el sistema impone una pesada carga a los trabajadores que se quedan con poco apoyo organizacional cuando falla el reconocimiento facial", escribió Hawkins, quien ahora es científico investigador en Intel Labs, en [un artículo de 2020] (https ://dl.acm.org/doi/10.1145/3406865.3418383). "Además, la responsabilidad de la verificación de identidad se transfiere a los trabajadores, quienes asumen las consecuencias de las fallas sistémicas".
Samantha Dalal, que estudia cómo los trabajadores entienden los sistemas algorítmicos, dice que podría haber más transparencia sobre cómo la IA tomó una decisión. "Incluir alguna explicación que vaya más allá de 'Estás desactivado'" ayudaría, dice Dalal, candidato a doctorado en la Universidad de Colorado Boulder. "Tales capacidades existen".
Sin ninguna idea de lo que quiere el jefe voluble y no humano, los trabajadores temporales intentan muchas pruebas y errores mientras interactúan con las aplicaciones, dice Dalal. En un correo electrónico, Uber dijo que envía varias advertencias claras antes de la desactivación de la cuenta.