Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 2263

Incidentes Asociados

Incidente 3961 Reporte
Transgender Uber Drivers Mistakenly Kicked off App for Appearance Change during Gender Transitions

Loading...
Algunos conductores transgénero están siendo expulsados de la aplicación de Uber
cnbc.com · 2018

Uber ha revolucionado la industria de los taxis con su servicio fácil de usar, pero sus funciones actuales carecen de opciones para que los conductores transgénero se identifiquen correctamente, lo que hace que algunos de ellos sean expulsados de la aplicación.

Los conductores transgénero de todo el país encuentran sus cuentas suspendidas de manera temporal o permanente debido a una función de seguridad de Uber que requiere que los conductores se tomen una selfie para verificar su identidad. Si la foto no vuelve a coincidir con otras fotos en el archivo, se marcará.

Janey Webb comenzó a cambiar de género cuando comenzó a trabajar para Uber en octubre de 2017. Desde entonces, su apariencia física ha cambiado bastante. Para otro trabajo, eso podría no ser un gran problema, pero para los conductores de Uber, un cambio drástico en la apariencia genera una bandera roja algorítmica.

La función de seguridad de Uber se llama Comprobación de ID en tiempo real. Se implementó en septiembre de 2016 para "proteger tanto a los pasajeros como a los conductores". De vez en cuando, se les pedirá a los conductores que se detengan y se tomen una selfie. Luego, esa foto se compara con la foto de los conductores en el archivo, utilizando tecnología de [Microsoft Cognitive Services] (https://azure.microsoft.com/en-us/services/cognitive-services/). Si la foto no coincide, la cuenta del conductor se [suspende temporalmente] (https://www.uber.com/newsroom/securityselfies) mientras Uber "analiza la situación".

En teoría tiene sentido. No querrás que alguien que no esté realmente registrado en Uber lleve a la gente. Pero el problema es que la tecnología que utiliza Uber no tiene en cuenta a los conductores que atraviesan transiciones de género.

Webb tomó medidas para documentar sus cambios físicos en el sistema de Uber al subir nuevas fotos durante su transición, tanto para que los pasajeros supieran a quién buscar como para que Uber tuviera un catálogo de su apariencia en caso de que hubiera algún problema. Y justo antes del 4 de julio de 2018, lo hubo.

"Estaba listo para [conducir para] Uber. Conduje hasta el centro y la única razón por la que supe que estaba desactivado fue porque no podía volver a conectarme".

Se le pidió a Webb que llamara al soporte de Uber, que le dijo que la cuenta había sido desactivada porque una de sus fotos no coincidía con su licencia de conducir registrada.

Luego, Webb tuvo que conducir dos horas hasta el único centro de soporte en persona de Uber en su estado natal de Iowa, llamado Greenlight Hub. Allí explicó su transición de género y le dijeron que la desactivación fue un error. Sin embargo, no le aseguró que no podría volver a pasar lo mismo si sube una nueva foto.

“No se puede esperar que una persona trans actualice su licencia cada tres meses solo para evitar ser desactivada”, dijo Webb.

Cuando tienes un sistema que está demasiado automatizado, las personas como yo caemos en las grietas.

En total, la terrible experiencia dejó a Webb sin trabajo durante unos tres días, uno de los cuales fue el 4 de julio, un día de grandes ganancias para los conductores. Los conductores de Uber son contratistas técnicamente independientes, y a Webb no se le reembolsó el tiempo que no pudo trabajar.

Uber confirmó que esta instancia ocurrió, pero la compañía dijo que el problema a menudo se puede resolver por teléfono o en la aplicación en lugar de presentarse en persona en un centro de soporte.

Webb no es la única persona que se ocupa de los problemas de verificación de fotos.

En otro caso, Lindsay, una conductora de Uber de Michigan, también fue suspendida de la aplicación por inconsistencias en las fotos y tuvo que conducir hasta un Greenlight Hub para tomar medidas adicionales. Estimó que se le pidió que se detuviera y verificara su identidad aproximadamente 100 veces en el último año y medio.

Lindsay se negó a dar su nombre completo por temor a represalias. Como resultado, Uber no pudo verificar el incidente. Sin embargo, proporcionó a CNBC capturas de pantalla de su correspondencia con Uber.

La notificación de verificación de identificación de Uber les dice a los conductores que han sido "seleccionados al azar para verificar su identidad". Sin embargo, un portavoz de Uber dijo que las verificaciones de identificación en tiempo real también pueden activarse por posibles señales o informes de fraude. Uber no proporcionó estadísticas sobre la cantidad promedio de solicitudes de verificación de verificación de identificación en tiempo real que reciben los conductores.

"No creo que Uber sea una compañía malvada", dijo Lindsay. "Sí, su enfoque está en las ganancias, y una de esas cosas es automatizar tanto como sea posible, y cuando tienes un sistema que está demasiado automatizado, las personas como yo caemos en las grietas".

Robyn Kanner, diseñadora de experiencia del usuario, dijo que Uber podría mejorar la experiencia de la aplicación para las personas trans al darles a los usuarios la opción de especificar sus pronombres en la aplicación.

No son solo los conductores los que tienen problemas con la aplicación. Robyn Kanner es diseñadora de experiencia de usuario y escribió sobre una manera Uber podría mejorar la experiencia de la aplicación para personas trans en particular, brindando a los usuarios la opción de especificar sus pronombres en la aplicación.

Un portavoz de Uber dijo que la compañía lanzó una función en abril que permite a los empleados especificar sus pronombres en un directorio interno. Sin embargo, la función aún no está disponible para pasajeros y conductores.

“Queremos que Uber sea una experiencia acogedora, segura y respetuosa para todos los que usan la aplicación”, dijo una portavoz de Uber a CNBC. "Es por eso que mantenemos pautas comunitarias claras y una política de no discriminación para pasajeros y conductores, además de muchas características de seguridad. Continuamos enfocándonos en formas de avanzar en nuestra tecnología y mejorar constantemente nuestra experiencia con la aplicación".

Otras empresas tecnológicas se enfrentan a críticas por su falta de inclusión en el diseño. Tanto Facebook como [Tinder](https://blog. gotinder.com/genders/) actualizó sus aplicaciones para incluir más opciones de identidad de género y pronombres para los usuarios.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd