Incidentes Asociados
Un algoritmo utilizado por la popular aplicación europea de entrega de alimentos Deliveroo para clasificar y ofrecer turnos a los pasajeros es discriminatorio, dictaminó un tribunal italiano a fines de la semana pasada, en lo que algunos expertos califican como una decisión histórica para la economía de los conciertos. El caso fue presentado por un grupo de repartidores de Deliveroo respaldados por CGIL, el sindicato más grande de Italia.
Una ordenanza marcadamente detallada escrita por la juez presidente Chiara Zompi ofrece una mirada íntima a uno de los muchos algoritmos a menudo secretos utilizados por las plataformas de conciertos para microgestionar a los trabajadores y que pueden tener un impacto profundo en sus medios de vida.
Si bien los algoritmos de aprendizaje automático son fundamentales para todo el modelo comercial de Deliveroo, el algoritmo particular examinado por el tribunal supuestamente se usó para determinar la "confiabilidad" de un pasajero. Según la ordenanza, si un ciclista no cancela un turno reservado previamente a través de la aplicación al menos 24 horas antes de su inicio, su "índice de confiabilidad" se vería afectado negativamente. Dado que los pasajeros considerados más confiables por el algoritmo fueron los primeros en recibir turnos en bloques de tiempo más ocupados, esto significaba que los pasajeros que no pueden hacer sus turnos, incluso si es debido a una emergencia o enfermedad grave, tendrían menos oportunidades laborales en el futuro. .
Según el tribunal, el hecho de que el algoritmo no tenga en cuenta los motivos de una cancelación equivale a una discriminación y penaliza injustamente a los ciclistas con motivos legalmente legítimos para no trabajar. Se ordenó a Deliveroo que pagara 50 000 € (~61 400 $) a las partes demandantes.
Los expertos legales con los que habló Motherboard describieron la decisión como un posible punto de inflexión. Es importante señalar que el tribunal determinó que incluso si un algoritmo discrimina involuntariamente a un grupo protegido, una empresa aún puede ser considerada responsable y obligada a pagar daños y perjuicios.
“Este es un caso histórico”, dijo a Motherboard por teléfono Valerio De Stefano, profesor de derecho laboral en KU Leuven que se especializa en IA y regulación laboral. “Lo que muestra, básicamente, es que a nivel legal puedes tener discriminación indirecta a través de algoritmos y que, por lo tanto, los algoritmos están sujetos a revisión judicial, que legalmente puedes cuestionar cómo funcionan este tipo de algoritmos. Creo que eso es importante, porque las personas a menudo pueden pensar en los algoritmos como objetivamente neutrales, cuando de hecho siempre existe la posibilidad de discriminación”.
En una declaración a Motherboard, un portavoz de Deliveroo afirmó que la empresa ya no usa el mismo sistema de reserva de turnos descrito en el caso.
"Esta sentencia se refiere a un modelo de reserva opcional histórico que Deliveroo no utiliza en Italia ni en otros mercados", escribió el portavoz. "Los pasajeros tienen total flexibilidad para elegir cuándo trabajar, dónde trabajar, por poco tiempo o por el tiempo que quieran". Esto significa que no hay un sistema de reserva y ninguna obligación de aceptar trabajo”.
"Ofrecemos autoempleo porque ofrece la flexibilidad que buscan los pasajeros", continuaron. "Cada encuesta muestra que los pasajeros valoran abrumadoramente la flexibilidad por encima de todo: más del 80 % en la última encuesta. Actualmente, Deliveroo recibe miles de solicitudes para trabajar por cuenta propia". -ciclista empleado cada semana y hemos duplicado el número de ciclistas en el Reino Unido; ahora trabajamos con 50 000 ciclistas en el Reino Unido, frente a los 25 000 del año pasado".
Pero las ramificaciones de la decisión de la corte podrían ir mucho más allá de un solo sistema o algoritmo de reserva, dice Ivana Bartoletti, cofundadora de la red Women Leading in AI y autora de "An Artificial Revolution".
“Incluso si este sistema de reserva de turnos en particular ya no existe, creo que esta decisión indicará a empresas como Deliveroo, pero por supuesto también a otras, que deben ser más conscientes para abordar y comprender los posibles problemas y desigualdades que enfrentan. los algoritmos crean, o podrían enfrentar consecuencias legales”, dijo Bartoletti. “Por supuesto, eso no es suficiente por sí solo, también necesitamos soluciones regulatorias y legislativas. Pero, la combinación de todas estas cosas podría ser un gran paso adelante”.
El caso también es indicativo de una mayor disposición por parte de los reguladores, el sistema judicial, los sindicatos y los trabajadores de todo el continente para abordar los algoritmos de caja negra, y una mayor conciencia de cómo se puede abusar de dichos algoritmos para eludir las protecciones laborales tradicionales. En julio de 2020, por ejemplo, cuatro conductores del Reino Unido respaldados por App Drivers and Couriers Union demandaron a Uber para obtener acceso a algoritmos similares utilizados por Uber. Y, tres meses después, otro grupo de conductores de Uber presentó una demanda contra la empresa por supuestamente haber sido despedidos por un algoritmo automatizado utilizado por la plataforma sin que se les diera la oportunidad de apelar.