Incidentes Asociados
Un grupo de conductores de Uber del Reino Unido ha lanzado un [desafío legal](https://www.adcu.org.uk/news-posts/uber-drivers-take-unprecedented-international-legal-action-to-demand-their- datos) contra la filial de la empresa en los Países Bajos. Las quejas se relacionan con el acceso a datos personales y la responsabilidad algorítmica.
Los conductores de Uber y los mensajeros de Uber Eats están invitados a unirse al desafío, que se enfoca en el uso de Uber de perfiles y algoritmos alimentados por datos para administrar a los trabajadores temporales en Europa. Los trabajadores de la plataforma involucrados en el caso también buscan ejercer un conjunto más amplio de derechos de acceso a los datos integrados en la ley de protección de datos de la UE.
Parece una prueba fascinante de hasta qué punto las protecciones legales existentes envuelven las decisiones automatizadas en un momento en que los legisladores regionales están ocupados [elaborando un marco basado en el riesgo] (https://techcrunch.com/2020/02/19/europe- establece-plan-para-impulsar-la-reutilización-de-datos-y-regular-ais-de-alto-riesgo/) para regular aplicaciones de inteligencia artificial.
Muchos usos de la tecnología de IA parecen estar sujetos solo a las protecciones integradas en el Reglamento General de Protección de Datos (RGPD) existente. Por lo tanto, es importante determinar hasta dónde se extienden las protecciones existentes en el contexto de las plataformas modernas basadas en datos.
La Comisión Europea también está trabajando en [reiniciar las reglas de responsabilidad para plataformas](https://techcrunch.com/2020/06/23/how-will-ec-plans-to-reboot-rules-for-digital-services-impact -startups/), con una propuesta de Ley de Servicios Digitales a finales de año. Como parte de ese trabajo, está consultando activamente sobre temas relacionados, como la portabilidad de datos y los derechos de los trabajadores de la plataforma, por lo que el caso parece muy oportuno.
A través de la demanda, que se presentó hoy en el tribunal de distrito de Ámsterdam, el grupo de conductores de Uber de Londres, Birmingham, Nottingham y Glasgow argumentará que el gigante tecnológico no cumple con el RGPD y le pedirá al tribunal que ordene el cumplimiento inmediato, instando será multado con 10.000 € por cada día de incumplimiento.
También le pedirán al tribunal que ordene a Uber que cumpla con una solicitud que les permita transferir los datos personales que se encuentran en la plataforma a un fideicomiso de datos que desean establecer, administrado por un sindicato.
Por su parte, Uber U.K. dijo que trabaja arduamente para cumplir con las solicitudes de acceso a datos, y afirmó además que brinda explicaciones cuando no puede proporcionar datos.
¿Derechos de datos para abrir una caja negra de IA?
El RGPD otorga a los ciudadanos de la UE derechos de acceso a los datos sobre la información personal que tienen, incluido el derecho a obtener una copia de los datos que han proporcionado para que puedan reutilizarse en otros lugares.
La regulación también proporciona algunos derechos de acceso adicionales para las personas que están sujetas a procesos de toma de decisiones totalmente automatizados donde existe un impacto legal o similar sustancial, lo que parece relevante aquí porque los algoritmos de Uber esencialmente determinan el potencial de ingresos de un conductor o mensajero en función de cómo el las plataformas asignan (o retienen) trabajos del grupo disponible.
Como escribimos hace dos años, el Artículo 22 del RGPD ofrece una ruta potencial para controlar el poder de las cajas negras de IA. para determinar la trayectoria de la humanidad, porque requiere que los controladores de datos proporcionen cierta información sobre la lógica del procesamiento a las personas afectadas. Aunque no está claro cuántos detalles tienen que dar, por lo tanto, la demanda parece estar lista para probar los límites del Artículo 22, además de hacer referencia a la transparencia más general y los derechos de acceso a los datos integrados en la regulación.
James Farrar, un conductor de Uber que apoya la acción, y que también fue uno de los principales demandantes en un hito U.K. acción del tribunal sobre los derechos laborales de los conductores de Uber (que es, en noticias relacionadas, debe llegar a la Corte Suprema del Reino Unido mañana, ya que Uber ha seguido apelando el [fallo de 2016] (https://techcrunch.com/2016/10/28/uber-loses-employment-tribunal-in-the-uk/)) — confirmó que el último desafío es el "espectro completo" en lo que respecta a los derechos del RGPD.
Los conductores hicieron solicitudes de acceso de sujetos a Uber el año pasado, solicitando a la empresa datos detallados sobre cómo los gestionan sus perfiles de algoritmo y el rendimiento. “Se ha proporcionado acceso a varios conductores a poca o ninguna información a pesar de realizar una solicitud exhaustiva y proporcionar detalles claros sobre los datos solicitados”, escriben hoy en un comunicado de prensa.
Farrar confirmó que Uber le proporcionó algunos datos el año pasado, después de lo que llamó "solicitudes múltiples y continuas", pero señaló múltiples lagunas en la información, como que los datos de GPS solo se proporcionaron durante un mes de dos años de trabajo; ninguna información sobre la calificación de viaje que le asignan los pasajeros; y ninguna información sobre su perfil ni las etiquetas asignadas a él.
“Sé que Uber mantiene un perfil sobre mí, pero nunca lo han revelado”, dijo a TechCrunch, y agregó que lo mismo ocurre con las etiquetas de rendimiento.
“Bajo GDPR, Uber debe explicar la lógica del procesamiento, en realidad nunca ha explicado los algoritmos de gestión y cómo funcionan a los conductores. Uber nunca me ha explicado cómo procesan las etiquetas electrónicas de rendimiento adjuntas a mi perfil, por ejemplo.
“Muchos conductores han sido desactivados con reclamos falsos de ‘uso fraudulento’ detectados por los sistemas de Uber. Esta es otra área de transparencia requerida por la ley pero que Uber no respeta”.
El desafío legal cuenta con el respaldo de App Drivers & Couriers Union (ADCU), que afirma que argumentará que los conductores de Uber están sujetos a la supervisión del desempeño en el trabajo.
También dice que presentará evidencia de cómo Uber adjuntó etiquetas electrónicas relacionadas con el rendimiento a los perfiles de los conductores con categorías que incluyen: Llegadas tardías/ETA perdidas; Cancelado en el pasajero; Actitud; Comportamiento inapropiado.
“Esto va en contra de la insistencia de Uber en muchos desafíos legales de clasificación errónea de empleo en múltiples jurisdicciones en todo el mundo de que los conductores trabajan por cuenta propia y no están sujetos al control de gestión”, señalan además los conductores en su comunicado de prensa.
Al comentar en un comunicado, su abogado, Anton Ekker de Ekker Advocatuur, agregó: “Con Uber BV con sede en los Países Bajos como operador de la plataforma Uber, los tribunales holandeses ahora tienen un papel importante que desempeñar para garantizar el cumplimiento de Uber con el RGPD. Este es un caso histórico en la economía de los conciertos con trabajadores que hacen valer sus derechos digitales con el fin de promover sus derechos laborales”.
La acción legal cuenta con el apoyo adicional de la Alianza Internacional de Trabajadores del Transporte Basado en Aplicaciones (IAATW) en lo que la ADCU llama una "colaboración internacional sin precedentes".
Al contactarnos para comentar sobre el desafío, Uber nos envió un correo electrónico con la siguiente declaración:
Nuestro equipo de privacidad trabaja arduamente para proporcionar los datos personales solicitados a los que las personas tienen derecho. Le daremos explicaciones cuando no podamos proporcionar ciertos datos, como cuando no existen o si divulgarlos infringiría los derechos de otra persona en virtud del RGPD. Según la ley, las personas tienen derecho a elevar sus inquietudes poniéndose en contacto con el responsable de protección de datos de Uber o con la autoridad nacional de protección de datos para una revisión adicional.
La compañía también nos dijo que respondió a las solicitudes de acceso a temas de los conductores el año pasado, diciendo que no había recibido más correspondencia desde entonces.
Agregó que está esperando ver el contenido de los reclamos en los tribunales.
Los sindicatos que respaldan el caso están presionando para que Uber entregue los datos de los conductores a un fideicomiso que ellos quieren administrar.
La organización sin fines de lucro de Farrar, Worker Info Exchange (WIE), quiere establecer un fideicomiso de datos para los conductores con fines de negociación colectiva.
“Nuestro sindicato quiere establecer un fideicomiso de datos, pero no podemos hacerlo mientras Uber no divulgue de manera consistente y no obstruya el proceso. La API sería lo mejor”, dijo sobre eso, y agregó: “Pero el gran problema aquí es que el 99.99% de los controladores son engañados con poco o ningún acceso adecuado a los datos o explicación del algoritmo”.
En una nota sobre WIE en el sitio web del abogado de los conductores, el bufete de abogados dice que otros conductores de Uber pueden participar proporcionando su permiso para que la organización sin fines de lucro presente una solicitud de datos en su nombre, escribiendo:
Worker Info Exchange tiene como objetivo inclinar la balanza lejos de las grandes plataformas a favor de las personas que hacen que estas empresas sean tan exitosas todos los días: los trabajadores.
Los conductores de Uber pueden participar otorgando a Worker Info Exchange su mandato para enviar una solicitud de GDPR en su nombre.
Los conductores también lanzaron una campaña Crowdjustice para ayudar a recaudar £30,000 para financiar el caso.
Al discutir el desafío legal y sus implicaciones para Uber, la profesora de derecho de la Universidad de Newcastle, Lilian Edwards, sugirió que el gigante tecnológico tendrá que demostrar que tiene "garantías adecuadas" en torno a su algoritmo, suponiendo que el desafío se centre en el Artículo 22.
Guau. Esto podría ser histórico: el primer caso del artículo 22 que realmente rompió el velo del secreto de la caja negra algorítmica y devolvió el poder a los trabajadores de la plataforma destificados. Vaya @jamesfarrar ¡quién impulsó esto (sic) desde el principio! #uber #a22 https://t.co/DEoX1bdCGY
— Lilian Edwards (@lilianedwards) 20 de julio de 2020
“El artículo 22 normalmente le otorga el derecho a exigir que una decisión tomada de manera únicamente automatizada, como el algoritmo de Uber, no la tome o la tome un ser humano. En este caso, Uber podría afirmar, sin embargo, con cierto éxito, que el algoritmo era necesario para el contexto de Uber con el conductor”, nos dijo.
“Sin embargo, eso no despeja su camino. Todavía tienen que proporcionar "salvaguardias adecuadas", la mayor de las cuales es el derecho muy discutido a una explicación de cómo funciona el algoritmo. Pero nadie sabe cómo podría funcionar eso.
“¿Sería suficiente una declaración general de aproximadamente cómo funciona el algoritmo? Lo que un trabajador querría en cambio es saber específicamente cómo tomó decisiones basadas en sus datos, y tal vez cómo lo discriminó o lo desfavoreció. Uber puede argumentar que eso es simplemente imposible para ellos. También podrían decir que revela demasiado sobre sus secretos comerciales internos. Pero aún es fantástico tener finalmente un caso posterior a GDPR que explore estos problemas”.
En su guía sobre los requisitos del artículo 22 en su sitio web, el organismo de control de datos del Reino Unido, el [ICO] (https://ico.org.uk/for-organisations/guide-to-data-protection/guide-to-the -general-data-protection-regulation-gdpr/individual-rights/rights-related-to-automated-decision-making-incluyendo-profiling/), especifica que los controladores de datos “deben proporcionar información significativa sobre la lógica involucrada en la decisión- proceso de elaboración, así como el significado y las consecuencias previstas para el individuo”.
También señala que el Artículo 22 requiere que las personas que están sujetas a decisiones automatizadas deben poder obtener una revisión humana del resultado si así lo solicitan. La ley también les permite impugnar decisiones algorítmicas. Si bien los controladores de datos que utilizan la automatización de esta manera deben tomar medidas para evitar el sesgo y la discriminación.