Incidents associés
Un groupe de chauffeurs britanniques Uber a lancé une [défi juridique](https://www.adcu.org.uk/news-posts/uber-drivers-take-unprecedented-international-legal-action-to-demand-their- données) contre la filiale de la société aux Pays-Bas. Les plaintes portent sur l'accès aux données personnelles et la responsabilité algorithmique.
Les chauffeurs Uber et les coursiers Uber Eats sont invités à rejoindre le défi, qui cible l'utilisation par Uber du profilage et des algorithmes alimentés par les données pour gérer les travailleurs à la demande en Europe. Les travailleurs de la plateforme impliqués dans l'affaire cherchent également à exercer un ensemble plus large de droits d'accès aux données intégrés dans la législation européenne sur la protection des données.
Cela ressemble à un test fascinant de la mesure dans laquelle les protections juridiques existantes entourent les décisions automatisées à un moment où les législateurs régionaux sont occupés [à élaborer un cadre basé sur les risques] (https://techcrunch.com/2020/02/19/europe- définit-un-plan-pour-boost-data-reuse-and-regulate-high-risk-ais/) pour réglementer les applications de l'intelligence artificielle.
De nombreuses utilisations de la technologie de l'IA semblent devoir rester soumises uniquement aux protections intégrées dans le règlement général sur la protection des données (RGPD) existant. Il est donc important de déterminer dans quelle mesure les protections existantes s'étendent dans le contexte des plates-formes modernes axées sur les données.
La Commission européenne travaille également sur [le redémarrage des règles de responsabilité pour les plateformes](https://techcrunch.com/2020/06/23/how-will-ec-plans-to-reboot-rules-for-digital-services-impact -startups/), avec une proposition de loi sur les services numériques attendue d'ici la fin de l'année. Dans le cadre de ce travail, il consulte activement sur des questions connexes telles que la portabilité des données et les droits des travailleurs de la plate-forme – de sorte que l'affaire semble très opportune.
Via le procès, qui a été déposé devant le tribunal de district d'Amsterdam aujourd'hui, le groupe de chauffeurs Uber de Londres, Birmingham, Nottingham et Glasgow soutiendra que le géant de la technologie ne respecte pas le RGPD et demandera au tribunal d'ordonner une conformité immédiate - exhortant une amende de 10 000 € pour chaque jour de non-conformité.
Ils demanderont également au tribunal d'ordonner à Uber de se conformer à une demande leur permettant de transférer les données personnelles détenues sur la plate-forme vers une fiducie de données qu'ils souhaitent établir, administrée par un syndicat.
Pour sa part, Uber U.K. a déclaré qu'il travaillait dur pour se conformer aux demandes d'accès aux données, affirmant en outre qu'il fournissait des explications lorsqu'il n'était pas en mesure de fournir des données.
Droits de données pour ouvrir une boîte noire d'IA ?
Le GDPR donne aux citoyens de l'UE des droits d'accès aux données sur les informations personnelles détenues sur eux, y compris le droit d'obtenir une copie des données qu'ils ont fournies afin qu'elles puissent être réutilisées ailleurs.
Le règlement prévoit également des droits d'accès supplémentaires pour les personnes soumises à des processus de prise de décision entièrement automatisés lorsqu'il existe un impact juridique ou similaire substantiel - ce qui semble pertinent ici car les algorithmes d'Uber déterminent essentiellement le potentiel de gain d'un chauffeur ou d'un coursier en fonction de la façon dont le plates-formes attribue (ou retient) des tâches du pool disponible.
Comme nous l'écrivions il y a deux ans, l'article 22 du RGPD offre une voie potentielle pour contrôler la puissance des boîtes noires de l'IA pour déterminer la trajectoire de l'humanité — car cela nécessite que les responsables du traitement fournissent des informations sur la logique du traitement aux personnes concernées. Bien qu'il ne soit pas clair combien de détails ils doivent donner, la poursuite semble donc prête à tester les limites de l'article 22, ainsi qu'à faire référence à une transparence plus générale et aux droits d'accès aux données intégrés dans le règlement.
James Farrar, un chauffeur Uber qui soutient l'action - et qui était également l'un des principaux demandeurs dans un événement historique [U.K. action devant le tribunal] (https://techcrunch.com/2017/11/10/uber-loses-uk-tribunal-appeal-over-driver-employment-rights/) sur les droits d'emploi des chauffeurs Uber (qui est, dans les nouvelles connexes, doit être portée devant la Cour suprême du Royaume-Uni demain, car Uber a continué de faire appel de la décision de 2016) – a confirmé que le dernier défi est le « spectre complet » en ce qui concerne les droits GDPR.
Les chauffeurs ont fait des demandes d'accès à Uber l'année dernière, demandant à l'entreprise des données détaillées sur la façon dont ses profils d'algorithme et ses performances les gèrent. "Plusieurs conducteurs ont eu accès à peu ou pas de données malgré une demande complète et des détails clairs sur les données demandées", écrivent-ils aujourd'hui dans un communiqué de presse.
Farrar a confirmé qu'Uber lui avait fourni des données l'année dernière, après ce qu'il a appelé des "demandes multiples et continues", mais il a signalé de multiples lacunes dans les informations - telles que les données GPS fournies uniquement pendant un mois sur deux ans de travail ; aucune information sur la note de trajet qui lui a été attribuée par les passagers ; et aucune information sur son profil ni les tags qui lui sont attribués.
"Je sais qu'Uber maintient un profil sur moi mais ils ne l'ont jamais révélé", a-t-il déclaré à TechCrunch, ajoutant qu'il en va de même pour les balises de performance.
« Sous GDPR, Uber doit expliquer la logique du traitement, il n'a jamais vraiment expliqué les algorithmes de gestion et leur fonctionnement aux chauffeurs. Uber ne m'a jamais expliqué comment ils traitent les balises électroniques de performance attachées à mon profil par exemple.
"De nombreux chauffeurs ont été désactivés avec de fausses allégations d'"utilisation frauduleuse" détectées par les systèmes Uber. C'est un autre domaine de transparence requis par la loi mais qu'Uber ne respecte pas.
La contestation judiciaire est soutenue par l'App Drivers & Couriers Union (ADCU), qui affirme qu'elle soutiendra que les chauffeurs Uber sont soumis à une surveillance des performances au travail.
Il indique également qu'il présentera des preuves de la manière dont Uber a attaché des étiquettes électroniques liées aux performances aux profils de conducteur avec des catégories telles que : arrivée tardive/heures d'arrivée manquées ; Annulé le cavalier ; Attitude; Comportement innaproprié.
"Cela va à l'encontre de l'insistance d'Uber dans de nombreuses contestations judiciaires de classification erronée de l'emploi dans plusieurs juridictions du monde entier selon lesquelles les chauffeurs sont des travailleurs indépendants et ne sont pas soumis au contrôle de la direction", notent en outre les chauffeurs dans leur communiqué de presse.
Commentant dans un communiqué, leur avocat, Anton Ekker d'Ekker Advocatuur, a ajouté : "Avec Uber BV basé aux Pays-Bas en tant qu'opérateur de la plate-forme Uber, les tribunaux néerlandais ont désormais un rôle important à jouer pour garantir la conformité d'Uber avec le RGPD. Il s'agit d'un cas historique dans l'économie du travail avec des travailleurs affirmant leurs droits numériques dans le but de faire progresser leurs droits des travailleurs.
L'action en justice est en outre soutenue par les travailleurs de l'Alliance internationale des transports basés sur les applications (IAATW) dans ce que l'ADCU appelle une «collaboration internationale sans précédent».
Contacté pour commenter le défi, Uber nous a envoyé la déclaration suivante par e-mail :
Notre équipe de confidentialité travaille dur pour fournir toutes les données personnelles demandées auxquelles les individus ont droit. Nous donnerons des explications lorsque nous ne pouvons pas fournir certaines données, par exemple lorsqu'elles n'existent pas ou que leur divulgation porterait atteinte aux droits d'une autre personne en vertu du RGPD. En vertu de la loi, les individus ont le droit de faire remonter leurs préoccupations en contactant le délégué à la protection des données d'Uber ou leur autorité nationale de protection des données pour un examen supplémentaire.
La société nous a également dit qu'elle avait répondu aux demandes d'accès aux sujets des conducteurs l'année dernière, affirmant qu'elle n'avait reçu aucune autre correspondance depuis.
Il a ajouté qu'il attend de voir le fond des réclamations devant le tribunal.
Les syndicats qui soutiennent l'affaire font pression pour qu'Uber transmette les données des conducteurs à une fiducie qu'ils souhaitent administrer.
L'organisation à but non lucratif de Farrar, Worker Info Exchange (WIE), souhaite établir une fiducie de données pour les conducteurs aux fins de la négociation collective.
"Notre syndicat veut établir une fiducie de données, mais nous sommes bloqués tant qu'Uber ne divulgue pas de manière cohérente et n'entrave pas le processus. L'API serait la meilleure », a-t-il déclaré à ce sujet, ajoutant:« Mais le gros problème ici est que 99,99% des conducteurs sont refoulés avec peu ou pas d'accès approprié aux données ou à l'explication de l'algorithme.
Dans une note sur WIE sur le site Web de l'avocat des chauffeurs, le cabinet d'avocats indique que d'autres chauffeurs Uber peuvent participer en donnant leur permission à l'organisation à but non lucratif de soumettre une demande de données en leur nom, en écrivant :
Worker Info Exchange vise à faire pencher la balance des grandes plateformes vers les personnes qui font le succès quotidien de ces entreprises : les travailleurs.
Les chauffeurs Uber peuvent participer en donnant à Worker Info Exchange leur mandat pour envoyer une demande GDPR en leur nom.
Les chauffeurs ont également lancé une campagne Crowdjustice pour aider à collecter 30 000 £ pour financer l'affaire.
Discutant de la contestation judiciaire et de ses implications pour Uber, Lilian Edwards, professeur de droit à l'Université de Newcastle, a suggéré que le géant de la technologie devra montrer qu'il a mis en place des "garanties appropriées" autour de son algorithme, en supposant que la contestation se concentre sur l'article 22.
Waouh. Cela pourrait être historique : le premier cas de l'art 22 à vraiment briser le voile du secret de la boîte noire algorithmique et rendu aux travailleurs de plateforme mécontents. Allez @jamesfarrar qui a conduit ça (sic) depuis le début !! #uber #a22 https://t.co/DEoX1bdCGY
— Lilian Edwards (@lilianedwards) 20 juillet 2020
"L'article 22 vous donne normalement le droit d'exiger qu'une décision prise de manière uniquement automatisée - comme l'algorithme Uber - ne soit pas prise ou prise par un humain. Dans ce cas, Uber pourrait cependant prétendre, avec un certain succès, que l'algorithme était nécessaire pour le contexte Uber avec le chauffeur », nous a-t-elle dit.
« Cependant, cela ne leur ouvre pas la voie. Ils doivent encore fournir des «garanties appropriées» – dont la plus importante est le droit très discuté à une explication du fonctionnement de l'algorithme. Mais personne ne sait comment cela pourrait fonctionner.
"Est-ce qu'une déclaration générale sur le fonctionnement de l'algorithme suffirait ? Ce qu'un travailleur voudrait plutôt, c'est savoir précisément comment il a pris des décisions sur la base de ses données - et peut-être comment il l'a discriminé ou défavorisé. Uber peut affirmer que c'est tout simplement impossible pour eux. Ils pourraient également dire que cela en révèle trop sur leurs secrets commerciaux internes. Mais c'est toujours formidable d'avoir enfin un dossier post-RGPD explorant ces problèmes. »
Dans ses orientations sur les exigences de l'article 22 sur son site Web, l'organisme de surveillance des données du Royaume-Uni, l'[ICO](https://ico.org.uk/for-organisations/guide-to-data-protection/guide-to-the -règlement-général-sur-la-protection-des-données-rgpd/droits-individuels/droits-liés-à-la-prise-de-décision-automatisée-y compris-le-profilage/), précise que les responsables du traitement « doivent fournir des informations significatives sur la logique impliquée dans la décision- processus de fabrication, ainsi que la signification et les conséquences envisagées pour l'individu ».
Il note également que l'article 22 exige que les personnes soumises à des décisions automatisées puissent obtenir un examen humain du résultat si elles le demandent. La loi leur permet également de contester les décisions algorithmiques. Alors que les contrôleurs de données utilisant l'automatisation de cette manière doivent prendre des mesures pour éviter les préjugés et la discrimination.