Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 2972

Incidents associés

Incident 3555 Rapports
Uber Allegedly Wrongfully Accused Drivers of Fraud via Automated Systems

Loading...
Gain historique de droits numériques pour WIE et l'ADCU sur Uber et Ola devant la Cour d'appel d'Amsterdam
workerinfoexchange.org · 2023

Dans une série de décisions historiques et de grande envergure sur les droits numériques, la Cour d'appel d'Amsterdam s'est prononcée en faveur des travailleurs et contre Uber et Ola Cabs. Worker Info Exchange a porté les cas en soutien aux membres de l'App Drivers & Couriers Union en Grande-Bretagne et à un chauffeur basé au Portugal.

Les affaires ont été portées en vertu du RGPD qui garantit à chacun le droit d'exiger l'accès à ses données personnelles traitées par toute organisation et de recevoir des informations utiles sur le traitement de ces données. De plus, le RGPD offre à chacun certaines protections contre la prise de décision automatisée en cas de conséquences négatives importantes.

Le premier cas concernait quatre chauffeurs qui se sont avérés effectivement licenciés par un robot par Uber sans recours.

La deuxième affaire concernait le refus d'accès aux données personnelles suite à des demandes adressées à Uber par six chauffeurs.

Le troisième cas concernait le refus d'accès aux données personnelles suite à des demandes adressées à Ola Cabs par trois chauffeurs.

** Prise de décision automatisée injuste **

Les chauffeurs ont fait face à de fausses allégations d'« activité frauduleuse » de la part d'Uber et ont été licenciés sans appel. Lorsque les chauffeurs ont demandé une explication sur la façon dont les systèmes Uber avaient surveillé leur travail et déterminé à tort qu'ils s'étaient livrés à une fraude, Uber les a bloqués.

Le tribunal a conclu que l'intervention humaine limitée dans les décisions automatisées d'Uber de licencier des travailleurs n'était pas "beaucoup plus qu'un acte purement symbolique". La décision de licencier les chauffeurs a été prise à distance dans un bureau Uber à Cracovie et les chauffeurs se sont vu refuser toute possibilité d'être entendus. Le tribunal a noté qu'Uber n'avait pas précisé *« clairement quels sont les qualifications et le niveau de connaissances des employés en question. Il n'y avait donc pas suffisamment de preuves d'une intervention humaine réelle.

Le tribunal a estimé que les chauffeurs avaient été profilés et leurs performances gérées par Uber : * "Cet exemple illustre, selon le tribunal, qu'il s'agit d'un traitement automatisé des données personnelles des chauffeurs par lequel certains aspects personnels d'eux-mêmes sont évalués sur la base de ces données. , dans le but d'analyser ou de prédire leur performance, leur fiabilité et leur comportement au travail. »*

Uber et Ola Cabs doivent révéler comment la prise de décision automatisée est utilisée pour déterminer la rémunération et la répartition du travail.

Le tribunal a ordonné à Uber d'expliquer comment les données personnelles et le profilage des chauffeurs sont utilisés dans le système de rémunération et de tarification initial et dynamique d'Uber. De même, le tribunal a ordonné à Uber de divulguer de manière transparente comment la prise de décision automatisée et le profilage des travailleurs sont utilisés pour déterminer comment le travail est réparti entre une main-d'œuvre en attente. L'année dernière, une revue d'Harvard Business Review article a demandé que les systèmes de tarification dynamique soient étroitement réglementés en raison du risque d'exploitation et de tacite connivence.

Se prononçant en faveur des chauffeurs, le tribunal a relevé que la tarification dynamique d'Uber *" prise dans son ensemble, affecte considérablement les chauffeurs. Ce système s'applique à chaque passager qu'ils transportent. Il s'agit donc de décisions successives, chacune avec des conséquences financières. qui déterminent le revenu qu'ils peuvent gagner.

Ola Cabs a également reçu l'ordre de divulguer des informations significatives sur l'utilisation dans la prise de décision automatisée des profils de revenus des travailleurs et des soi-disant * "scores de probabilité de fraude" * utilisés dans la prise de décision automatisée pour l'attribution du travail et des tarifs.

Le tribunal a également statué que les profils détenus en interne concernant les conducteurs et les balises associées aux performances doivent être divulgués aux conducteurs.

Abus de droit ?

Le tribunal a rejeté l'argument de grande portée d'Ola selon lequel les demandes de données et l'implication de Worker Info Exchange et du syndicat ADCU constituaient un abus des droits à la protection des données des appelants individuels.

Les plateformes ne peuvent pas s'appuyer sur des arguments de "secret commercial" pour refuser la transparence aux travailleurs.

Le tribunal a rejeté les arguments d'Uber et d'Ola Cabs selon lesquels expliquer les allégations et la prise de décision automatisée affectant négativement les travailleurs menacerait leurs droits à protéger les secrets commerciaux. Le tribunal a jugé que ces réclamations étaient totalement disproportionnées par rapport à l'effet négatif du licenciement automatisé inexpliqué et de la discipline des travailleurs.

Importance au Royaume-Uni et au-delà

Au-delà des violations de la protection des données, les preuves du profilage des performances indiquent clairement que les travailleurs d'Uber sont effectivement des employés, mais se voient toujours refuser des protections en matière d'emploi dans toute l'Europe, notamment des protections contre le licenciement abusif.

Uber et Ola Cabs se sont appuyés sur la technologie et les processus automatisés pour la gestion des effectifs de chauffeurs dans la mesure où ils ont singulièrement échoué à convaincre le tribunal que les décisions relatives aux licenciements, à la rémunération et à l'attribution du travail contenaient une intervention humaine significative.

Il est clair dans leurs soi-disant procédures de détection des fraudes qu'Uber et Ola Cabs se sont appuyés sur un degré élevé d'automatisation sans les contrôles et contrepoids appropriés de la procédure régulière, y compris un processus d'appel. Dans le cas des conducteurs innocents représentés dans cette affaire et pour beaucoup d'autres, les conséquences d'une telle prise de décision uniquement automatisée peuvent avoir des effets dévastateurs comme le tribunal l'a reconnu :

"De l'avis de la cour d'appel, il est évident que ces décisions affectent le [appelant] dans une mesure au moins considérable, car elles ont pour conséquence que les chauffeurs ne peuvent plus subvenir à leurs revenus grâce à l'utilisation de l'Uber Driver app et ne peuvent donc plus rentabiliser les investissements qu'ils ont réalisés. En outre, les allégations dans cette affaire sont graves et peuvent également avoir des répercussions (criminelles ou autres) pour [requérant] et consorts, notamment pour leurs activités futures ou futures , comme, par exemple, en ce qui concerne leur licence de taxi. De même, dans son e-mail à [l'appelant] en date du 4 août 2020, Uber a ajouté : Dans certaines circonstances, nous pouvons également informer la police si votre activité peut constituer une infraction pénale. Par ailleurs , les présentes décisions entraînent également une conséquence juridique pour [la requérante] et consorts, puisqu'Uber a ainsi mis fin à l'accord avec eux. »

Ironiquement, au Royaume-Uni, le gouvernement présentera ce mois-ci le projet de loi sur la protection des données et l'information numérique pour sa deuxième lecture au parlement. S'il est adopté, le projet de loi privera les travailleurs des protections contre la prise de décision automatisée abusive de l'employeur, comme revendiqué avec succès dans cette affaire. En outre, les travailleurs seront confrontés à un obstacle accru pour accéder aux données personnelles et pour recevoir une explication du traitement, dont l'importance a également été illustrée par cette affaire.

** James Farrar, directeur de Worker Info Exchange a déclaré : **

Cette décision est une énorme victoire pour les travailleurs de l'économie à la demande en Grande-Bretagne et dans toute l'Europe. Les protections contre l'asymétrie de l'information et les secrets commerciaux sur lesquelles les employeurs de l'économie des petits boulots s'appuient pour exploiter les travailleurs et leur refuser même les droits les plus élémentaires en matière d'emploi pour des principes fondamentaux tels que le salaire, la répartition du travail et les licenciements abusifs doivent maintenant prendre fin à la suite de cette décision. Uber, Ola Cabs et tous les autres employeurs de plateformes ne peuvent continuer à dissimuler le contrôle d'une relation de travail dans des algorithmes clandestins.

Trop de travailleurs ont vu leur vie professionnelle et leur santé mentale détruites par de fausses allégations d'activités frauduleuses sans aucune possibilité de savoir précisément quelles allégations ont été faites et encore moins d'y répondre. Au lieu de cela, pour économiser de l'argent et éviter leur responsabilité en tant qu'employeurs, les plateformes ont construit des systèmes automatisés injustes de prise de décision RH sans aucun humain dans la boucle. S'ils ne sont pas contrôlés, ces systèmes impitoyables risquent de devenir la norme dans le futur monde du travail. Je suis reconnaissant du courage moral des tribunaux exprimé dans cette importante décision.

La décision est une victoire douce-amère étant donné que le gouvernement britannique envisage de priver les travailleurs des protections mêmes revendiquées avec succès dans cette affaire. Les législateurs doivent tirer des leçons importantes de cette affaire, amender le projet de loi et protéger ces droits vitaux avant qu'il ne soit trop tard. De même, le Conseil de l'Union européenne ne doit pas hésiter à adopter la proposition de directive sur les plateformes de travail telle qu'adoptée par le Parlement européen."

** Azeem Hanif, président de l'ADCU Nottingham et membre du comité exécutif national de l'ADCU, a déclaré : **

"Je suis heureux de voir que les tribunaux ont résisté à Uber et Ola Cabs pour défendre les droits des syndicats à aider les travailleurs dans leurs revendications de transparence algorithmique au travail individuellement et d'agrégation de données à des fins de négociation collective."

** Anton Ekker de la loi Ekker représentant dans cette affaire a déclaré : **

"Les jugements d'aujourd'hui sont une grande victoire pour les chauffeurs d'Uber et d'Ola et pour toutes les personnes travaillant dans l'économie des plateformes. La transparence sur le traitement des données sur les plateformes d'Uber et d'Ola est essentielle pour que les chauffeurs fassent correctement leur travail et comprennent comment Uber prend des décisions sur Les objections pratiques et juridiques soulevées par Uber et Ola ont été largement rejetées par la Cour d'appel d'Amsterdam.

En outre, la conclusion de la Cour selon laquelle plusieurs processus automatisés sur les plateformes d'Uber et d'Ola sont qualifiés de prise de décision automatisée au sens de l'article 22 du RGPD est d'une grande importance. Il s'agit notamment d'attribuer des courses, de calculer les prix, d'évaluer les chauffeurs, de calculer les "scores de probabilité de fraude" et de désactiver les comptes des chauffeurs en cas de suspicion de fraude. Les arrêts établissent clairement que les conducteurs ont droit à des informations sur la logique sous-jacente de ces décisions."

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd