インシデント 94の引用情報

Description: In December 2020, an Italian court ruled that Deliveroo’s employee ‘reliability’ algorithm illegally discriminated against workers with legitimate reasons for cancelling shifts.

組織

すべての組織を表示
推定: Deliverooが開発し提供したAIシステムで、Deliveroo workers with legitimate reasons for cancelling shifts と Deliveroo workersに影響を与えた

インシデントのステータス

インシデントID
94
レポート数
2
インシデント発生日
2020-11-27
エディタ
Sean McGregor, Khoa Lam
Applied Taxonomies
CSETv0, CSETv1, GMF, MIT

CSETv1 分類法のクラス

分類法の詳細

Incident Number

94

CSETv0 分類法のクラス

分類法の詳細

Problem Nature

Specification

Physical System

Software only

Level of Autonomy

High

Nature of End User

Amateur

Public Sector Deployment

No

Data Inputs

employee activity history, shift schedules

MIT 分類法のクラス

Machine-Classified
分類法の詳細

Risk Subdomain

1.1. Unfair discrimination and misrepresentation

Risk Domain

  1. Discrimination and Toxicity

Entity

AI

Timing

Post-deployment

Intent

Unintentional

Italian court rules against ‘discriminatory’ Deliveroo rider-ranking algorithm
techcrunch.com · 2021

A court in Italy has dealt a blow to unalloyed algorithmic management after a legal challenge brought by three unions. The Bologna court ruled that a reputational-ranking algorithm used by on-demand food delivery platform Deliveroo discrimi…

Court Rules Deliveroo Used 'Discriminatory' Algorithm
vice.com · 2021

An algorithm used by the popular European food delivery app Deliveroo to rank and offer shifts to riders is discriminatory, an Italian court ruled late last week, in what some experts are calling a historic decision for the gig economy. The…

バリアント

「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください

よく似たインシデント

テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

Facial Recognition Program in São Paulo Metro Stations Suspended for Illegal and Disproportionate Violation of Citizens’ Right to Privacy

São Paulo subway ordered to suspend use of facial recognition

· 3 レポート
Amazon Flex Drivers Allegedly Fired via Automated Employee Evaluations

War veteran fired from Amazon for automated email with no chance to defend himself

· 5 レポート
COMPAS Algorithm Performs Poorly in Crime Recidivism Prediction

A Popular Algorithm Is No Better at Predicting Crimes Than Random People

· 22 レポート
前のインシデント次のインシデント