インシデント 250の引用情報

Description: A home value generated by a black-box algorithm was reportedly defended by the Castricum court, which was criticized by a legal specialist for setting a dangerous precedent for accepting black-box algorithms as long as their results appear reasonable.

組織

すべての組織を表示
Alleged: Castricum municipality developed and deployed an AI system, which harmed unnamed property owner.

インシデントのステータス

インシデントID
250
レポート数
1
インシデント発生日
2016-02-01
エディタ
Khoa Lam
Applied Taxonomies
CSETv1, CSETv1_Annotator-3, CSETv1_Annotator-1, GMF

CSETv1_Annotator-1 分類法のクラス

分類法の詳細

Incident Number

250

CSETv1_Annotator-3 分類法のクラス

分類法の詳細

Incident Number

250

AI Tangible Harm Level Notes

It is unclear if the property value estimate provided by the algorithm is exaggerated or accurate. If it is exaggerated, there would be a tangible harm event. If not, there is no tangible harm.

Notes (special interest intangible harm)

The harm of this incident is the acceptance of a property value estimate by the Court, despite the process of estimation violating the right to an explanation of automated decisions under the GDPR.

Special Interest Intangible Harm

yes

インシデントレポート

レポートタイムライン

Incident OccurrenceDutch city uses algorithm to assess home value, but has no idea how it works
Dutch city uses algorithm to assess home value, but has no idea how it works
algorithmwatch.org · 2020

In a seemingly routine case at the Amsterdam court of appeal, a judge ruled that it was acceptable for a municipality to use a black-box algorithm, as long as the results were unsurprising.

In 2016, the municipality of Castricum, a seaside …

バリアント

「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
前のインシデント次のインシデント