インシデント 665の引用情報

Description: A facial recognition system at New World Westend supermarket misidentified a Māori woman as a known offender during its trial. The woman was wrongfully accused of trespassing and experienced public embarrassment, raising concerns about racial bias and the technology's accuracy. The supermarket acknowledged its error and apologized.

ツール

新しいレポート新しいレスポンス発見する履歴を表示

組織

すべての組織を表示

Alleged: Foodstuffs developed an AI system deployed by Foodstuffs と New World Westend, which harmed Te Ani Solomon と Māori Community.

インシデントのステータス

インシデントID

665

レポート数

インシデント発生日

2024-04-02

エディタ

Daniel Atherton

インシデントレポート

レポートタイムライン

Supermarket facial recognition trial: Rotorua mother's "discrimination" ordeal

nzherald.co.nz

nzherald.co.nz · 2024

A Māori mum misidentified as a trespassed “thief” at a Rotorua supermarket trialling facial recognition technology says she felt “racially discriminated” against and embarrassed during the “horrible” birthday incident.

The supermarket, New …

バリアント

「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください

レビュー前

インシデント発生日:

2024-04-17

インシデント状況の説明

It is not surprising that a supermarket trialling facial recognition technology mistakenly identified a Māori woman as a thief, Māori AI (artificial intelligence) and data experts say.

The woman was shopping at New World in Rotorua - one of 25 Foodstuffs’ North Island supermarkets trialling the technology - when she was approached by two staff members and asked to leave the store.

入力／出力

https://www.nzherald.co.nz/kahu/foodstuffs-facial-recognition-trial-maori-woman-mistaken-as-thief-not-surprising-experts-say/3DH6KYDHZ5GNVDUBHW5PARFGDM/