Description: A facial-recognition software used by the British variety store Home Bargains is alleged to have misidentified "Sara" as a shoplifter, leading to staff searching her bag, escorting her from the premises, and banning her from the store. After, Facewatch is reported to have admitted its error to Sara. Facewatch is used by a number of different British stores.
Editor Notes: Incidents 691 and 692 are paired together in the reporting, but they are two separate, discrete harm events. I have created distinct incident IDs for each while replicating the reporting for each one.
Alleged: Facewatch developed an AI system deployed by Home Bargains, which harmed Sara , Home Bargains customers と General public.
インシデントのステータス
インシデントID
691
レポート数
2
インシデント発生日
2024-05-25
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン
bbc.com · 2024
- 情報源として元のレポートを表示
- インターネットアーカイブでレポートを表示
Sara needed some chocolate - she had had one of those days - so wandered into a Home Bargains store.
"Within less than a minute, I'm approached by a store worker who comes up to me and says, 'You're a thief, you need to leave the store'."
S…
thetimes.co.uk · 2024
- 情報源として元のレポートを表示
- インターネットアーカイブでレポートを表示
Shoppers have been warned that facial recognition software used by stores is wrongly identifying some innocent customers as thieves.
A woman said that an employee at Home Bargains, the variety store chain, accused her of being a shoplifter …
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
