概要: 2021年3月から2022年3月にかけて、南オーストラリア州の2つの高齢者介護施設で、AIを活用した映像・音声監視システムの試験運用が行われました。南オーストラリア州保健省が委託した独立監査によると、このシステムは1万2000件以上の誤報を発し、職員の負担を増大させ、少なくとも1件の実際の事故を見逃す一因となったとのことです。報告書は、試験運用期間中、システムの精度は職員や管理者にとって許容できるレベルに達していなかったと結論付けています。
Editor Notes: Timeline note: The AI-enabled CCTV surveillance trial in two South Australian aged care facilities reportedly began around March 2021 and concluded around March 2022. This incident was ingested into the AIID on 06/20/2025.
Alleged: Sturdie Trade Services developed an AI system deployed by South Australia Health, which harmed Residents and staff of Northgate House , Residents and staff of Mount Pleasant District Hospital , Northgate House と Mount Pleasant District Hospital.
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
7.3. Lack of capability or robustness
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- AI system safety, failures, and limitations
Entity
Which, if any, entity is presented as the main cause of the risk
AI
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Unintentional
インシデントレポート
レポートタイムライン
Loading...
南オーストラリア州の保健大臣は、連邦政府の資金援助を受けた高齢者住宅におけるCCTV設置の試験運用で、職員があまりにも多くの事件に気付き、「まるで『狼少年』の事件」になったと述べた。
この12ヶ月間の試験運用は、高齢者施設の共用エリアと寝室の両方にCCTVを設置する可能性を調査するものだった。これは、家族が設置したカメラが虐待を暴露したことを受けてのことだ。(https://www.abc.net.au/news/2016-07-25/secret-camera-captur…
Loading...