Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる

レポート 5346

関連インシデント

インシデント 11095 Report
Year-long AI Surveillance Pilot in Two South Australian Aged Care Facilities Reportedly Overwhelmed Staff with False Positives

Loading...
高齢者介護施設の防犯カメラで人工知能を使った実験を行った結果、誤報が多すぎると大臣が発言
abc.net.au · 2022

南オーストラリア州の保健大臣は、連邦政府の資金援助を受けた高齢者住宅におけるCCTV設置の試験運用で、職員があまりにも多くの事件に気付き、「まるで『狼少年』の事件」になったと述べた。

この12ヶ月間の試験運用は、高齢者施設の共用エリアと寝室の両方にCCTVを設置する可能性を調査するものだった。これは、家族が設置したカメラが虐待を暴露したことを受けてのことだ。(https://www.abc.net.au/news/2016-07-25/secret-camera-captures-nursing-home-attempted-suffocation/7624770)

転倒や悲鳴を検知するよう設計された人工知能技術を組み込んだこれらのカメラは、高齢者虐待およびネグレクト事件、および高齢者ケアの質と安全に関する王立委員会による衝撃的な調査結果を受けて設置されました。

南オーストラリア州のクリス・ピクトン保健大臣は、南オーストラリア州の2つの高齢者介護施設で実施されたオーストラリア初の1年間の試験運用で、職員に1万2000件の誤報が通報されたと述べ、「全く容認できない」と非難した。

「職員はこのシステムから発せられる誤報に何度も対応しなければならず、ベッドサイドで患者のケアに費やす時間を奪っていた」とピクトン保健大臣は述べた。

報告書によると、78万5000ドルを投じた試験運用の最終数か月間、職員はすべての通報に対応できず、少なくとも1件は実際の転倒事故に対応できなかったという。

「報告書では、実際に記録された通報の中には真実の通報がいくつかあったものの、職員が対応していなかったケースがあり、まるで「狼少年」のようになってしまったと指摘している」とピクトン氏は述べた。

「偽の通報があまりにも多く、実際に真実の通報が1件でもあれば、必ずしもその通報に必要な優先順位が付けられるわけではない」

自動アラートが職員を圧倒

マウント・プレザント地区病院とノースゲート・ハウスで使用されている人工知能技術は、映像と音声をキャプチャし、過度の音や動きを検知すると現場にアラートを発していた。

しかし、職員が入居者のケアのためにしゃがんだり、かがんだりした際に、システムは誤ってアラートを発していた。

報告書は、職員不足やその他の労働力への負担という状況下で、監視カメラに関連する追加作業負荷については慎重に検討する必要があると指摘しました。両施設において、警報が職員の負担を増大させていたためです。

独立監査では、「システムの精度は設計通り時間の経過とともに向上しましたが、12ヶ月間では、施設の職員と経営陣が許容できるレベルには達しませんでした」と指摘されています。

この試験運用は、前州政府と連邦政府の支援を受けて、2021年3月に開始されました。

英国の高齢者介護施設を監視する視聴覚モニタリング会社Care Protectがこの技術を導入する予定でしたが、試験運用から撤退し、州政府は代わりにアデレードのSturdie Trade Services社を採用しました。

このプロジェクトは、高齢者施設における虐待、危害、ネグレクトのリスクを最小限に抑えるために導入されましたが、ピクトン氏は、当局は今後、新たな解決策を見つけなければならないと述べました。

「これは完全に失敗したプログラムだったので、明らかにゼロから始めなければなりません」とピクトン氏は述べました。

ピクトン氏は、州政府は今後、地域社会や高齢者介護部門の関係者と協議し、高齢者の安全を守るためにテクノロジーをどのように活用できるかを検討すると述べました。

大臣は、CCTVは将来的にも活用できる可能性があるものの、今回の実験から学ぶ必要があると述べました。

しかし、連邦保健高齢者ケア省の広報担当者は、報告書には多くの有益な知見があったと述べています。

「例えば、この調査では、実験に参加した高齢者介護施設の入居者、家族、そして職員の間で、この技術が広く受け入れられていることが示されました」と彼女は述べました。

「誤報の件数は、南オーストラリア州保健省の予想を上回っていました。これらの誤報によって入居者や職員が危険にさらされたわけではないことを指摘しておくことが重要です。」

同省は、現在さらなる試験運用は検討されていないものの、将来的にCCTVを使用する可能性を排除していないと述べました。

南オーストラリア州野党の高齢化対策担当報道官ペニー・プラット氏は、この試験運用は労働党政権下でオークデン精神科高齢者介護施設の入居者への虐待を理由に実施されたと述べました。

プラット氏は、「どんな技術にも限界があることは誰もが承知しており、その結果、一部の患者に過剰な対応が行われました。それでも、労働党が何もしないという選択肢よりはましです」と述べました。

情報源を読む

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd