Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
自動翻訳済み

インシデント 1109: 南オーストラリア州の2つの高齢者介護施設で1年間実施されたAI監視パイロットでは、職員が誤検知に圧倒されたと報じられている。

自動翻訳済み
概要:
自動翻訳済み
2021年3月から2022年3月にかけて、南オーストラリア州の2つの高齢者介護施設で、AIを活用した映像・音声監視システムの試験運用が行われました。南オーストラリア州保健省が委託した独立監査によると、このシステムは1万2000件以上の誤報を発し、職員の負担を増大させ、少なくとも1件の実際の事故を見逃す一因となったとのことです。報告書は、試験運用期間中、システムの精度は職員や管理者にとって許容できるレベルに達していなかったと結論付けています。
Editor Notes: Timeline note: The AI-enabled CCTV surveillance trial in two South Australian aged care facilities reportedly began around March 2021 and concluded around March 2022. This incident was ingested into the AIID on 06/20/2025.

ツール

新しいレポート新しいレポート新しいレスポンス新しいレスポンス発見する発見する履歴を表示履歴を表示

組織

すべての組織を表示
Alleged: Sturdie Trade Services developed an AI system deployed by South Australia Health, which harmed Residents and staff of Northgate House , Residents and staff of Mount Pleasant District Hospital , Northgate House と Mount Pleasant District Hospital.
関与が疑われるAIシステム: AI-enabled video and audio surveillance system for fall/scream detection

インシデントのステータス

インシデントID
1109
レポート数
5
インシデント発生日
2021-03-01
エディタ
Daniel Atherton

インシデントレポート

レポートタイムライン

Incident Occurrence+3
高齢者介護施設の防犯カメラで人工知能を使った実験を行った結果、誤報が多すぎると大臣が発言
弱者を守るのか、それとも危害を自動化するのか?虐待を発見するAIの両刃の剣
高齢者介護施設の防犯カメラで人工知能を使った実験を行った結果、誤報が多すぎると大臣が発言

高齢者介護施設の防犯カメラで人工知能を使った実験を行った結果、誤報が多すぎると大臣が発言

abc.net.au

高齢者介護AIカメラの試験運用で「失敗」、1万2000件の誤報を発生

高齢者介護AIカメラの試験運用で「失敗」、1万2000件の誤報を発生

innovationaus.com

南オーストラリア州の高齢者介護AI試験で1万2000件の誤報が発生

南オーストラリア州の高齢者介護AI試験で1万2000件の誤報が発生

itnews.com.au

介護施設のAIビデオ監視試験で誤報が多すぎると監査人が指摘

介護施設のAIビデオ監視試験で誤報が多すぎると監査人が指摘

ifsecglobal.com

弱者を守るのか、それとも危害を自動化するのか?虐待を発見するAIの両刃の剣

弱者を守るのか、それとも危害を自動化するのか?虐待を発見するAIの両刃の剣

theconversation.com

高齢者介護施設の防犯カメラで人工知能を使った実験を行った結果、誤報が多すぎると大臣が発言
abc.net.au · 2022
自動翻訳済み

南オーストラリア州の保健大臣は、連邦政府の資金援助を受けた高齢者住宅におけるCCTV設置の試験運用で、職員があまりにも多くの事件に気付き、「まるで『狼少年』の事件」になったと述べた。

この12ヶ月間の試験運用は、高齢者施設の共用エリアと寝室の両方にCCTVを設置する可能性を調査するものだった。これは、家族が設置したカメラが虐待を暴露したことを受けてのことだ。(https://www.abc.net.au/news/2016-07-25/secret-camera-captur…

高齢者介護AIカメラの試験運用で「失敗」、1万2000件の誤報を発生
innovationaus.com · 2022
自動翻訳済み

南オーストラリア州の高齢者介護施設2カ所で、転倒や虐待を検知するために設計されたAIベースの監視技術を12ヶ月間試験的に導入したところ、1万2000件以上の誤報が出されたことが調査で明らかになった。

膨大な数の警報が警報疲労を引き起こし、すでに多忙を極めていた職員は「圧倒」され、少なくとも1件の事例では、頻繁な誤報のために職員が入居者の転倒事故に対応できなかった。

CCTVの試験的導入は2021年3月にマウントプレザント高齢者介護施設とホートゲートハウスで開始され、共用エリア…

南オーストラリア州の高齢者介護AI試験で1万2000件の誤報が発生
itnews.com.au · 2022
自動翻訳済み

このオーストラリア初のプロジェクトは、ケアを受けている入居者のモニタリングを支援するカメラとAIの活用を試験的に実施し、職員の負担軽減を図ることを目的としていました。

しかしながら、PwCによるこの試験的プロジェクトのレビュー([pdf])では、この技術が誤検知率を非常に高く設定していたため、職員の警戒疲れが生じ、入居者が転倒するという実際の事故が少なくとも1件発生しましたが、対応が遅れました。

この技術は、「転倒、介助、救助要請、および/または叫び声」と定義された4つの主要…

介護施設のAIビデオ監視試験で誤報が多すぎると監査人が指摘
ifsecglobal.com · 2022
自動翻訳済み

ロン・アラルーフ氏の報告によると、南オーストラリア州の2つの介護施設で連邦政府の資金援助を受けて実施されたCCTVシステムの試験運用では、転倒や悲鳴を検知するために人工知能が活用されましたが、12ヶ月間で1万2000件以上の誤検知が発生しました。

PwCによる試験運用の監査では、AI技術は「高齢者向け住宅における事故検知において、まだ十分な精度に達していない」ことが判明しました。さらに、システムの精度は設計通り時間の経過とともに向上したものの、職員や経営陣が許容できるレベルに…

弱者を守るのか、それとも危害を自動化するのか?虐待を発見するAIの両刃の剣
theconversation.com · 2025
自動翻訳済み

人工知能(AI)は、虐待を防止し、社会的に弱い立場にある人々(里親家庭の子ども)(https://imprintnews.org/top-stories/in-a-new-study-georgia-professor-explores-the-use-of-artificial-intelligence-in-the-child-welfare-field/256116)、老人ホームの成人、そして学校に通う生徒(https://scienceblog.cincinnatic…

バリアント

「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか?

よく似たインシデント

テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

Australian Automated Debt Assessment System Issued False Notices to Thousands

Australian Automated Debt Assessment System Issued False Notices to Thousands

Jul 2015 · 39 レポート
Australian Retailers Reportedly Captured Face Prints of Their Customers without Consent

Australian Retailers Reportedly Captured Face Prints of Their Customers without Consent

May 2022 · 2 レポート
Facial Recognition Trial Performed Poorly at Notting Hill Carnival

Facial Recognition Trial Performed Poorly at Notting Hill Carnival

Aug 2017 · 4 レポート
前のインシデント次のインシデント

よく似たインシデント

テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

Australian Automated Debt Assessment System Issued False Notices to Thousands

Australian Automated Debt Assessment System Issued False Notices to Thousands

Jul 2015 · 39 レポート
Australian Retailers Reportedly Captured Face Prints of Their Customers without Consent

Australian Retailers Reportedly Captured Face Prints of Their Customers without Consent

May 2022 · 2 レポート
Facial Recognition Trial Performed Poorly at Notting Hill Carnival

Facial Recognition Trial Performed Poorly at Notting Hill Carnival

Aug 2017 · 4 レポート

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 69ff178