このオーストラリア初のプロジェクトは、ケアを受けている入居者のモニタリングを支援するカメラとAIの活用を試験的に実施し、職員の負担軽減を図ることを目的としていました。
しかしながら、PwCによるこの試験的プロジェクトのレビュー（[pdf]）では、この技術が誤検知率を非常に高く設定していたため、職員の警戒疲れが生じ、入居者が転倒するという実際の事故が少なくとも1件発生しましたが、対応が遅れました。
この技術は、「転倒、介助、救助要請、および／または叫び声」と定義された4つの主要なイ ンシデントタイプを検知するようにプログラムされていました。
しかし、PwCは当初から「これらのイベントのプログラム方法が、施設の入居者の一般的な行動パターンと十分に一致していない」という懸念があることに気付きました。
さらに、このシステムは施設内の騒音レベルに過度に敏感になるように調整されており、修正が行われるまで無生物と人を区別することができませんでした。
その結果、現場のスタッフと施設管理者を圧倒するほどの「誤報」が大量に発生しました。
PwCは、「SA Healthと試験運用施設では、1日あたり10件の誤報を閾値として想定していた」と述べています。
平均すると、1日あたりの誤報件数はその3倍となり、1年間の試験期間中、2つの施設で1万2000件を超えました。
調査によると、「これらのアラートの多くは、職員が入居者を動かすために膝を曲げる（しゃがむ）動作を伴う座り込み転倒事象だった」という。
試験期間中、AIアルゴリズムは「居住型ケアにおいて当然予想される動きや音」を問題事象としてフラグ付けし、繰り返しアラートを発した。
アルゴリズムは実際に問題となる事象の検出能力が向上したものの、12ヶ月間の試験運用期間が終了した後も、「2つの施設全体で依然として毎月多数の誤アラートを発していた」とPwCは指摘した。
「試験運用の最終数ヶ月間、職員はもはやすべてのアラートに対応できなくなっていた」とPwCは述べている。
「職員がアラートに対応しなかった事例が、実際には『真の』入居者の転倒事象であったことが判明した」という。
PwCの調査は、この研究から導き出される結論に ついて慎重な姿勢を示している。
例えば、PwCは技術自体の能力を検証しておらず、試験運用のアプローチにおいて、高齢者介護施設への導入に必要な時間を過小評価していた可能性があると付け加えています。
「高齢者施設全体でこの技術を試験運用する前に、より包括的で状況に応じたテストを実施することで、導入の改善につながる可能性があります」と、このコンサルタント会社は助言しました。
さらに、「AIを監視システムの一部として使用する場合は、AIを使用状況に合わせてトレーニングするのにかかる時間を過小評価すべきではありません」と付け加えました。
また、入居者は誤検知について概ね懸念しておらず、混乱を招くこともなく、場合によっては追加の注意喚起に安心感を覚えることもあったと指摘しています。
しかし、PwCは、12ヶ月間の試験運用期間終了時点でも、この技術が高齢者介護の質と安全性に実質的な変化をもたらしたかどうかについては、結論が出ていないと述べています。
PwCの報告書の発表と同時期に放映されたテレビでのコメントの中で、南オーストラリア州のクリス・ピクトン保健福祉大臣は「過去1年間に行われたこの試験の展開は完全に失敗だった」と述べた。