Problème 5347

Un essai de vidéosurveillance financé par le gouvernement fédéral dans deux maisons de retraite d'Australie du Sud – où l'intelligence artificielle a été utilisée pour détecter les chutes et les cris – a généré plus de 12 000 faux incidents sur une période de 12 mois, comme le rapporte Ron Alalouff.

Un audit de l'essai réalisé par PwC a révélé que la technologie d'IA n'était « pas encore suffisamment précise pour détecter les incidents dans un établissement de soins pour personnes âgées ». L'étude a également indiqué que, bien que la précision du système se soit améliorée au fil du temps (comme prévu), elle n'atteignait pas un niveau acceptable pour le personnel et la direction.

Le rapport sur cet essai, d'un coût de 785 000 AUD (environ 467 000 £), a révélé qu'au cours des derniers mois, le personnel n'a pas pu répondre à toutes les alertes, ce qui a entraîné au moins un cas où il n'a pas réagi à une chute réelle.

Le système de surveillance par IA était conçu pour capturer des images et des sons et alerter le personnel en cas de détection de bruits ou de mouvements excessifs. Cependant, il a déclenché des alertes par erreur lorsque le personnel s'accroupissait ou se baissait pour s'occuper des résidents.

Enregistrement vidéo et audio

Le système de surveillance utilisé lors de l'essai comprenait des caméras et des dispositifs audio avec enregistrement intégré, programmés par IA pour détecter des mouvements et des sons spécifiques (chutes, appels à l'aide ou cris), ainsi qu'un centre de surveillance indépendant hors site. Les opérateurs ne visionnaient aucune vidéo, mais contactaient le personnel soignant dès qu'ils recevaient des alertes SMS concernant des incidents. Des caméras et des enregistreurs audio ont été installés dans les espaces communs (intérieurs et extérieurs) et dans les chambres des résidents. L'utilisation de ces caméras et enregistreurs dans les chambres n'était possible qu'avec le consentement de chaque résident.

Le système permet d'enregistrer les 90 secondes précédant l'événement et les cinq minutes qui le suivent lorsqu'il est détecté. Les images sont conservées pendant 60 jours, puis transférées vers un système de stockage en réseau (NAS) pendant sept ans, fournissant ainsi une piste d'audit pour toutes les alertes reçues.

L'essai comprenait une phase de mise en service de quatre mois pour calibrer le système. Plusieurs ajustements ont été apportés au cours de l'étude pilote, notamment :

• Réduction de la sensibilité des appareils d'enregistrement audio pour s'adapter aux niveaux de bruit ambiant élevés
• Formation et tests continus du système, notamment la présence du fournisseur de technologie sur site pour démontrer les mouvements afin que le système puisse les détecter et en tirer des enseignements
• Installation de caméras supplémentaires pour réduire les angles morts
• Mise en place de correctifs technologiques pour aider l'IA à distinguer les objets inanimés (par exemple, un manteau posé sur une chaise) des personnes, et pour affiner l'algorithme d'IA afin d'en améliorer la précision

L'audit a révélé que le nombre de fausses alertes enregistrées sur les sites était inattendu et inacceptable pour le personnel. Ce nombre au cours des premiers mois de l'étude pilote a débordé le personnel des deux sites par la charge de travail liée à la réponse aux alertes.

Au cours des derniers mois de l'étude, le personnel n'était plus en mesure de répondre à toutes les alertes. Il y a eu au moins un cas où le personnel n'a pas répondu à une alerte qui s'est avérée être une chute réelle.

L'IA a gagné en maturité pendant l'essai

Malgré le nombre élevé de fausses alertes, le système était suffisamment mature pour détecter certains incidents réels, notamment les chutes de résidents. Au cours des trois derniers mois de l'étude (janvier-mars 2022), 22 % des événements réels ont été détectés par la vidéosurveillance (contre moins de 2 % entre juillet et décembre 2021).

Le rapport a révélé que plusieurs aspects des soins résidentiels avaient un impact sur la faisabilité du système, notamment :

• Le comportement des résidents : ceux qui sont physiquement actifs dans leur chambre, par exemple, et ceux qui vocalisent souvent et fort sont plus susceptibles d’être détectés.
• Le nombre de personnes présentes dans un espace : la présence de plusieurs personnes dans un espace affecte la capacité de l’IA à détecter avec précision les mouvements et les sons préprogrammés, par exemple lorsque le corps d’un membre du personnel bloque le champ de vision d’une caméra.
• Les facteurs environnementaux : un mobilier et un encombrement réduits dans une chambre étaient susceptibles de réduire le nombre d’alertes, tandis qu’un encombrement accru, le déplacement du mobilier ou l’augmentation de l’emplacement du mobilier étaient susceptibles d’entraîner un plus grand nombre d’alertes.

Le rapport a conclu que le système de vidéosurveillance n’avait eu aucune influence négative ou positive sur la qualité et la sécurité des établissements. Il a déclaré : « Nous pouvons nous attendre à une numérisation accrue des soins en établissement, et il est important de tirer les leçons d’essais comme le projet pilote de vidéosurveillance afin de déterminer le rôle de la technologie, ainsi que la manière et le moment opportuns pour garantir la qualité et la sécurité des soins en établissement. Bien que le projet pilote n’ait pas atteint les objectifs fixés, de nombreuses informations peuvent être utiles aux gouvernements et au secteur des soins aux personnes âgées en Australie lorsqu’ils envisagent l’utilisation de technologies de surveillance dans les soins en établissement. »

Cri au loup

Le ministre de la Santé d’Australie-Méridionale, Chris Picton, a déclaré à ABC News que 12 000 fausses alertes étaient « totalement inacceptables ».

« Cela signifiait que le personnel devait réagir à maintes reprises à de fausses alertes provenant de ce système ; cela signifiait qu’il perdait du temps à soigner les patients au chevet des patients », a-t-il déclaré.

« Le rapport souligne que lorsque des signalements avérés ont été constatés, le personnel n’y a pas réagi, car c’est devenu un cas de « jeune homme qui crie au loup ». »

South Australia Health a publié un document de discussion sur le rôle de la surveillance et du suivi dans les soins aux personnes âgées, y compris les différents types de technologies disponibles.