Incidentes Asociados
Una prueba de CCTV financiada con fondos federales en dos residencias de ancianos del sur de Australia, donde se utilizó inteligencia artificial para detectar caídas y gritos, produjo más de 12.000 incidentes falsos durante un período de 12 meses, según informa Ron Alalouff.
Una auditoría de la prueba realizada por PwC concluyó que la tecnología de IA "aún no era lo suficientemente precisa para detectar incidentes en un centro residencial de atención a personas mayores". Continuó indicando que, si bien la precisión del sistema mejoró con el tiempo (tal como estaba diseñado), no alcanzó un nivel aceptable para el personal y la gerencia.
El informe sobre la prueba, con un costo de 785.000 dólares australianos (aproximadamente 467.000 libras esterlinas), reveló que, en los últimos meses, el personal no pudo responder a todas las alertas, lo que resultó en al menos un caso en el que no respondió a una caída real.
El sistema de vigilancia con IA fue diseñado para capturar video y audio y alertar al personal cuando se detectaban sonidos o movimientos excesivos. Sin embargo, activó alertas por error cuando el personal se agachaba para atender a los residentes.
Grabación de video y audio
El sistema de vigilancia utilizado en la prueba consistió en cámaras y dispositivos de audio con grabación integrada, programados con IA para detectar movimientos y sonidos específicos (como caídas, llamadas de auxilio o gritos) y un centro de monitoreo externo independiente. Los operadores no visualizaron las grabaciones, pero contactaron al personal de atención al recibir alertas de incidentes por SMS. Se instalaron cámaras y grabadoras de audio en las zonas comunes (interiores y exteriores) y en las habitaciones de los residentes. Las cámaras y grabadoras de las habitaciones solo se utilizaron con el consentimiento de cada residente.
El sistema permite que, al detectar un evento, se graben los 90 segundos previos y los cinco minutos posteriores. Las grabaciones se conservan durante 60 días, tras lo cual se transfieren a un sistema de almacenamiento conectado a red (NAS), donde se almacenan durante siete años, lo que proporciona un registro de auditoría de todas las alertas recibidas.
La prueba incluyó una fase de puesta en marcha de cuatro meses para calibrar el sistema. Se realizaron varios ajustes durante el estudio piloto, entre ellos:
- Reducción de la sensibilidad de los dispositivos de grabación de audio para adaptarse a los altos niveles de ruido ambiental
- Capacitación y pruebas continuas del sistema, incluyendo la presencia del proveedor de tecnología en el sitio para demostrar los movimientos que el sistema detectaría y de los que aprendería
- Instalación de cámaras adicionales para reducir los puntos ciegos
- Una serie de parches tecnológicos para ayudar a la IA a distinguir objetos inanimados (por ejemplo, un abrigo sobre una silla) de personas, y para refinar el algoritmo de IA para mejorar la precisión
La auditoría reveló que el número de falsas alertas registradas en los sitios fue inesperado e inaceptable para el personal. La cantidad de falsas alertas en los primeros meses del estudio piloto significó que el personal de ambos sitios se vio abrumado por la carga de trabajo asociada a la respuesta a las alertas.
En los últimos meses del estudio, el personal ya no pudo responder a todas las alertas. Hubo al menos un caso en el que el personal no respondió a una alerta que resultó ser una caída real.
La IA maduró durante la prueba
A pesar del elevado número de falsas alertas, el sistema había madurado lo suficiente como para detectar algunos incidentes reales, incluyendo caídas de residentes. En los últimos tres meses del estudio (enero-marzo de 2022), el 22 % de los eventos reales fueron detectados por la tecnología de CCTV (en comparación con menos del 2 % entre julio y diciembre de 2021).
El informe reveló que diversos aspectos de la atención residencial influían en la viabilidad del sistema, entre ellos:
- El comportamiento de los residentes: Quienes son físicamente activos en sus habitaciones, por ejemplo, y quienes vocalizan con frecuencia y en voz alta tienen mayor probabilidad de ser detectados.
- El número de personas en un espacio: La presencia de varias personas en un espacio afecta la capacidad de la IA para detectar con precisión los movimientos y sonidos preprogramados; por ejemplo, cuando el cuerpo de un miembro del personal bloquea la visión de una cámara.
- Factores ambientales: La escasez de muebles y el desorden en una habitación probablemente reducían el número de alertas, mientras que el aumento del desorden, los muebles o el cambio de ubicación de estos probablemente generaban más alertas.
El informe concluyó que el sistema de CCTV no había influido ni positiva ni negativamente en la calidad ni en la seguridad de los centros. Decía: "Podemos esperar una mayor digitalización de la atención residencial y es importante aprender de ensayos como el proyecto piloto de CCTV para determinar el papel que debe desempeñar la tecnología y cómo y cuándo será apropiada para promover la calidad y la seguridad en la atención residencial. Si bien el proyecto piloto no logró las aspiraciones que se le tenían, existen muchas perspectivas que pueden ayudar a los gobiernos y al sector de la atención a personas mayores en Australia cuando consideren el uso de tecnologías de vigilancia en la atención residencial".
Alertas falsas
El ministro de Salud de Australia Meridional, Chris Picton, declaró a ABC News que 12 000 alertas falsas eran "completamente inaceptables".
"Eso significaba que el personal tenía que responder una y otra vez a los informes falsos que alertaba este sistema; eso significaba que estaban perdiendo tiempo de la atención a los pacientes en la cama", declaró.
"El informe señala que, si bien se registraron algunos casos de informes verdaderos, el personal no respondió porque se convirtió en un caso de la misma persona que gritó "¡Lobo!"".
South Australia Health ha publicado un documento de debate sobre el papel de la vigilancia y el seguimiento en el cuidado de las personas mayores, incluidos los diferentes tipos de tecnología disponibles.