Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 5346

Incidentes Asociados

Incidente 11095 Reportes
Year-long AI Surveillance Pilot in Two South Australian Aged Care Facilities Reportedly Overwhelmed Staff with False Positives

Loading...
El ensayo de CCTV en un centro de atención a personas mayores que utiliza inteligencia artificial dio como resultado demasiados informes falsos, afirma el ministro.
abc.net.au · 2022

Una prueba de CCTV financiada con fondos federales en residencias de ancianos alertó al personal de tantos incidentes que se convirtió en un caso de "el niño que gritó lobo", según el Ministro de Salud de Australia Meridional.

La prueba, de 12 meses de duración, investigó la posibilidad de utilizar CCTV tanto en zonas comunes como en dormitorios de residencias de ancianos, después de que cámaras [instaladas por familiares] revelaran abusos (https://www.abc.net.au/news/2016-07-25/secret-camera-captures-nursing-home-attempted-suffocation/7624770).

Las cámaras, que incorporaban tecnología de inteligencia artificial diseñada para detectar caídas y gritos, se instalaron tras casos de abuso y negligencia a personas mayores (https://www.abc.net.au/news/2019-06-24/aged-care-royal-commission-hears-abuse-allegations-japara/11241700) y los impactantes hallazgos de la Comisión Real para la Calidad y Seguridad de la Atención a Personas Mayores (https://www.abc.net.au/news/2021-03-02/aged-care-royal-commission-final-report-key-takeaways/13203508). El Ministro de Salud de Australia Meridional, Chris Picton, afirmó que el primer ensayo clínico de un año de duración en Australia (https://www.abc.net.au/news/2019-04-11/cctv-to-be-used-in-aged-care-homes-in-australian-first-trial/10992192), realizado en dos residencias de ancianos del sur de Australia, alertó al personal sobre 12.000 incidentes falsos, que calificó de "completamente inaceptables".

"Esto implicaba que el personal tenía que responder repetidamente a los informes falsos que alertaba este sistema; lo que implicaba que les quitaban tiempo para atender a los pacientes en persona", declaró el Sr. Picton.

El informe reveló que, en los últimos meses del ensayo clínico, con un costo de 785.000 dólares, el personal no pudo responder a todas las alertas, lo que resultó en al menos un caso en el que no respondió a una caída real.

"El informe señala que, si bien se registraron algunos casos de denuncias verdaderas, el personal no respondió, ya que se convirtió en un caso de la falsa alarma", dijo el Sr. Picton.

"Si hay tantas denuncias falsas, y cuando hay una verdadera, no necesariamente se le dará la prioridad que merece".

Las alertas automáticas abrumaron al personal

La tecnología de inteligencia artificial utilizada en el Hospital de Distrito de Mount Pleasant y Northgate House capturó video y audio, y alertó a los centros cuando se detectaron sonidos o movimientos excesivos.

Pero el sistema activó una alerta por error cuando el personal se agachaba para atender a los residentes.

El informe señaló que, en el contexto de la escasez de personal y otras presiones laborales, cualquier carga de trabajo adicional asociada con las cámaras de vigilancia debía considerarse cuidadosamente, ya que, en ambas residencias, las alertas abrumaban al personal.

"Si bien la precisión del sistema mejoró con el tiempo (tal como estaba diseñado), a lo largo de los 12 meses, no alcanzó un nivel aceptable para el personal y la gerencia de las residencias", concluyó la auditoría independiente.

La prueba comenzó en marzo de 2021, con el respaldo de los anteriores gobiernos estatal y federal.

La empresa de monitoreo audiovisual Care Protect, que monitorea residencias de ancianos en el Reino Unido, iba a implementar la tecnología, pero se retiró de la prueba, y el gobierno estatal optó por contratar a Sturdie Trade Services de Adelaida. El proyecto se implementó para minimizar el riesgo de abuso, daño y negligencia en residencias, pero el Sr. Picton afirmó que las autoridades ahora tendrían que buscar una nueva solución.

"Claramente, ahora tenemos que empezar de cero, porque este fue un programa completamente fallido", declaró.

El Sr. Picton indicó que el gobierno estatal consultaría con la comunidad y las partes interesadas del sector de atención a la tercera edad para analizar cómo se podría seguir utilizando la tecnología para brindar protección a las personas mayores.

El ministro afirmó que aún existía potencial para el uso de CCTV en el futuro, pero que era necesario aprender lecciones del ensayo.

Sin embargo, una portavoz del Departamento Federal de Salud y Atención a la Tercera Edad afirmó que el informe contenía varias conclusiones útiles.

"Por ejemplo, el estudio mostró un amplio grado de aceptación entre los residentes, las familias y el personal de atención a la tercera edad que participó en el ensayo", afirmó.

El número de falsas alertas fue mayor de lo previsto por el Departamento de Salud de Australia Meridional. Es importante destacar que estas falsas alertas no pusieron en peligro a ningún residente ni al personal.

El departamento indicó que no se estaban considerando más ensayos, pero no descartó el uso de circuito cerrado de televisión (CCTV) en el futuro.

La portavoz de la oposición de Australia Meridional en materia de envejecimiento, Penny Pratt, explicó que el ensayo se llevó a cabo debido al maltrato a los residentes del centro de atención para personas mayores de salud mental Oakden bajo el gobierno laborista (https://www.abc.net.au/news/2017-04-20/makk-and-mcleay-nursing-home-history-of-problems/8454856).

"Todos sabemos que cualquier tecnología puede tener limitaciones y, como resultado, algunos pacientes recibieron una atención excesiva, lo cual es mejor que la alternativa laborista de no hacer nada", declaró la Sra. Pratt.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd