Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Traducido por IA

Incidente 1109: Un programa piloto de vigilancia con IA de un año de duración en dos centros de atención a personas mayores del sur de Australia habría abrumado al personal con falsos positivos.

Traducido por IA
Descripción:
Traducido por IA
Entre marzo de 2021 y marzo de 2022, se probó un sistema de monitoreo de video y audio con IA en dos centros de atención para personas mayores de Australia del Sur. Según una auditoría independiente encargada por South Australia Health, el sistema generó más de 12 000 alertas falsas, lo que abrumó al personal y contribuyó a que se pasara por alto al menos un incidente real. El informe concluyó que el sistema no alcanzó niveles de precisión aceptables para el personal ni la gerencia durante la prueba piloto.
Editor Notes: Timeline note: The AI-enabled CCTV surveillance trial in two South Australian aged care facilities reportedly began around March 2021 and concluded around March 2022. This incident was ingested into the AIID on 06/20/2025.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial

Entidades

Ver todas las entidades
Alleged: Sturdie Trade Services developed an AI system deployed by South Australia Health, which harmed Residents and staff of Northgate House , Residents and staff of Mount Pleasant District Hospital , Northgate House y Mount Pleasant District Hospital.
Sistema de IA presuntamente implicado: AI-enabled video and audio surveillance system for fall/scream detection

Estadísticas de incidentes

ID
1109
Cantidad de informes
5
Fecha del Incidente
2021-03-01
Editores
Daniel Atherton

Informes del Incidente

Cronología de Informes

Incident Occurrence+3
El ensayo de CCTV en un centro de atención a personas mayores que utiliza inteligencia artificial dio como resultado demasiados informes falsos, afirma el ministro.
¿Proteger a los vulnerables o automatizar el daño? El doble filo de la IA en la detección del abuso.
El ensayo de CCTV en un centro de atención a personas mayores que utiliza inteligencia artificial dio como resultado demasiados informes falsos, afirma el ministro.

El ensayo de CCTV en un centro de atención a personas mayores que utiliza inteligencia artificial dio como resultado demasiados informes falsos, afirma el ministro.

abc.net.au

Una prueba fallida de una cámara con inteligencia artificial en un centro de atención a personas mayores generó 12.000 alertas falsas.

Una prueba fallida de una cámara con inteligencia artificial en un centro de atención a personas mayores generó 12.000 alertas falsas.

innovationaus.com

Un ensayo de inteligencia artificial en centros de atención a personas mayores en Australia del Sur generó 12.000 falsas alarmas

Un ensayo de inteligencia artificial en centros de atención a personas mayores en Australia del Sur generó 12.000 falsas alarmas

itnews.com.au

Un ensayo sobre videovigilancia con inteligencia artificial en residencias de ancianos generó demasiadas falsas alarmas, afirman los auditores

Un ensayo sobre videovigilancia con inteligencia artificial en residencias de ancianos generó demasiadas falsas alarmas, afirman los auditores

ifsecglobal.com

¿Proteger a los vulnerables o automatizar el daño? El doble filo de la IA en la detección del abuso.

¿Proteger a los vulnerables o automatizar el daño? El doble filo de la IA en la detección del abuso.

theconversation.com

El ensayo de CCTV en un centro de atención a personas mayores que utiliza inteligencia artificial dio como resultado demasiados informes falsos, afirma el ministro.
abc.net.au · 2022
Traducido por IA

Una prueba de CCTV financiada con fondos federales en residencias de ancianos alertó al personal de tantos incidentes que se convirtió en un caso de "el niño que gritó lobo", según el Ministro de Salud de Australia Meridional.

La prueba, de…

Una prueba fallida de una cámara con inteligencia artificial en un centro de atención a personas mayores generó 12.000 alertas falsas.
innovationaus.com · 2022
Traducido por IA

Un estudio reveló que un programa piloto de 12 meses de tecnología de vigilancia basada en IA, diseñada para detectar caídas y abusos en dos residencias de ancianos del sur de Australia, generó más de 12 000 alertas falsas.

La gran cantidad…

Un ensayo de inteligencia artificial en centros de atención a personas mayores en Australia del Sur generó 12.000 falsas alarmas
itnews.com.au · 2022
Traducido por IA

El primer proyecto australiano tenía como objetivo probar el uso de cámaras e IA para facilitar la monitorización de los residentes bajo cuidado, con el fin de simplificar la vida del personal.

Sin embargo, una revisión del piloto realizada…

Un ensayo sobre videovigilancia con inteligencia artificial en residencias de ancianos generó demasiadas falsas alarmas, afirman los auditores
ifsecglobal.com · 2022
Traducido por IA

Una prueba de CCTV financiada con fondos federales en dos residencias de ancianos del sur de Australia, donde se utilizó inteligencia artificial para detectar caídas y gritos, produjo más de 12.000 incidentes falsos durante un período de 12…

¿Proteger a los vulnerables o automatizar el daño? El doble filo de la IA en la detección del abuso.
theconversation.com · 2025
Traducido por IA

La inteligencia artificial se está adoptando rápidamente para ayudar a prevenir el abuso y proteger a las personas vulnerables, como los niños en hogares de acogida (https://imprintnews.org/top-stories/in-a-new-study-georgia-professor-explo…

Variantes

Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.
¿Has visto algo similar?

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Australian Automated Debt Assessment System Issued False Notices to Thousands

Australian Automated Debt Assessment System Issued False Notices to Thousands

Jul 2015 · 39 informes
Australian Retailers Reportedly Captured Face Prints of Their Customers without Consent

Australian Retailers Reportedly Captured Face Prints of Their Customers without Consent

May 2022 · 2 informes
Facial Recognition Trial Performed Poorly at Notting Hill Carnival

Facial Recognition Trial Performed Poorly at Notting Hill Carnival

Aug 2017 · 4 informes
Incidente AnteriorSiguiente Incidente

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Australian Automated Debt Assessment System Issued False Notices to Thousands

Australian Automated Debt Assessment System Issued False Notices to Thousands

Jul 2015 · 39 informes
Australian Retailers Reportedly Captured Face Prints of Their Customers without Consent

Australian Retailers Reportedly Captured Face Prints of Their Customers without Consent

May 2022 · 2 informes
Facial Recognition Trial Performed Poorly at Notting Hill Carnival

Facial Recognition Trial Performed Poorly at Notting Hill Carnival

Aug 2017 · 4 informes

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 69ff178