Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Traduit par IA

Incident 1109: Un projet pilote de surveillance par IA d'un an dans deux établissements de soins pour personnes âgées d'Australie du Sud aurait submergé le personnel de faux positifs

Traduit par IA
Description:
Traduit par IA
Entre mars 2021 et mars 2022, un système de surveillance vidéo et audio basé sur l'IA a été testé dans deux établissements de soins pour personnes âgées d'Australie du Sud. Selon un audit indépendant commandé par le ministère de la Santé d'Australie du Sud, le système a généré plus de 12 000 fausses alertes, ce qui a débordé le personnel et contribué à l'omission d'au moins un incident réel. Le rapport conclut que le système n'a pas atteint un niveau de précision acceptable par le personnel et la direction pendant la phase pilote.
Editor Notes: Timeline note: The AI-enabled CCTV surveillance trial in two South Australian aged care facilities reportedly began around March 2021 and concluded around March 2022. This incident was ingested into the AIID on 06/20/2025.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique

Entités

Voir toutes les entités
Alleged: Sturdie Trade Services developed an AI system deployed by South Australia Health, which harmed Residents and staff of Northgate House , Residents and staff of Mount Pleasant District Hospital , Northgate House et Mount Pleasant District Hospital.
Système d'IA présumé impliqué: AI-enabled video and audio surveillance system for fall/scream detection

Statistiques d'incidents

ID
1109
Nombre de rapports
5
Date de l'incident
2021-03-01
Editeurs
Daniel Atherton

Rapports d'incidents

Chronologie du rapport

Incident Occurrence+3
Un essai de vidéosurveillance dans les maisons de retraite utilisant l'intelligence artificielle a donné lieu à trop de fausses informations, selon le ministre
Protéger les personnes vulnérables ou automatiser les préjudices ? Le rôle à double tranchant de l'IA dans la détection des abus
Un essai de vidéosurveillance dans les maisons de retraite utilisant l'intelligence artificielle a donné lieu à trop de fausses informations, selon le ministre

Un essai de vidéosurveillance dans les maisons de retraite utilisant l'intelligence artificielle a donné lieu à trop de fausses informations, selon le ministre

abc.net.au

Un essai raté d'une caméra d'IA pour les soins aux personnes âgées génère 12 000 fausses alertes

Un essai raté d'une caméra d'IA pour les soins aux personnes âgées génère 12 000 fausses alertes

innovationaus.com

L'essai d'IA sur les soins aux personnes âgées en Australie du Sud a généré 12 000 fausses alertes

L'essai d'IA sur les soins aux personnes âgées en Australie du Sud a généré 12 000 fausses alertes

itnews.com.au

Un essai de vidéosurveillance par IA dans une maison de retraite a produit trop de fausses alertes, selon les auditeurs

Un essai de vidéosurveillance par IA dans une maison de retraite a produit trop de fausses alertes, selon les auditeurs

ifsecglobal.com

Protéger les personnes vulnérables ou automatiser les préjudices ? Le rôle à double tranchant de l'IA dans la détection des abus

Protéger les personnes vulnérables ou automatiser les préjudices ? Le rôle à double tranchant de l'IA dans la détection des abus

theconversation.com

Un essai de vidéosurveillance dans les maisons de retraite utilisant l'intelligence artificielle a donné lieu à trop de fausses informations, selon le ministre
abc.net.au · 2022
Traduit par IA

Un essai de vidéosurveillance financé par le gouvernement fédéral dans des maisons de retraite a alerté le personnel sur un tel nombre d'incidents qu'il est devenu « l'affaire du garçon qui criait au loup », a déclaré le ministre de la Sant…

Un essai raté d'une caméra d'IA pour les soins aux personnes âgées génère 12 000 fausses alertes
innovationaus.com · 2022
Traduit par IA

Une étude a révélé qu'un projet pilote de 12 mois de technologie de surveillance basée sur l'IA, conçue pour détecter les chutes et les maltraitances dans deux maisons de retraite d'Australie du Sud, a généré plus de 12 000 fausses alertes.…

L'essai d'IA sur les soins aux personnes âgées en Australie du Sud a généré 12 000 fausses alertes
itnews.com.au · 2022
Traduit par IA

Ce projet, une première en Australie, visait à tester l'utilisation de caméras et de l'IA pour faciliter la surveillance des résidents pris en charge, afin de simplifier la vie du personnel.

Cependant, une analyse du projet pilote réalisée …

Un essai de vidéosurveillance par IA dans une maison de retraite a produit trop de fausses alertes, selon les auditeurs
ifsecglobal.com · 2022
Traduit par IA

Un essai de vidéosurveillance financé par le gouvernement fédéral dans deux maisons de retraite d'Australie du Sud – où l'intelligence artificielle a été utilisée pour détecter les chutes et les cris – a généré plus de 12 000 faux incidents…

Protéger les personnes vulnérables ou automatiser les préjudices ? Le rôle à double tranchant de l'IA dans la détection des abus
theconversation.com · 2025
Traduit par IA

L'intelligence artificielle est rapidement adoptée pour prévenir les abus et protéger les personnes vulnérables, notamment les enfants placés en famille d'accueil, les adultes en maison de retraite et les élèves scolarisés. Ces outils prome…

Variantes

Une "Variante" est un incident de l'IA similaire à un cas connu—il a les mêmes causes, les mêmes dommages et le même système intelligent. Plutôt que de l'énumérer séparément, nous l'incluons sous le premier incident signalé. Contrairement aux autres incidents, les variantes n'ont pas besoin d'avoir été signalées en dehors de la base de données des incidents. En savoir plus sur le document de recherche.
Vous avez vu quelque chose de similaire ?

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

Australian Automated Debt Assessment System Issued False Notices to Thousands

Australian Automated Debt Assessment System Issued False Notices to Thousands

Jul 2015 · 39 rapports
Australian Retailers Reportedly Captured Face Prints of Their Customers without Consent

Australian Retailers Reportedly Captured Face Prints of Their Customers without Consent

May 2022 · 2 rapports
Facial Recognition Trial Performed Poorly at Notting Hill Carnival

Facial Recognition Trial Performed Poorly at Notting Hill Carnival

Aug 2017 · 4 rapports
Incident précédentProchain incident

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

Australian Automated Debt Assessment System Issued False Notices to Thousands

Australian Automated Debt Assessment System Issued False Notices to Thousands

Jul 2015 · 39 rapports
Australian Retailers Reportedly Captured Face Prints of Their Customers without Consent

Australian Retailers Reportedly Captured Face Prints of Their Customers without Consent

May 2022 · 2 rapports
Facial Recognition Trial Performed Poorly at Notting Hill Carnival

Facial Recognition Trial Performed Poorly at Notting Hill Carnival

Aug 2017 · 4 rapports

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 69ff178