Incident 290: False Negatives for Water Quality-Associated Beach Closures

Description: Toronto’s use of AI predictive modeling (AIPM) which had replaced existing methodology as the only determiner of beach water quality raised concerns about its accuracy, after allegedly conflicting results were found by a local water advocacy group using traditional means.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique

Statistiques d'incidents

ID
290
Nombre de rapports
3
Date de l'incident
2022-06-03
Editeurs
Khoa Lam
Applied Taxonomies
CSETv1, GMF, MIT

Classifications de taxonomie CSETv1

Détails de la taxonomie

Incident Number

290

Classifications de taxonomie MIT

Machine-Classified
Détails de la taxonomie

Risk Subdomain

7.3. Lack of capability or robustness

Risk Domain

  1. AI system safety, failures, and limitations

Entity

AI

Timing

Post-deployment

Intent

Unintentional

Sûr pour la baignade ? Le nouvel outil de Toronto pour mesurer la qualité de l'eau sur ses plages est trompeur, selon les défenseurs
thestar.com · 2022
Traduit par IA

Un groupe de défense de l'eau potable s'inquiète pour la santé des baigneurs de Toronto après que le nouveau système de surveillance de la qualité de l'eau de la ville semble avoir permis à plusieurs reprises aux plages contaminées de reste…

Toronto a fait appel à l'intelligence artificielle pour avertir les nageurs. L'expérience a échoué
theinformation.com · 2022
Traduit par IA

Plus tôt cette année, le service de santé publique de Toronto a tranquillement activé une expérience ciblant les plages les plus sujettes à la pollution de la ville.

Au lieu de s'appuyer sur des tests de laboratoire d'un jour pour s'assurer…

L'appât et l'interrupteur derrière les outils de prédiction des risques de l'IA
aisnakeoil.substack.com · 2022
Traduit par IA

Toronto a récemment utilisé un outil d'intelligence artificielle pour prédire quand une plage publique sera sûre. Cela a horriblement mal tourné.

Le développeur a affirmé que l'outil avait atteint une précision de plus de 90 % pour prédire …

Variantes

Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.
Incident précédentProchain incident