Traduit par IA

Incident 290: Faux négatifs pour les fermetures de plages liées à la qualité de l'eau

Traduit par IA
Description:
Traduit par IA
L’utilisation par Toronto de la modélisation prédictive par IA (AIPM), qui avait remplacé la méthodologie existante comme seul déterminant de la qualité de l’eau des plages, a soulevé des inquiétudes quant à son exactitude, après que des résultats prétendument contradictoires aient été trouvés par un groupe local de défense de l’eau utilisant des moyens traditionnels.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique

Statistiques d'incidents

ID
290
Nombre de rapports
3
Date de l'incident
2022-06-03
Editeurs
Khoa Lam
Applied Taxonomies
CSETv1, GMF, MIT

Classifications de taxonomie CSETv1

Détails de la taxonomie

Incident Number

290

Classifications de taxonomie MIT

Machine-Classified
Détails de la taxonomie

Risk Subdomain

7.3. Lack of capability or robustness

Risk Domain

  1. AI system safety, failures, and limitations

Entity

AI

Timing

Post-deployment

Intent

Unintentional

Sûr pour la baignade ? Le nouvel outil de Toronto pour mesurer la qualité de l'eau sur ses plages est trompeur, selon les défenseurs
thestar.com · 2022
Traduit par IA

Un groupe de défense de l'eau potable s'inquiète pour la santé des baigneurs de Toronto après que le nouveau système de surveillance de la qualité de l'eau de la ville semble avoir permis à plusieurs reprises aux plages contaminées de reste…

Toronto a fait appel à l'intelligence artificielle pour avertir les nageurs. L'expérience a échoué
theinformation.com · 2022
Traduit par IA

Plus tôt cette année, le service de santé publique de Toronto a tranquillement activé une expérience ciblant les plages les plus sujettes à la pollution de la ville.

Au lieu de s'appuyer sur des tests de laboratoire d'un jour pour s'assurer…

L'appât et l'interrupteur derrière les outils de prédiction des risques de l'IA
aisnakeoil.substack.com · 2022
Traduit par IA

Toronto a récemment utilisé un outil d'intelligence artificielle pour prédire quand une plage publique sera sûre. Cela a horriblement mal tourné.

Le développeur a affirmé que l'outil avait atteint une précision de plus de 90 % pour prédire …

Variantes

Une "Variante" est un incident de l'IA similaire à un cas connu—il a les mêmes causes, les mêmes dommages et le même système intelligent. Plutôt que de l'énumérer séparément, nous l'incluons sous le premier incident signalé. Contrairement aux autres incidents, les variantes n'ont pas besoin d'avoir été signalées en dehors de la base de données des incidents. En savoir plus sur le document de recherche.
Vous avez vu quelque chose de similaire ?
Incident précédentProchain incident