Journal des citations pour l'incident 738

Description: A Department for Work and Pensions (DWP) algorithm wrongly flagged over 200,000 UK housing benefit claims as high risk, resulting in unnecessary investigations. Two-thirds of these flagged claims were legitimate, causing wasted public funds and stress for claimants. Despite initial success in a pilot, the algorithm's real-world performance fell short. This incident highlights the risks of overreliance on automated systems in welfare administration.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique
Présumé : Un système d'IA développé et mis en œuvre par Department for Work and Pensions (DWP), endommagé UK general public and UK housing benefit claimants.

Statistiques d'incidents

ID
738
Nombre de rapports
1
Date de l'incident
2024-06-23
Editeurs
Daniel Atherton
Applied Taxonomies
L'algorithme DWP signale à tort 200 000 personnes pour d'éventuelles fraudes et erreurs
theguardian.com · 2024

Plus de 200 000 personnes ont fait l’objet d’une enquête à tort pour fraude et erreur en matière d’aide au logement après que les performances d’un algorithme gouvernemental se soient révélées bien en deçà des attentes, peut révéler le Guar…

Variantes

Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.

Incidents similaires

Selected by our editors
Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents