Description: A Department for Work and Pensions (DWP) algorithm wrongly flagged over 200,000 UK housing benefit claims as high risk, resulting in unnecessary investigations. Two-thirds of these flagged claims were legitimate, causing wasted public funds and stress for claimants. Despite initial success in a pilot, the algorithm's real-world performance fell short. This incident highlights the risks of overreliance on automated systems in welfare administration.
Entités
Voir toutes les entitésPrésumé : Un système d'IA développé et mis en œuvre par Department for Work and Pensions (DWP), endommagé UK general public and UK housing benefit claimants.
Statistiques d'incidents
ID
738
Nombre de rapports
1
Date de l'incident
2024-06-23
Editeurs
Daniel Atherton
Applied Taxonomies
Rapports d'incidents
Chronologie du rapport
![L'algorithme DWP signale à tort 200 000 personnes pour d'éventuelles fraudes et erreurs](https://res.cloudinary.com/pai/image/upload/f_auto/q_auto/c_fill,h_480/v1/reports/i.guim.co.uk/img/media/15bb39e83ef7a186b48f9bae59b2c2bef674aa4d/0_131_5460_3276/master/5460.jpg?width=1200&height=630&quality=85&auto=format&fit=crop&overlay-align=bottom%2Cleft&overlay-width=100p&overlay-base64=L2ltZy9zdGF0aWMvb3ZlcmxheXMvdGctZGVmYXVsdC5wbmc&enable=upscale&s=c37343c2b4c73b0238894236093f8375)
theguardian.com · 2024
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Plus de 200 000 personnes ont fait l’objet d’une enquête à tort pour fraude et erreur en matière d’aide au logement après que les performances d’un algorithme gouvernemental se soient révélées bien en deçà des attentes, peut révéler le Guar…
Variantes
Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.
Incidents similaires
Selected by our editors
Did our AI mess up? Flag the unrelated incidents
![ETS Used Allegedly Flawed Voice Recognition Evidence to Accuse and Assess Scale of Cheating, Causing Thousands to be Deported from the UK](https://res.cloudinary.com/pai/image/upload/f_auto/q_auto/c_fill,h_480/v1/reports/ichef.bbci.co.uk/news/1024/branded_news/2B55/production/_123139011_2pa-55677805.jpg)
The English test that ruined thousands of lives
· 1 rapport
![Facial Recognition Trial Performed Poorly at Notting Hill Carnival](https://res.cloudinary.com/pai/image/upload/f_auto/q_auto/c_fill,h_480/v1/reports/s.wsj.net/public/resources/images/B3-BQ074_hellow_M_20180906132025.jpg)
Don’t Believe the Algorithm
· 4 rapports
Incidents similaires
Selected by our editors
Did our AI mess up? Flag the unrelated incidents
![ETS Used Allegedly Flawed Voice Recognition Evidence to Accuse and Assess Scale of Cheating, Causing Thousands to be Deported from the UK](https://res.cloudinary.com/pai/image/upload/f_auto/q_auto/c_fill,h_480/v1/reports/ichef.bbci.co.uk/news/1024/branded_news/2B55/production/_123139011_2pa-55677805.jpg)
The English test that ruined thousands of lives
· 1 rapport
![Facial Recognition Trial Performed Poorly at Notting Hill Carnival](https://res.cloudinary.com/pai/image/upload/f_auto/q_auto/c_fill,h_480/v1/reports/s.wsj.net/public/resources/images/B3-BQ074_hellow_M_20180906132025.jpg)
Don’t Believe the Algorithm
· 4 rapports