Incidents associés
Le ministère du Travail et des Retraites (DWP) investit 70 millions de livres sterling dans ses projets de transformation numérique au cours des trois prochaines années. Cependant, le National Audit Office (NAO) a fait part de ses inquiétudes quant aux investissements que le département réalise dans des modèles d'intelligence artificielle (IA) pour détecter la fraude, suggérant que ceux-ci pourraient présenter des préjugés à l'encontre des personnes ayant des caractéristiques protégées.
En tant que plus grand ministère de la fonction publique du Royaume-Uni, le DWP gère les pensions de l’État ainsi qu’une gamme de prestations en matière d’âge actif, d’invalidité et de maladie. (Photo de Mike Kemp/En images via Getty Images)
Selon un nouveau rapport du NAO, qui supervise dépenses publiques, le DWP investit 70 millions de livres sterling entre les exercices 2022-23 et 2024-25 dans des analyses avancées pour lutter contre la fraude et les erreurs. DWP espère que cela l’aidera à générer des économies d’environ 1,6 milliard de livres sterling d’ici 2030-31.
Le ministère prévoit d’utiliser l’IA pour identifier les tendances dans les demandes d’aide sociale qui pourraient suggérer une fraude ou une erreur. Les réclamations seraient ensuite examinées soit par les équipes DWP compétentes, telles que l'équipe d'examen amélioré, avant que la réclamation n'entre en paiement, soit par les agents d'examen des cas ciblés s'il s'agit déjà d'un paiement.
Dans un [rapport] séparé(https://assets.publishing.service.gov.uk/government/uploads/system/uploads/attachment_data/file/1167946/annual-report-accounts-2022-23-web-ready.pdf ), le DWP a présenté un nouvel objectif « ambitieux » visant à économiser 1,3 milliard de livres sterling en 2023-2024 en luttant contre la fraude des demandeurs et les ressources liées aux erreurs. Le ministère devra réclamer 200 millions de livres sterling d’économies supplémentaires, dans le prolongement de son précédent objectif de 1,1 milliard de livres sterling.
Le député Tom Pursglove, ministre d'État chargé du Travail et des Retraites, a été chargé de superviser les efforts de réduction de la fraude et a déclaré : « Nos équipes travaillent d'arrache-pied pour empêcher de nouvelles réclamations frauduleuses et dénoncer les personnes qui exploitent le système – avec des résultats solides. .» Mais le ministre a expliqué qu’il fallait aller « encore plus loin » en raison de l’évolution du paysage de la fraude.
"Travailler pour atteindre notre nouvel objectif ambitieux au cours de l'année prochaine protégera l'argent durement gagné des contribuables et nous permettra de réaliser les priorités du Premier ministre consistant à réduire la dette et à développer l'économie", a-t-il déclaré.
Pursglove s'est prononcé en faveur de la lutte contre la fraude et les erreurs en matière de prestations ; le taux total des paiements en trop du crédit universel s’élève actuellement à 12,8 % (5,54 milliards de livres sterling). Le rapport du DWP fait également référence au fait que les sous-paiements du crédit universel ont augmenté, à 1,6 % (680 millions de livres sterling) en 2022-2023, contre 1,0 % (410 millions de livres sterling) en 2021-2022.
Je suis heureux de voir les taux de fraude et d'erreur évoluer dans une direction positive aujourd'hui, grâce à l'excellent travail des équipes de @DWPgovuk qui luttent contre les fraudeurs et la criminalité grave. groupes. La fraude aux prestations sociales n’est jamais un crime sans victimes, et nous devons garantir que l’aide sociale soit versée aux personnes qui en ont besoin. https://t.co/vGZhpPuSVD
— Député Tom Pursglove (@VotePursglove) 11 mai 2023
Le gouvernement britannique renforce le contrôle de la fraude aux prestations sociales grâce aux opérations de transformation numérique
Le site Web du gouvernement indique qu’un demandeur peut commettre une fraude aux prestations en réclamant des prestations auxquelles il n’a pas droit, volontairement ou par erreur. Cela pourrait se produire s’ils ne signalent pas un changement dans leur situation qui pourrait affecter le montant d’argent qui leur est payé, ou s’ils fournissent délibérément de fausses informations pour s’assurer d’obtenir des taux plus élevés.
DWP souhaite utiliser l’apprentissage automatique pour réduire le taux de trop-payés versés aux demandeurs en raison de fraudes et d’erreurs, qui, selon lui, a déjà diminué de 10 % au cours de l’année écoulée.
"Nos contrôles et contrôles renforcés de la fraude ont abouti à une réduction significative des fraudes et des erreurs au cours de l'année dernière et nous constatons maintenant que le vent commence à tourner", a déclaré le député Mel Stride, secrétaire d'État au travail et aux retraites.
Il a poursuivi : « Étant donné que notre système de protection sociale existe pour fournir un solide filet de sécurité financière aux plus vulnérables, il est impératif que nous continuions à empêcher quiconque d'en abuser pour son propre profit, c'est pourquoi nous fixons un nouvel objectif d'épargne £. 1,3 milliard l’année prochaine et éradiquer la fraude partout où nous la trouvons.
L'année dernière, le DWP a lancé un plan robuste, « Lutte contre la fraude dans le système de protection sociale », pour réduire fraude et erreurs du système de prestations. Le plan s’accompagne d’un investissement de 900 millions de livres sterling sur une période de trois ans. Le ministère a également estimé que sa gamme complète de contrôles l’année dernière a permis d’économiser au moins 18 milliards de livres sterling grâce aux contrôles de prestations, aux contrôles et aux activités de lutte contre la fraude, contribuant ainsi à l’engagement du Premier ministre Rishi Sunak de réduire la dette.
NAO dit que l’IA du DWP pourrait être biaisée
DWP utilisait un modèle d'apprentissage automatique pour signaler les demandes potentiellement frauduleuses d'avances de crédit universel depuis 2021-2022. Une avance, c’est lorsqu’un demandeur n’a pas assez d’argent pour vivre en attendant son premier versement de prestations du crédit universel. Les demandeurs peuvent également obtenir des avances budgétaires pour payer des sommes forfaitaires pour les frais de ménage d'urgence, l'obtention ou le maintien d'un emploi, ou les frais funéraires.
Selon NAO, DWP a créé le modèle en entraînant un algorithme d'IA à l'aide des données historiques des demandeurs et des références en matière de fraude, ce qui a permis au modèle de prédire quelles nouvelles demandes de prestations pourraient contenir des fraudes et des erreurs. Le ministère a ensuite développé et testé quatre modèles similaires pour les principaux domaines de risque du crédit universel, notamment les personnes vivant ensemble, le travail indépendant, le capital et le logement.
En avril 2023, 5,9 millions de personnes avaient demandé le crédit universel, soit une augmentation de 200 000 depuis juillet 2022.
Cependant, le NAO a écrit dans son rapport qu'il existait un « risque inhérent » que les algorithmes utilisés par le modèle d'apprentissage automatique du DWP soient biaisés en faveur de la sélection des réclamations à examiner auprès de certaines « personnes ou groupes vulnérables présentant des caractéristiques protégées ». Il a indiqué que cela pourrait être dû à un « biais imprévu » dans les données d'entrée ou à « la conception du modèle lui-même ».
"Lorsque l'on utilise l'apprentissage automatique pour hiérarchiser les avis, il existe un risque inhérent que les algorithmes soient biaisés en faveur de la sélection des réclamations à examiner émanant de certaines personnes ou groupes vulnérables", indique le rapport. "DWP est confronté à un défi consistant à équilibrer la transparence sur la manière dont il utilise l'apprentissage automatique pour donner confiance au public dans le système de prestations sociales tout en protégeant ses capacités en n'informant pas les fraudeurs de la manière dont il lutte contre la fraude."
Le NAO a également déclaré que DWP devait fournir l'assurance qu'il ne traitait injustement aucun groupe de clients en raison de son utilisation de l'IA : « En réponse au rapport 2022 du Comité des comptes publics sur la fraude et les erreurs dans le système de prestations, DWP s'est engagé à rendant compte chaque année au Parlement de son évaluation de l'impact de l'analyse des données sur les groupes protégés et les demandeurs vulnérables.
DWP a déclaré avoir « établi une gouvernance et un contrôle stricts sur son utilisation de l'apprentissage automatique » et a mis en place des garanties conçues pour évaluer l'impact de l'utilisation du modèle. sur ses différents clients. Cependant, le DWP a déclaré que sa capacité à tester les impacts injustes sur les caractéristiques protégées est actuellement limitée, ce qu'il attribue en partie au fait que les demandeurs ne fournissent pas d'informations sur leurs données démographiques lorsqu'ils présentent une demande de prestations.
NAO écrit que « DWP sépare également les données personnelles sur ses plateformes analytiques pour des raisons de sécurité et n'a pas encore intégré toutes les données pertinentes sur sa plateforme d'analyse des fraudes et des erreurs ». DWP aurait annoncé son intention de le faire prochainement.