Incidents associés
Le Département du travail et des pensions (DWP) a été interrogé par des députés sur son utilisation d'un ensemble secret d'instructions qui sont utilisées par ses ordinateurs pour identifier les fraudeurs potentiels des prestations, et qui semblent cibler de manière disproportionnée les personnes handicapées.
Deux des plus hauts responsables du département ont été interrogés hier (mercredi) sur l'algorithme secret utilisé par DWP.
Plus tôt cette semaine, la Greater Manchester Coalition of Disabled People (GMCDP) a annoncé qu'elle avait envoyé une lettre légale au DWP pour exiger des détails sur le fonctionnement de l'algorithme et demander la preuve qu'il ne cible aucun groupe en particulier.
Il estime que les personnes handicapées sont injustement et à tort ciblées par le DWP pour des enquêtes de fraude longues et stressantes.
La députée travailliste Debbie Abrahams a interrogé les deux responsables du DWP, le secrétaire permanent Peter Schofield et le directeur général du changement Neil Couling, sur l'algorithme lorsqu'ils ont comparu hier devant le comité du travail et des pensions de la Chambre des communes.
Elle a souligné un rapport des Nations Unies de 2019 (PDF) qui mettait en garde contre les risques d'une "dystopie du bien-être numérique" et, a-t-elle dit, concluait que l'utilisation de tels algorithmes dans les systèmes de sécurité sociale avait "des préjugés intrinsèquement intégrés qui sont discriminatoires" .
Abrahams, dont la circonscription d'Oldham East et de Saddleworth se trouve dans le Grand Manchester, a déclaré que certains des cas dont elle avait entendu parler par le biais du GMCDP de personnes handicapées ciblées par le DWP pour des enquêtes sur des fraudes étaient "très préoccupants".
Schofield n'a pas nié que DWP utilisait un algorithme, mais il a insisté sur le fait que toute décision sur les mesures prises par DWP "revient toujours à un individu".
Il a déclaré : "L'automatisation peut nous aider à guider notre travail, mais en fin de compte, c'est une décision prise par des individus."
Couling (photo) a affirmé qu'il "n'était pas un algorithme de la manière dont les gens pourraient comprendre un algorithme", et il a insisté sur le fait que ce que faisait DWP était une "correspondance de données".
Il a déclaré: "Ce que nous faisons, c'est faire correspondre des ensembles de données pour voir s'il y a cohérence ou non dans ce qui est rapporté."
Il a dit que ce n'était «pas une machine nous disant quoi faire et prenant des décisions sur les cas de prestations.
"C'est la mise en correspondance des données qui identifie les questions auxquelles il faut répondre, puis nous posons ces questions aux demandeurs eux-mêmes et leur donnons le droit de dire, eh bien, ce qui se passe ici."
Couling a dit à Abrahams qu'il ne savait pas quelle proportion de ces demandeurs faisant l'objet d'une enquête pour fraude étaient des personnes handicapées.
Mais il a ajouté: "Je ne connais pas la réponse à cette question, mais étant donné qu'une proportion importante des cas de prestations sont handicapés, vous vous attendez à voir des personnes handicapées apparaître dans la correspondance des données."
Rick Burgess, de GMCDP, a déclaré à Disability News Service après la réunion : « La correspondance des données impliquerait un processus qui fonctionne comme un algorithme, je suppose, donc ils se coupent les cheveux sur la terminologie.
"En ce qui concerne l'implication d'un décideur humain, nous sommes impatients de le savoir, et ces décisions reflètent-elles un bon jugement ou simplement un signe de tête parmi des candidats sélectionnés par machine."
Il a dit qu'il était remarquable que Couling n'ait pas répondu à la question d'Abrahams sur la proportion de personnes handicapées faisant l'objet d'une enquête, car il s'agissait d'un problème "clé".
GMCDP a travaillé avec le groupe de campagne Foxglove, qui a déclaré cette semaine: «Ce système semble cibler injustement les personnes handicapées pour enquête, mais le DWP ne révélera pas comment cela fonctionne, ni ce qu'ils ont fait – le cas échéant – pour le rendre impartial. .
«Une fois signalé, vous êtes contraint de vous lancer dans une roue de hamster bureaucratique composée de files d'attente interminables dans les centres d'appels, de discussions frustrantes avec un personnel peu serviable et de longs formulaires qui posent sans cesse les mêmes questions – apparemment conçus pour faire trébucher les gens.
"Cela peut durer jusqu'à un an."
Burgess avait déclaré à The Observer plus tôt cette semaine: «Nous sommes fatigués de la peur de l'enveloppe brune et fatigués d'être forcés à plusieurs reprises par les responsables du DWP juste pour justifier qui nous sommes.
"Il est temps pour le DWP de clarifier le fonctionnement de cet algorithme et d'expliquer pourquoi tant de personnes handicapées sont signalées pour enquête."