Incidentes Asociados
El gobierno está "obligando a las personas discapacitadas a realizar investigaciones de fraude de beneficios invasivas y extenuantes", afirmó un grupo de discapacitados.
Un grupo de personas discapacitadas de Manchester ha emitido una carta legal al Departamento de Trabajo y Pensiones del gobierno que cuestiona cómo selecciona a los solicitantes para las investigaciones para prevenir el fraude de beneficios, utilizando un algoritmo.
Un portavoz del DWP explicó que un miembro del personal especializado analiza y revisa todos los posibles casos sospechosos de fraude y error.
El grupo, la Coalición de Personas Discapacitadas del Gran Manchester (GMCDP), dijo que las personas ahora viven "con miedo al sobre marrón" que podrían recibir y que podría "convertir su vida en un caos".
Los miembros dijeron que también recibieron llamadas telefónicas para consultar su estado, sin una explicación de por qué estaban siendo investigados.
Una vez marcado, el sistema "obliga a las personas seleccionadas a explicar repetidamente por qué necesitan pagos en un proceso agresivo y humillante que puede durar hasta un año", dijo el GMCDP.
El GMCDP dijo que un "gran porcentaje" del grupo ha sido "atacado" por el sistema DWP.
Algunos miembros dijeron que han tenido que hacer llamadas largas y frustrantes a los centros de llamadas, lidiar con menús telefónicos confusos y operadores inútiles sin capacitación para ayudar a personas discapacitadas y vulnerables.
Otros dijeron que se les ha pedido que completen formularios de más de 80 páginas que hacen las mismas preguntas una y otra vez, lo que los hace tropezar.
El grupo ahora ha enviado una carta legal, respaldada por el grupo sin fines de lucro de justicia tecnológica Foxglove, exigiendo que el gobierno explique cómo funciona el algoritmo del DWP y qué ha hecho, si es que ha hecho algo, para eliminar el sesgo.
El DWP tiene hasta el 15 de diciembre para responder a esa carta.
Charity Privacy International encontró un informe del DWP que indica que estaba utilizando "inteligencia artificial de vanguardia para tomar medidas enérgicas contra las bandas delictivas organizadas que cometen fraude de beneficios a gran escala" y es este algoritmo el que el GMCDP quiere desafiar.
El grupo quiere que el DWP demuestre si las personas seleccionadas para la investigación son desproporcionadamente discapacitadas, mujeres, negras, asiáticas o de grupos étnicos minoritarios y pide transparencia para que las personas tengan la oportunidad de saber si están siendo tratadas injustamente o no.
Rick Burgess del GMCDP dijo: “Sospecho que este algoritmo me ha señalado en el pasado. Un gran porcentaje de personas con discapacidad también han pasado por eso. Esto hace que nos veamos arrastrados a través de una investigación invasiva y muy estresante y, francamente, ya hemos tenido suficiente.
“Estamos cansados del miedo al sobre marrón y cansados de que los funcionarios del DWP nos obliguen repetidamente solo para justificar quiénes somos.
“Es hora de que el DWP aclare cómo funciona este algoritmo y explique por qué tantas personas discapacitadas siguen siendo investigadas. Las personas discapacitadas necesitan apoyo, no ser aplastadas por un sistema brutal que asume que somos fraudulentos hasta que se demuestre su inocencia”.
Un portavoz de Foxglove dijo: “El algoritmo del DWP parece enviar a las personas pobres y discapacitadas al centro de llamadas desde el infierno. El DWP debe explicar exactamente cómo funciona su algoritmo y qué hace para eliminar el sesgo, o ser llevado a los tribunales.
“Una máquina en Whitehall escupe tu nombre. Lo acusa de mentir acerca de su discapacidad y lo empuja a una burocrática rueda de hámster de demoras, menús telefónicos en bucle y formularios interminables diseñados para hacerlo tropezar. Y no dice nada sobre por qué te está pasando esto.
“Este parece ser otro caso en el que el gobierno ha creado un algoritmo que ejerce un poder aterrador sobre la vida de las personas sin la participación de las personas a las que afecta. El resultado es que las personas vulnerables quedan atrapadas, humilladas y heridas. Estamos orgullosos de trabajar con GMCDP para hacer esto bien”.
Un portavoz del DWP dijo: “El DWP responderá a la carta escrita por los representantes de la Coalición de Personas Discapacitadas del Gran Manchester a su debido tiempo”.