Incidentes Asociados
Los parlamentarios han cuestionado al Departamento de Trabajo y Pensiones (DWP, por sus siglas en inglés) por el uso de un conjunto secreto de instrucciones que utilizan sus computadoras para identificar posibles estafadores de beneficios, y que parecen apuntar de manera desproporcionada a las personas discapacitadas.
Dos de los funcionarios más importantes del departamento fueron interrogados ayer (miércoles) sobre el algoritmo secreto que utiliza DWP.
A principios de esta semana, Greater Manchester Coalition of Disabled People (GMCDP) anunció que había enviado una carta legal a DWP para exigir detalles sobre cómo funciona el algoritmo y solicitar pruebas de que no se dirige a ningún grupo en particular.
Cree que las personas discapacitadas están siendo objeto de investigaciones de fraude largas y estresantes de forma injusta e incorrecta por parte del DWP.
La diputada laborista Debbie Abrahams preguntó a los dos funcionarios del DWP, el secretario permanente Peter Schofield y el director general para el cambio Neil Couling, sobre el algoritmo cuando comparecieron ayer ante el comité de trabajo y pensiones de los Comunes.
Señaló un informe de las Naciones Unidas de 2019 (PDF) que advirtió sobre los riesgos de una "distopía de bienestar digital" y, dijo, concluyó que el uso de tales algoritmos en los sistemas de seguridad social tiene "sesgos inherentemente incorporados que son discriminatorios". .
Abrahams, cuya circunscripción de Oldham East y Saddleworth se encuentra en Greater Manchester, dijo que algunos de los casos de los que había oído hablar a través de GMCDP de personas discapacitadas a las que DWP apuntaba para investigaciones de fraude eran "muy preocupantes".
Schofield no negó que DWP haya usado un algoritmo, pero insistió en que cualquier decisión sobre la acción que tome DWP "siempre se reduce a un individuo".
Él dijo: "La automatización puede ayudarnos a guiar nuestro trabajo, pero en última instancia es una decisión que toman los individuos".
Couling (en la foto) afirmó que "no era un algoritmo en la forma en que la gente podría entender un algoritmo", e insistió en que lo que estaba haciendo DWP era "coincidencia de datos".
Él dijo: "Lo que estamos haciendo es combinar conjuntos de datos para ver si hay coherencia o no en lo que se informa".
Dijo que “no era una máquina que nos decía qué hacer y tomaba decisiones sobre casos de beneficios.
“Es la comparación de datos lo que identifica las preguntas que deben responderse y luego les hacemos esas preguntas a los propios reclamantes y les damos el derecho de decir, bueno, qué está pasando aquí”.
Couling le dijo a Abrahams que no sabía qué proporción de los reclamantes investigados por fraude eran personas discapacitadas.
Pero agregó: "No sé la respuesta a eso, pero dado que una proporción significativa de los casos de beneficios están discapacitados, se esperaría ver que algunas personas discapacitadas aparezcan en la comparación de datos".
Rick Burgess, de GMCDP, le dijo a Disability News Service después de la reunión: “Sospecho que la coincidencia de datos implicaría algún proceso que funciona como un algoritmo, por lo que están dividiendo los pelos sobre la terminología.
“En cuanto a la participación humana en la toma de decisiones, estamos ansiosos por saberlo, y si esas decisiones reflejan un buen juicio o simplemente asienten con la cabeza a través de candidatos seleccionados por máquinas”.
Dijo que era notable cómo Couling no había respondido a la pregunta de Abrahams sobre la proporción de personas discapacitadas que estaban siendo investigadas, ya que se trataba de un tema "clave".
GMCDP ha estado trabajando con el grupo de campaña Foxglove, que dijo esta semana: "Este sistema parece apuntar injustamente a las personas discapacitadas para su investigación, pero el DWP no revelará cómo funciona o qué han hecho, si es que han hecho algo, para que sea imparcial". .
“Una vez marcado, se ve obligado a entrar en una rueda de hámster burocrática de colas interminables en el centro de llamadas, discusiones frustrantes con personal poco servicial y formularios largos que hacen las mismas preguntas una y otra vez, aparentemente diseñados para hacer tropezar a la gente.
“Esto puede durar hasta un año”.
Burgess le había dicho a The Observer a principios de esta semana: “Estamos cansados del miedo al sobre marrón y cansados de que los funcionarios del DWP nos obliguen repetidamente solo para justificar quiénes somos.
“Es hora de que el DWP aclare cómo funciona este algoritmo y explique por qué tantas personas discapacitadas están marcadas para ser investigadas”.