Incidentes Asociados
El grupo de Manchester lanza una acción después de que las personas con discapacidad informan una gran cantidad de controles estresantes por posibles estafas
Las personas discapacitadas están sujetas a controles estresantes y meses de burocracia frustrante después de ser identificados como posibles estafadores de beneficios por un algoritmo que el gobierno se niega a revelar, según un nuevo desafío legal.
Un grupo en Manchester ha lanzado la acción después de la acumulación de testimonios de personas discapacitadas en el área de que estaban siendo objeto de investigaciones de fraude de beneficios de manera desproporcionada. Algunos dijeron que vivían con “miedo al sobre marrón” que mostraba que su caso estaba siendo investigado. Otros dijeron que habían recibido una llamada telefónica, sin explicar por qué los habían marcado.
El Departamento de Trabajo y Pensiones (DWP) admitió anteriormente que utiliza "inteligencia artificial de vanguardia" para rastrear posibles fraudes, pero hasta ahora ha rechazado los intentos de explicar cómo se compiló el algoritmo detrás del sistema. Los activistas dicen que una vez señalados, los examinados pueden enfrentar una investigación invasiva y humillante que puede durar hasta un año.
Se envió una carta legal al DWP exigiendo detalles del proceso automatizado que desencadena las investigaciones. Greater Manchester Coalition of Disabled People (GMCDP), que envió la carta con la ayuda del grupo de campaña Foxglove, dijo que un "gran porcentaje" del grupo se ha visto afectado por el sistema. El grupo cree que el gobierno tiene el deber legal de ser transparente sobre cómo funciona el algoritmo.
La organización benéfica Privacy International planteó preocupaciones, que primero encontró referencias en un informe de DWP sobre su uso de "inteligencia artificial de vanguardia para tomar medidas enérgicas contra las bandas criminales organizadas que cometen fraude de beneficios a gran escala". Un informe de la ONU de 2019 sobre el "estado de bienestar digital" dijo que era "altamente probable" que los algoritmos repitieran los sesgos reflejados en los datos existentes y los empeoraran aún más. Agregó: “Las formas incorporadas de discriminación pueden socavar fatalmente el derecho a la protección social para grupos e individuos clave”.
El gobierno tiene hasta el viernes para responder a la carta legal.
“Estamos cansados del miedo al sobre marrón y cansados de que los funcionarios del DWP nos obliguen repetidamente solo para justificar quiénes somos”, dijo Rick Burgess del GMCDP. “Es hora de que el DWP aclare cómo funciona este algoritmo y explique por qué tantas personas discapacitadas están marcadas para ser investigadas. Las personas discapacitadas necesitan apoyo, no ser aplastadas por un sistema brutal que asume que somos fraudulentos hasta que se demuestre su inocencia”.
Foxglove dijo: “El algoritmo DWP parece enviar a las personas pobres y discapacitadas al centro de llamadas desde el infierno. El DWP debe explicar exactamente cómo funciona su algoritmo y qué se hace para eliminar el sesgo, o ser llevado a los tribunales”.
Los funcionarios destacaron que personal especializado estuvo involucrado en cualquier caso de sospecha de fraude y error y se ofreció apoyo a quienes lo necesitaron. Un portavoz del DWP dijo: “El DWP responderá a la carta escrita por los representantes del GMCDP a su debido tiempo”.