Incidentes Asociados
Los activistas discapacitados enviaron una carta legal al Departamento de Trabajo y Pensiones (DWP) para cuestionar cómo el uso de un algoritmo secreto podría discriminar a las personas discapacitadas en la forma en que selecciona a los solicitantes para enfrentar investigaciones de fraude de beneficios.
Greater Manchester Coalition of Disabled People (GMCDP), que cuenta con el apoyo del grupo de campaña de justicia tecnológica Foxglove, cree que el algoritmo está "seleccionando en exceso" a las personas discapacitadas para sus investigaciones de fraude de beneficios.
Ahora ha enviado una carta formal a DWP para solicitar información sobre cómo se está utilizando el algoritmo y para obtener evidencia de que no discrimina a las personas discapacitadas, y para advertir sobre posibles acciones legales adicionales.
Hasta el momento, DWP se niega a decir cómo se dirige a las personas, cómo garantiza que se protejan los derechos de las personas discapacitadas y qué controles y equilibrios existen para garantizar que los solicitantes de beneficios no sean acosados injusta e ilegalmente.
Rick Burgess (en la foto), de GMCDP, dijo en un evento en línea la semana pasada que los algoritmos "tienden a reproducir los sesgos y las discriminaciones en la sociedad y la cultura en general".
Dijo que GMCDP y Foxglove sospechan que el algoritmo de DWP está "seleccionando en exceso a personas discapacitadas para investigaciones de fraude", lo que genera una angustia extrema para los reclamantes que han sido elegidos.
Burgess dijo que esta angustia puede ser particularmente grave si el reclamante ya experimenta paranoia o ansiedad.
Él dijo: “Puede ser extremadamente debilitante. Sé que la gente se ha retirado de la vida por eso. Sé que ha habido suicidios por eso. Es extremadamente perjudicial para las personas.
“Para que se lleven a cabo esas investigaciones, creo que debe haber un nivel extremadamente alto de pruebas y sospechas antes de que pueda comenzar ese proceso, porque el riesgo para las personas es potencialmente letal”.
Dijo que el uso del algoritmo por parte de DWP se había convertido en una nueva barrera para las personas discapacitadas.
Él dijo: "Las personas discapacitadas siempre tienen que hacerse la prueba, siempre tienen que probarse a sí mismos, siempre tienen que completar formularios, siempre tienen que pasar las pruebas, siempre se les pregunta sobre su identidad".
GMCDP ha iniciado un crowdfunding para recaudar dinero para cualquier costo legal que pueda enfrentar en el caso contra DWP, y está casi a la mitad de su objetivo de £ 15,000.
Burgess dijo que la forma en que DWP lleva a cabo las investigaciones de fraude es "absolutamente, clásicamente kafkiana".
Él dijo: “No sabes quién es tu acusador. No sabes por qué de repente te eligieron.
“Por lo general, es un sobre, una llamada telefónica o un correo electrónico. Es extremadamente molesto cuando la gente entiende esto”.
Dijo que el "patrón extraño" de personas discapacitadas que son investigadas repentinamente sin razón aparente sugiere un sistema que "inventa sus propias reglas".
Agregó: “En una investigación, antes de que se pruebe algo, se pueden detener sus beneficios para que sea tratado como culpable hasta que se demuestre su inocencia”.
Burgess dijo que la idea de que el fraude en los beneficios por discapacidad estaba muy extendido era una "obra maestra de la propaganda", ya que la tasa real de fraude para algunos beneficios por discapacidad era tan baja como el 0,5 por ciento, pero DWP "todavía trata a todos como sospechosos".
Laura Lázaro Cabrera, oficial legal de Privacy International, que hace campaña contra las empresas y los gobiernos que explotan la tecnología de datos, dijo que originalmente descubrieron evidencia del uso de algoritmos en 2019 en un manual de capacitación del personal antifraude de DWP y en el informe anual y las cuentas de DWP. 2017-18.
El informe anual dijo que DWP estaba desarrollando "inteligencia artificial de vanguardia para tomar medidas enérgicas contra las bandas delictivas organizadas que cometen fraude de beneficios a gran escala".
Más tarde, DWP admitió haber utilizado "la comparación de datos y el análisis de datos para ayudar a identificar a las personas que pueden no haber declarado sus circunstancias correctamente".
Pero hasta ahora se ha negado a divulgar información sobre el uso de algoritmos a Privacy International, argumentando que hacerlo "perjudicaría la prevención y detección de fraudes y delitos".
Will Perry, abogado de Monckton Chambers, que está trabajando en el caso legal de GMCDP, dijo que DWP parecía estar "experimentando con una amplia gama de tecnologías diferentes".
Dijo que el caso se centró en la falta de transparencia de DWP y argumentaba posibles violaciones de los derechos en virtud del Convenio Europeo de Derechos Humanos y el Reglamento General de Protección de Datos (GDPR), así como las obligaciones de DWP en virtud del deber de igualdad del sector público de la Ley de Igualdad.
Dijo que esperaban una respuesta formal a su carta legal el próximo mes, pero advirtió que era un "territorio desconocido" para los abogados, ya que los pocos casos anteriores en el Reino Unido se resolvieron antes de llegar a los tribunales.
Rosa Curling, directora de Foxglove, dijo que esperaban que la acción legal mostrara que los algoritmos como los que usa DWP podrían ser impugnados en los tribunales y que alentaría a otros grupos a considerar la posibilidad de emprender acciones judiciales.
Dijo que los algoritmos parecen estar siendo utilizados en secreto en el gobierno local y nacional, "sin el debido escrutinio y responsabilidad, y... están tomando decisiones que están afectando la vida de todos de una manera absolutamente profunda".
Un portavoz del DWP dijo: “El DWP responderá a la carta escrita por los representantes de la Coalición de Personas Discapacitadas del Gran Manchester a su debido tiempo”.