Incidentes Asociados
El Departamento de Trabajo y Pensiones (DWP) ha revelado planes para ampliar el uso de la tecnología para combatir el fraude.
Los activistas dicen que se necesita más información para garantizar que el sistema no haga referencias sesgadas para investigaciones de beneficios.
El departamento insiste en que cuenta con salvaguardias y planea compartir más información con los parlamentarios.
El DWP ha puesto las nuevas tecnologías en el centro de su plan para combatir el fraude, que aumentó durante el Covid cuando se suspendieron algunos controles en persona.
Se estima que este año se pagaron en exceso £8.300 millones en beneficios, menos que el año anterior pero el doble de los £4.100 millones del último año antes de la pandemia.
Desde el año pasado, ha utilizado un algoritmo para detectar reclamaciones potencialmente fraudulentas de anticipos del Crédito Universal (UC). Se trata de pagos provisionales para quienes lo necesitan con urgencia, que luego se reembolsan mensualmente.
Utiliza el aprendizaje automático, una forma ampliamente utilizada de inteligencia artificial (IA), para analizar datos históricos de beneficios y predecir la probabilidad de que una nueva reclamación sea fraudulenta o incorrecta.
Las reclamaciones calificadas como riesgosas se remiten luego a los funcionarios públicos para que las investiguen, y los pagos se suspenden hasta que se haya solucionado la derivación.
En sus cuentas anuales de la semana pasada, el DWP reveló planes para poner a prueba modelos "similares" para revisar casos en cuatro áreas con altas tasas de sobrepago, incluidos los ingresos no declarados del trabajo por cuenta propia y los costos de vivienda incorrectos.
El departamento no ha dado una fecha para el despliegue completo de los modelos.
El departamento dice que monitorea continuamente los algoritmos para protegerse contra el "riesgo inherente" de sesgo no intencionado, y dice que a los trabajadores sociales no se les informa cuándo el modelo ha señalado los casos.
Pero el grupo de campaña Privacy International dijo que tenía "preocupaciones constantes" por una "falta persistente de transparencia" sobre cómo se estaba utilizando.
El grupo le dijo a la BBC que el DWP no había proporcionado "información sustancial" sobre las herramientas que está utilizando.
Añadió que se debería asignar a un organismo externo una función de supervisión, dados los "graves riesgos bien documentados para los derechos fundamentales" derivados de decisiones informadas por algoritmos.
Child Poverty Action Group dijo que estaba alarmado por los planes para un mayor uso del aprendizaje automático y agregó que aún no se habían abordado los "defectos clave" en el enfoque de digitalización de DWP.
"Ampliar la tecnología ignorando los llamados a la transparencia y a un control riguroso y a la protección contra los prejuicios correrá el riesgo de causar graves daños a las familias vulnerables", añadió la directora ejecutiva Alison Garnham.
Gareth Davies, jefe de la Oficina Nacional de Auditoría, el organismo de control del gasto del Reino Unido, también instó al departamento a publicar detalles sobre cualquier posible sesgo en sus herramientas de aprendizaje automático para "mejorar la confianza del público" en los sistemas.
En su declaración sobre las cuentas, dijo que el DWP había admitido que su capacidad para comprobar la injusticia relacionada con características protegidas - como la edad, la raza y la discapacidad - era "actualmente limitada".
Esto se debió en parte a que los reclamantes no siempre respondieron a preguntas opcionales sobre sus antecedentes, pero también a que cierta información había sido eliminada de sus sistemas por razones de seguridad, escribió.
El departamento dice que está tomando medidas para integrar pronto los datos en sus sistemas y se ha comprometido a informar a los parlamentarios anualmente sobre cómo las herramientas impulsadas por IA están afectando a diferentes grupos de reclamantes.
También argumenta que enfrenta un "desafío" al equilibrar los llamados a una mayor transparencia con el deseo de no "avisar" a posibles estafadores revelando demasiada información sobre cómo identifica el fraude potencial.
Se espera que el departamento responda a las recomendaciones de la NAO más adelante este año.
El Partido Laborista también ha respaldado el uso de la IA para combatir el fraude, y el secretario de trabajo en la sombra y pensiones, Jonathan Ashworth, dijo que podría ayudar a combatir a los delincuentes que "se engañan con el contribuyente".
En un discurso el martes ante la Fundación del Mercado Social, añadió que el uso de la tecnología por parte del departamento aún no se había "ampliado adecuadamente".
El partido dice que está comprometido con salvaguardias para evitar sesgos en el uso de algoritmos, aunque aún debe presentar propuestas detalladas.