Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 1673

Incidentes Asociados

Incidente 1896 Reportes
Opaque Fraud Detection Algorithm by the UK’s Department of Work and Pensions Allegedly Discriminated against People with Disabilities

Loading...
Cómo el gobierno espía a los solicitantes de asistencia social
vice.com · 2021

El gobierno del Reino Unido utiliza técnicas invasivas de recopilación de datos para probar y probar que las personas que reclaman beneficios en realidad llevan un estilo de vida lujoso.

El monitoreo de las redes sociales, la vigilancia física encubierta y la recopilación de datos de las aerolíneas, las cuentas de PayPal y los clubes de bingo se encuentran entre las tácticas que el gobierno del Reino Unido ha estado utilizando para monitorear a los solicitantes de asistencia social.

El Departamento de Trabajo y Pensiones (DWP), que es responsable del sistema de seguridad social del Reino Unido y del apoyo a las prestaciones para algunos de los más vulnerables del país, despliega métodos de vigilancia excesivos, según un nuevo informe de Privacy International. Tomar medidas enérgicas contra el fraude de beneficios ha sido un objetivo de los sucesivos gobiernos del Reino Unido, a pesar de que representa una pequeña proporción de los beneficios administrados.

VICE World News habló con Rachel Fletcher, una abogada de la firma de Manchester Slater Heelis que representa a Ellen, una demandante de beneficios que ha estado sujeta a la vigilancia del DWP. Ellen, cuyo nombre ha sido cambiado para proteger su anonimato, vive con una enfermedad crónica. La vigilancia se llevó a cabo después de que el DWP comenzara a sospechar que no tenía derecho a la ayuda por discapacidad.

Los investigadores encubiertos de DWP siguieron a Ellen y la filmaron en un evento de recaudación de fondos, uno al que asistía para recaudar dinero para una organización benéfica para su enfermedad. “En realidad, no pudo participar en el evento debido a su enfermedad y se fue llorando”, dice Fletcher. “Pero el DWP no muestra eso, solo la muestran llegando”.

De acuerdo con un manual de empleados de DWP de 995 páginas, muy criticado, analizado por Privacy International, la vigilancia de los solicitantes de beneficios está permitida siempre que permanezca "encubierta, pero no intrusiva". Pero las tácticas de mano dura sugieren que el sistema de seguridad social se ha convertido en el sitio de una vigilancia potencialmente ilegal contra quienes reciben pagos de asistencia social y discapacidad.

Ellen había estado recibiendo pagos de independencia personal (PIP), un beneficio que se otorga para ayudar a cubrir los costos diarios como el transporte y la vida asistida para personas con discapacidades y enfermedades a largo plazo. En 2018, a los pocos meses de recibir el beneficio, inició un nuevo tratamiento de salud que le brindaba un alivio intermitente, algunos días podía moverse con facilidad y otros días no podía levantarse de la cama.

Aún así, se comunicó con el DWP para informarles que su condición había cambiado y le dijeron que no tenía que preocuparse por ningún cambio en su PIP hasta la fecha de reevaluación de beneficios, que estaba programada para dentro de varios años. . Unos meses más tarde, el Departamento la llamó para una “Entrevista bajo precaución” y la acusó de fingir su discapacidad.

En la entrevista, el DWP presentó datos obtenidos de una aerolínea y un club social al que asistía. Fletcher, quien asistió a la entrevista junto con Ellen, dice que la evidencia tenía la intención de retratarla como una gastadora adinerada que no necesitaba asistencia por discapacidad. “Empiezan a reproducir toda la evidencia que habían estado reuniendo durante un período de aproximadamente seis semanas [...] Evidencia de ella haciendo su vida diaria, descargando su automóvil, saliendo de cafeterías y haciendo ejercicio”. Todo estaba destinado a demostrar que estaba defraudando al sistema de beneficios.

“Miraron cosas como sus vuelos y [dijeron] que había mejorado sus vuelos. Pero no apreciaron que la razón por la que se actualizó fue que necesitaba más espacio para las piernas debido a su enfermedad”, dice Fletcher. Su médico de cabecera le había aconsejado a Ellen que se mantuviera activa, pero los investigadores de fraude del DWP la filmaron haciendo ejercicio y se lo presentaron en la entrevista como prueba de que debería retirarle su beneficio y enfrentar cargos penales.

También se habían acercado a su empleador y a otras personas que conocía para obtener información sobre ella. “En esta etapa, se supone que solo deben obtener una cuenta de usted”, explica Fletcher. “Y, sin embargo, llegas a una entrevista y descubres que ya hablaron con tus asociados y tu empleador, quienes pueden no haberte informado al respecto. Es vergonzoso. Se supone que eres inocente hasta que se demuestre tu culpabilidad, pero la gente cree que no hay humo sin fuego, por lo que tu reputación se ve empañada. Incluso antes de que te acusen de un delito.

De acuerdo con el manual del empleado del DWP, los casos de fraude de beneficios son transmitidos por el Departamento a los periodistas como parte de una estrategia de medios para aumentar la visibilidad de estos casos. “Existe un procedimiento que dice que cuando atrapas a alguien, vas y le dices a los tabloides”, explica Eva Blum-Dumontet, investigadora principal de Privacy International. Aunque los detalles de la coordinación del DWP con los medios de comunicación están redactados, la publicación sistemática de información sobre casos de fraude de beneficios apunta al papel del Departamento en la perpetuación del mito de los "tramposos de beneficios" que toman lujosas vacaciones usando fondos de los contribuyentes.

El informe de Privacy International sugiere que este tipo de recopilación de pruebas de DWP puede violar la Ley de Regulación de Poderes de Investigación de 2000 (RIPA), que dicta cómo el gobierno puede vigilar y monitorear a los residentes del Reino Unido. El DWP solo está autorizado parcialmente para usar tácticas de investigación y recopilación de datos, y no tiene permiso legal para usar información obtenida de quienes conocen y tienen una relación con la persona bajo investigación, conocida como Fuentes de inteligencia humana encubierta (CHIS), que esencialmente actuar como informantes. El manual de DWP reconoce los límites legales en torno a CHIS, pero también ofrece 8 páginas de orientación que explican cómo recopilar información de ellos.

“Bajo RIPA, no se les permite usar fuentes de inteligencia humana encubiertas”, dice Blum-Dumontet. “Y, sin embargo, la guía está llena de: ‘Oh, no puedes usar esto. Pero oye, si tienes una fuente de inteligencia humana encubierta que de repente viene hacia ti, así es como debes manejar eso’. Es muy descarado”.

Fletcher dice que, según su experiencia trabajando con reclamantes, las investigaciones de DWP son agresivas y, a menudo, desproporcionadamente severas. “La policía no suele usar esos poderes tan temprano en una investigación, mientras que el DWP lo hará”.

Muchos casos de beneficios en los que trabaja Fletcher incluyen instancias de monitoreo de redes sociales, que el DWP justifica con el argumento de que los datos personales que utilizan se consideran de código abierto. “El hecho de que tengas problemas de movilidad no significa que no tengas derecho a la vida pública oa la vida social. Imprimirán fotografías que tengas allí [redes sociales] y te las pondrán en una entrevista”. La táctica a menudo tiene el efecto de ser intimidante e invasiva para los reclamantes que son examinados por el DWP.

Las investigaciones y las violaciones de la privacidad a menudo cobran un alto precio a los demandantes como Ellen. “Tiene bastante miedo de salir de casa”, dice Fletcher. “Ella piensa que ha sido observada todo el tiempo. Tiene miedo incluso de salir a caminar... ha afectado a su familia... La ha afectado mucho".

Blum-Dumontet dice que el uso de datos de fuentes de terceros por parte del DWP, así como el uso de algoritmos de comparación de datos por parte del Departamento, es un motivo particular de preocupación. “¿Quién no se sentiría paranoico? ¿Quién no se sentiría paranoico con la idea de que cuando compra algo en línea, la compañía compartirá sus datos con el estado que le está dando dinero? Junto con instituciones financieras y aerolíneas como EasyJet, el DWP también puede obtener información de eBay, supermercados, centros de ocio y gimnasios, la BBC y ciertos servicios de suscripción de Sky.

La guía del personal del DWP señala: "PayPal, una subsidiaria de eBay, está dispuesta a proporcionar información en respuesta a una carta estándar de la DPA [Ley de Protección de Datos]... la carta estándar de la DPA contiene una forma adecuada de palabras para brindarles las garantías que la información es necesaria para fines de aplicación de la ley”. Paypal dejó de ser una subsidiaria de eBay en julio de 2015.

“No se trata solo de privacidad, también va en contra de un derecho muy fundamental a la dignidad”, dice Blum-Dumontet, quien dice que Privacy International todavía está tratando de descubrir detalles sobre cómo el DWP señala a los reclamantes para su investigación.

Originalmente, el DWP afirmó que las investigaciones se llevaron a cabo cuando los miembros del público denunciaron a los reclamantes a través de la Línea Nacional de Fraude de Beneficios del DWP. Y en el caso de Ellen, Fletcher dice que ella y Ellen sospechan que la investigación se inició por un informe a la línea directa de DWP.

Pero los trabajadores de primera línea y aquellos que están familiarizados con el sistema de beneficios han sugerido que la línea de información, que permite a los vecinos y familiares informar sobre aquellos que creen que están cometiendo fraude de beneficios, es muy ineficaz. Una investigación realizada por The Independent encontró que el 87 por ciento de los fraudes informados a través de la línea de información eran callejones sin salida que resultaron en ninguna acción por parte del Departamento.

Curiosamente, el DWP ha sugerido que también utiliza otros métodos para llevar a cabo investigaciones de fraude. “Cuando revisas el informe anual del DWP, se habla mucho sobre cómo están desarrollando esta elegante inteligencia artificial para reducir el fraude”, dice Blum-Dumontet.

El informe anual 2018-19 del DWP señaló que el Departamento estaba “utilizando datos y herramientas analíticas cada vez más sofisticadas” para eliminar el fraude. En agosto pasado, un representante del "Garaje de Automatización Inteligente" del DWP, una unidad del Departamento que trabaja en estrecha colaboración con empresas privadas de IA como UiPath, señaló que la instalación estaba trabajando en tecnología de detección de fraude y que había, "algunos cosas en las cartas.

Si bien una solicitud de FOI presentada por Privacy International confirmó que el DWP estaba utilizando la comparación de datos, lo que es esencialmente un proceso algorítmico simple, para señalar a los reclamantes de beneficios para su investigación, el DWP ha sido cauteloso con los detalles. No está claro qué patrones de comportamiento están desencadenando investigaciones. El DWP afirma que los delincuentes podrían utilizar la información sobre los procesos de detección de fraude para cometer fraude.

Pero Blum-Dumontet dice que el DWP debe ser más transparente sobre cómo usa los algoritmos. “Estamos en un punto de inflexión en la sociedad en el que nos estamos dando cuenta del hecho de que necesitamos transparencia en estos temas, que no se puede usar la IA sin garantías claras y una comprensión clara de qué datos se están utilizando. ¿Cómo va a funcionar este sistema? Y el hecho de que en esta etapa tan temprana [el DWP] ya se niega a cumplir con cualquier solicitud de transparencia realmente debería preocuparnos”.

El secretario laboral en la sombra para Trabajo y Pensiones, Jonathan Reynolds, expresó su preocupación por los hallazgos del informe de Privacy International. “Los laboristas creen en un sistema de seguridad social compasivo que trata a las personas con la dignidad que tienen todo el derecho a esperar. En cambio, tenemos un sistema punitivo de Crédito Universal que le está fallando a miles de familias que no pueden pagar los artículos esenciales que necesitan en esta crisis”.

El caso de fraude de Ellen está en curso, pero Fletcher dice que están trabajando para que se desestime el caso. “Tiene efectos psicológicos duraderos en los demandantes. Creo que los vuelve muy cautelosos a la hora de pedir ayuda cuando más la necesitan. Creo que es innecesariamente intrusivo”.

En una declaración escrita, un portavoz de DWP dijo: “El informe de Privacy International tergiversa gravemente el uso y el alcance de los poderes de DWP, que están sujetos a un escrutinio independiente.

“Los poderes limitados que posee el Departamento se utilizan para prevenir y detectar posibles delitos, y la vigilancia se lleva a cabo solo cuando el Departamento está investigando un posible fraude, e incluso entonces solo en los casos en que se han agotado todas las demás líneas de investigación relevantes”.

El DWP también afirmó que "las empresas no tienen ninguna obligación legal de proporcionar los datos solicitados".

EasyJet se negó a comentar sobre prácticas específicas de intercambio de datos, pero un representante de la compañía le dijo a VICE World News que "como principio, solo proporcionamos datos de acuerdo con nuestras obligaciones legales, incluida la protección de datos".

Un portavoz de PayPal dijo: “PayPal solo divulga información a las autoridades policiales cuando existe la obligación legal de hacerlo. Esto incluye asegurarse de que la solicitud sea correcta, legítima y lícita”.

Blum-Dumontet cuestiona si el DWP les está dejando claro a las empresas que no existe ninguna obligación legal de compartir los datos de los clientes con ellas. "El mismo hecho de que la guía [del DWP] escrita para su propio personal enumere a las empresas con el tipo de datos que pueden solicitar sugiere que saben que existe una buena posibilidad de que los datos sean entregados".

Cuando VICE World News le preguntó sobre este punto, el DWP se negó a comentar más.

Actualización: este artículo se modificó el 8 de marzo para reflejar que Paypal dejó de ser una subsidiaria de eBay en julio de 2015.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd