Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 1674

Incidents associés

Incident 1896 Rapports
Opaque Fraud Detection Algorithm by the UK’s Department of Work and Pensions Allegedly Discriminated against People with Disabilities

Loading...
Le DWP fait face à une action en justice pour révéler des «algorithmes» qui signalent des allégations de fraude aux prestations
mirror.co.uk · 2022

Les militants affirment que les personnes handicapées sont injustement ciblées et vivent dans la "peur de l'enveloppe brune" grâce à de mystérieux processus informatiques que le gouvernement n'a jamais complètement expliqués.

Le ministère du Travail et des Pensions fait face à une nouvelle action en justice pour révéler quels «algorithmes» il utilise pour signaler les allégations de fraude aux prestations.

La Coalition des personnes handicapées du Grand Manchester a envoyé une «lettre avant l'action» demandant aux ministres de «nettoyer» les techniques qui, selon elle, jettent les demandeurs handicapés dans la crise.

Le groupe de campagne affirme que des personnes handicapées ont eu des questions sur leurs demandes de prestations par un appel téléphonique, un e-mail ou une "enveloppe brune" dans le courrier sans savoir pourquoi.

Parfois, ils ont des liquidités essentielles «coupées» au début des enquêtes qui peuvent durer plus d'un an, a déclaré le groupe.

Le porte-parole du GMCDP, Rick Burgess, a déclaré que les demandeurs de prestations de tous bords sont pointés du doigt, mais les militants pensent que l'algorithme "sur-sélectionne les personnes handicapées pour les enquêtes sur les fraudes".

Il a déclaré lors d'une réunion ce soir: «Vous n'avez aucune idée de la façon dont il est arrivé que vous fassiez l'objet d'une enquête - aucune du tout.

"C'est extrêmement bouleversant quand les gens comprennent cela."

Il a ajouté : « Nous vivons dans un système pénal fantôme qui nous traite comme des criminels pour avoir à répondre aux mêmes besoins que tout le monde. La peur de l'enveloppe brune fait que les personnes handicapées se sentent terrorisées, dans un état constant d'anxiété et à fleur de peau.

Il s'agit de la deuxième lettre légale envoyée par le même groupe sur le sujet, la première devant sortir avant Noël.

Le DWP a répondu en décembre, mais le groupe allègue que le gouvernement n'a toujours pas répondu aux questions clés sur la technologie qu'il utilise pour signaler une éventuelle fraude.

La nouvelle lettre juridique - à laquelle le DWP doit répondre dans les 28 jours - conteste "l'utilisation de l'IA, de la technologie algorithmique et d'autres formes d'automatisation" dans les enquêtes sur la fraude aux prestations.

Il indique que le DWP utilise la "correspondance des données" et "l'apprentissage automatique", mais d'autres techniques peuvent être utilisées et le DWP n'est pas clair sur ce qu'elles sont.

La lettre indique qu'il existe un "risque de partialité" dans le traitement automatisé.

Elle exige que le DWP fournisse des "informations détaillées" sur son utilisation des processus informatiques et mette en place des "garanties adéquates".

L'avocat Will Perry, qui représente l'action en justice soutenue par le groupe «tech justice» Foxglove et Privacy International, a déclaré: «Nous savons qu'un algorithme de correspondance des données est utilisé.

"Le DWP semble expérimenter un large éventail de technologies différentes."

Le secrétaire permanent du DWP, Peter Schofield, a précédemment insisté sur le fait que les systèmes informatiques « guident notre travail », mais « nous ne prenons aucune mesure contre quiconque basé sur une machine ».

Il a ajouté: "Cela revient toujours à un individu."

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd