Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Incident 611: UK Government AI Allegedly Targets Disproportionate Numbers of Certain Nationals for Fraud Review

Description: The UK's Department for Work and Pensions (DWP) faced scrutiny after many Bulgarian nationals reported unexplained suspensions of their Universal Credit benefits. The MP for Edmonton raised concerns about potential nationality-based targeting for benefit fraud investigations, leading to poverty and homelessness among affected individuals. The Home Office's own equality impact assessment found it was flagging a disproportionate number of marriages from Greece, Albania, Bulgaria and Romania.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique

Entités

Voir toutes les entités
Alleged: Home Office , Department for Work and Pensions et British government developed an AI system deployed by Various British government offices , Home Office , Department for Work and Pensions et British government, which harmed Romanians in the United Kingdom , Greeks in the United Kingdom , Bulgarians in the United Kingdom , British public et Albanians in the United Kingdom.

Statistiques d'incidents

ID
611
Nombre de rapports
13
Date de l'incident
2021-12-06
Editeurs
Daniel Atherton
Applied Taxonomies
MIT

Classifications de taxonomie MIT

Machine-Classified
Détails de la taxonomie

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

1.1. Unfair discrimination and misrepresentation

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Discrimination and Toxicity

Entity

Which, if any, entity is presented as the main cause of the risk
 

Human

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Intentional

Rapports d'incidents

Chronologie du rapport

+1
Un député s'inquiète de la suspension des prestations des ressortissants bulgares au Royaume-Uni
+3
DWP accélère ses investissements dans les modèles d'IA pour détecter la fraude malgré les problèmes de biais algorithmiques
Le Royaume-Uni met en garde contre le manque de transparence sur l'utilisation de l'IA pour vérifier les demandes d'aide sociale+6
L’IA de vérification des fraudes et des erreurs de DWP affiche toujours des signes de partialité
Un député s'inquiète de la suspension des prestations des ressortissants bulgares au Royaume-Uni

Un député s'inquiète de la suspension des prestations des ressortissants bulgares au Royaume-Uni

theguardian.com

DWP accélère ses investissements dans les modèles d'IA pour détecter la fraude malgré les problèmes de biais algorithmiques

DWP accélère ses investissements dans les modèles d'IA pour détecter la fraude malgré les problèmes de biais algorithmiques

techmonitor.ai

L’utilisation de l’IA s’est élargie pour évaluer les demandes de crédit universel et lutter contre la fraude

L’utilisation de l’IA s’est élargie pour évaluer les demandes de crédit universel et lutter contre la fraude

theguardian.com

Crédit universel : avertissements concernant l'utilisation de l'IA pour évaluer les demandes de prestations

Crédit universel : avertissements concernant l'utilisation de l'IA pour évaluer les demandes de prestations

bbc.com

DWP étend l'utilisation de la technologie antifraude au milieu des inquiétudes des groupes de campagne

DWP étend l'utilisation de la technologie antifraude au milieu des inquiétudes des groupes de campagne

digit.fyi

Le Royaume-Uni met en garde contre le manque de transparence sur l'utilisation de l'IA pour vérifier les demandes d'aide sociale

Le Royaume-Uni met en garde contre le manque de transparence sur l'utilisation de l'IA pour vérifier les demandes d'aide sociale

theguardian.com

L’IA de vérification des fraudes et des erreurs de DWP affiche toujours des signes de partialité

L’IA de vérification des fraudes et des erreurs de DWP affiche toujours des signes de partialité

techmonitor.ai

Le Royaume-Uni risque un scandale à cause du « parti pris » des outils d’IA utilisés dans le secteur public

Le Royaume-Uni risque un scandale à cause du « parti pris » des outils d’IA utilisés dans le secteur public

theguardian.com

L'IA utilisée pour des décisions cruciales dans plus de 8 départements de Whitehall

L'IA utilisée pour des décisions cruciales dans plus de 8 départements de Whitehall

interestingengineering.com

Le gouvernement britannique utilise l'IA pour décider des avantages accordés aux personnes et des licences de mariage : rapport

Le gouvernement britannique utilise l'IA pour décider des avantages accordés aux personnes et des licences de mariage : rapport

hindustantimes.com

Révélé : le gouvernement utilise l'IA pour décider des avantages sociaux et des permis de conduire

Révélé : le gouvernement utilise l'IA pour décider des avantages sociaux et des permis de conduire

independent.co.uk

Le gouvernement britannique utilise l’IA pour décider du paiement des prestations et repérer les mariages simulés, révèle une enquête

Le gouvernement britannique utilise l’IA pour décider du paiement des prestations et repérer les mariages simulés, révèle une enquête

uk.news.yahoo.com

Les décisions sur les allocations et les migrants sont « prises par l’IA »

Les décisions sur les allocations et les migrants sont « prises par l’IA »

thetimes.co.uk

Un député s'inquiète de la suspension des prestations des ressortissants bulgares au Royaume-Uni
theguardian.com · 2021
Traduit par IA

Des dizaines de citoyens bulgares ont été plongés dans la pauvreté après la suspension inexpliquée de leurs prestations suite à la création d'une unité « d'examen des risques » au sein du ministère du Travail et des Retraites, a déclaré un …

DWP accélère ses investissements dans les modèles d'IA pour détecter la fraude malgré les problèmes de biais algorithmiques
techmonitor.ai · 2023
Traduit par IA

Le ministère du Travail et des Retraites (DWP) investit 70 millions de livres sterling dans ses projets de transformation numérique au cours des trois prochaines années. Cependant, le National Audit Office (NAO) a fait part de ses inquiétud…

L’utilisation de l’IA s’est élargie pour évaluer les demandes de crédit universel et lutter contre la fraude
theguardian.com · 2023
Traduit par IA

Le gouvernement a élargi son déploiement de l’intelligence artificielle pour découvrir la fraude sociale, malgré les avertissements concernant les biais algorithmiques à l’encontre des groupes de demandeurs vulnérables.

Dans le cadre d'un i…

Crédit universel : avertissements concernant l'utilisation de l'IA pour évaluer les demandes de prestations
bbc.com · 2023
Traduit par IA

Le ministère du Travail et des Retraites (DWP) a révélé son intention d'élargir son utilisation de la technologie pour lutter contre la fraude.

Les militants affirment que davantage d’informations sont nécessaires pour garantir que le systè…

DWP étend l'utilisation de la technologie antifraude au milieu des inquiétudes des groupes de campagne
digit.fyi · 2023
Traduit par IA

Dans un récent rapport du National Audit Office (NAO) (https://www.nao.org.uk/wp-content/uploads/2023/07/dwp-report-on-accounts-2022-23.pdf) concernant Dans les comptes financiers du ministère du Travail et des Retraites (DWP), il est appar…

Le Royaume-Uni met en garde contre le manque de transparence sur l'utilisation de l'IA pour vérifier les demandes d'aide sociale
theguardian.com · 2023
Traduit par IA

Le gouvernement britannique risque l’outrage au tribunal s’il n’améliore pas sa réponse aux demandes de transparence sur l’utilisation de l’intelligence artificielle (IA) pour examiner les demandes d’aide sociale, a déclaré le commissaire à…

L’IA de vérification des fraudes et des erreurs de DWP affiche toujours des signes de partialité
techmonitor.ai · 2023
Traduit par IA

De hauts fonctionnaires ont déclaré à une commission de députés qu'une IA développée par le ministère du Travail et des Pensions (DWP) pour détecter les fraudes et les erreurs est toujours en cours. les étapes d'apprentissage de son dévelop…

Le Royaume-Uni risque un scandale à cause du « parti pris » des outils d’IA utilisés dans le secteur public
theguardian.com · 2023
Traduit par IA

Kate Osamor, députée travailliste d'Edmonton, a récemment reçu un courriel d'un organisme de bienfaisance au sujet d'un de ses électeurs dont les prestations avaient été suspendues, apparemment sans raison.

« Depuis plus d'un an maintenant,…

L'IA utilisée pour des décisions cruciales dans plus de 8 départements de Whitehall
interestingengineering.com · 2023
Traduit par IA

Dans le passé, l’utilisation de l’intelligence artificielle (IA) dans les services publics a suscité un tollé. Aux Pays-Bas, par exemple, les autorités fiscales ont utilisé la technologie pour détecter les fraudes, mais ont commis de nombre…

Le gouvernement britannique utilise l'IA pour décider des avantages accordés aux personnes et des licences de mariage : rapport
hindustantimes.com · 2023
Traduit par IA

Le rapport fait état de certains résultats potentiellement discriminatoires obtenus par l'intelligence artificielle.

Les responsables du gouvernement britannique utilisent l'intelligence artificielle (IA) et des algorithmes complexes pour p…

Révélé : le gouvernement utilise l'IA pour décider des avantages sociaux et des permis de conduire
independent.co.uk · 2023
Traduit par IA

Les responsables gouvernementaux utilisent l'intelligence artificielle (IA) pour les aider à prendre des décisions sur tout, depuis [l'approbation des licences de mariage jusqu'à qui devrait bénéficier des avantages] (/news/uk/politics/mi5-…

Le gouvernement britannique utilise l’IA pour décider du paiement des prestations et rep�érer les mariages simulés, révèle une enquête
uk.news.yahoo.com · 2023
Traduit par IA

L'utilisation par le gouvernement de l'intelligence artificielle (AI) risque produisant des résultats discriminatoires à l’égard des demandeurs de prestations et des minorités ethniques, a révélé une enquête.

Au total, huit départements Whi…

Les décisions sur les allocations et les migrants sont « prises par l’IA »
thetimes.co.uk · 2023
Traduit par IA

Les fonctionnaires d'au moins huit ministères gouvernementaux et la police utilisent l'intelligence artificielle pour prendre des décisions en matière de protection sociale, d'immigration et de justice pénale, a-t-on affirmé.

The Guardian r…

Variantes

Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.

Incidents similaires

Selected by our editors
Department for Work and Pensions (DWP) Algorithm Wrongly Flags 200,000 for Housing Benefit Fraud

DWP algorithm wrongly flags 200,000 people for possible fraud and error

Jun 2024 · 5 rapports
Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

Opaque Fraud Detection Algorithm by the UK’s Department of Work and Pensions Allegedly Discriminated against People with Disabilities

DWP urged to reveal algorithm that ‘targets’ disabled for benefit fraud

Oct 2019 · 6 rapports
Australian Automated Debt Assessment System Issued False Notices to Thousands

Centrelink's debt recovery system lacks transparency and treated some customers unfairly, ombudsman finds

Jul 2015 · 39 rapports
Airbnb's Trustworthiness Algorithm Allegedly Banned Users without Explanation, and Discriminated against Sex Workers

Is Airbnb using an algorithm to ban users from the platform?

Jul 2017 · 6 rapports
Incident précédentProchain incident

Incidents similaires

Selected by our editors
Department for Work and Pensions (DWP) Algorithm Wrongly Flags 200,000 for Housing Benefit Fraud

DWP algorithm wrongly flags 200,000 people for possible fraud and error

Jun 2024 · 5 rapports
Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

Opaque Fraud Detection Algorithm by the UK’s Department of Work and Pensions Allegedly Discriminated against People with Disabilities

DWP urged to reveal algorithm that ‘targets’ disabled for benefit fraud

Oct 2019 · 6 rapports
Australian Automated Debt Assessment System Issued False Notices to Thousands

Centrelink's debt recovery system lacks transparency and treated some customers unfairly, ombudsman finds

Jul 2015 · 39 rapports
Airbnb's Trustworthiness Algorithm Allegedly Banned Users without Explanation, and Discriminated against Sex Workers

Is Airbnb using an algorithm to ban users from the platform?

Jul 2017 · 6 rapports

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • ecd56df