Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Incidente 611: UK Government AI Allegedly Targets Disproportionate Numbers of Certain Nationals for Fraud Review

Descripción: The UK's Department for Work and Pensions (DWP) faced scrutiny after many Bulgarian nationals reported unexplained suspensions of their Universal Credit benefits. The MP for Edmonton raised concerns about potential nationality-based targeting for benefit fraud investigations, leading to poverty and homelessness among affected individuals. The Home Office's own equality impact assessment found it was flagging a disproportionate number of marriages from Greece, Albania, Bulgaria and Romania.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial

Entidades

Ver todas las entidades
Alleged: Home Office , Department for Work and Pensions y British government developed an AI system deployed by Various British government offices , Home Office , Department for Work and Pensions y British government, which harmed Romanians in the United Kingdom , Greeks in the United Kingdom , Bulgarians in the United Kingdom , British public y Albanians in the United Kingdom.

Estadísticas de incidentes

ID
611
Cantidad de informes
13
Fecha del Incidente
2021-12-06
Editores
Daniel Atherton
Applied Taxonomies
MIT

Clasificaciones de la Taxonomía MIT

Machine-Classified
Detalles de la Taxonomía

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

1.1. Unfair discrimination and misrepresentation

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Discrimination and Toxicity

Entity

Which, if any, entity is presented as the main cause of the risk
 

Human

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Intentional

Informes del Incidente

Cronología de Informes

+1
El diputado expresa su preocupación por la suspensión de las prestaciones de los ciudadanos búlgaros en el Reino Unido
+3
DWP aumenta la inversión en modelos de IA para detectar fraude a pesar de las preocupaciones sobre el sesgo algorítmico
El Reino Unido advirtió sobre la falta de transparencia sobre el uso de la IA para examinar las solicitudes de asistencia social+6
La IA de verificación de fraudes y errores de DWP sigue mostrando signos de sesgo
El diputado expresa su preocupación por la suspensión de las prestaciones de los ciudadanos búlgaros en el Reino Unido

El diputado expresa su preocupación por la suspensión de las prestaciones de los ciudadanos búlgaros en el Reino Unido

theguardian.com

DWP aumenta la inversión en modelos de IA para detectar fraude a pesar de las preocupaciones sobre el sesgo algorítmico

DWP aumenta la inversión en modelos de IA para detectar fraude a pesar de las preocupaciones sobre el sesgo algorítmico

techmonitor.ai

Se amplió el uso de la IA para evaluar las solicitudes de crédito universal y combatir el fraude

Se amplió el uso de la IA para evaluar las solicitudes de crédito universal y combatir el fraude

theguardian.com

Crédito universal: advertencias sobre el uso de la IA para calificar el riesgo de las reclamaciones de beneficios

Crédito universal: advertencias sobre el uso de la IA para calificar el riesgo de las reclamaciones de beneficios

bbc.com

DWP amplía el uso de tecnología antifraude en medio de preocupaciones de grupos de campaña

DWP amplía el uso de tecnología antifraude en medio de preocupaciones de grupos de campaña

digit.fyi

El Reino Unido advirtió sobre la falta de transparencia sobre el uso de la IA para examinar las solicitudes de asistencia social

El Reino Unido advirtió sobre la falta de transparencia sobre el uso de la IA para examinar las solicitudes de asistencia social

theguardian.com

La IA de verificación de fraudes y errores de DWP sigue mostrando signos de sesgo

La IA de verificación de fraudes y errores de DWP sigue mostrando signos de sesgo

techmonitor.ai

El Reino Unido corre el riesgo de escándalo por el "sesgo" en las herramientas de inteligencia artificial utilizadas en todo el sector público

El Reino Unido corre el riesgo de escándalo por el "sesgo" en las herramientas de inteligencia artificial utilizadas en todo el sector público

theguardian.com

IA empleada para decisiones cruciales en más de 8 departamentos de Whitehall

IA empleada para decisiones cruciales en más de 8 departamentos de Whitehall

interestingengineering.com

El gobierno del Reino Unido utiliza la IA para decidir los beneficios para las personas y las licencias de matrimonio: informe

El gobierno del Reino Unido utiliza la IA para decidir los beneficios para las personas y las licencias de matrimonio: informe

hindustantimes.com

Revelado: El gobierno utiliza IA para decidir sobre beneficios y permisos de conducir

Revelado: El gobierno utiliza IA para decidir sobre beneficios y permisos de conducir

independent.co.uk

El gobierno del Reino Unido utiliza IA para decidir el pago de beneficios y detectar matrimonios falsos, revela una investigación

El gobierno del Reino Unido utiliza IA para decidir el pago de beneficios y detectar matrimonios falsos, revela una investigación

uk.news.yahoo.com

Las decisiones sobre beneficios y migrantes “las toma la IA”

Las decisiones sobre beneficios y migrantes “las toma la IA”

thetimes.co.uk

El diputado expresa su preocupación por la suspensión de las prestaciones de los ciudadanos búlgaros en el Reino Unido
theguardian.com · 2021
Traducido por IA

Decenas de ciudadanos búlgaros se han visto sumidos en la pobreza tras suspensiones inexplicables de prestaciones tras la creación de una unidad de “revisión de riesgos” en el Departamento de Trabajo y Pensiones, afirmó un parlamentario.

Ka…

DWP aumenta la inversión en modelos de IA para detectar fraude a pesar de las preocupaciones sobre el sesgo algorítmico
techmonitor.ai · 2023
Traducido por IA

El Departamento de Trabajo y Pensiones (DWP) está invirtiendo £70 millones en sus proyectos de transformación digital durante los próximos tres años. Sin embargo, la Oficina Nacional de Auditoría (NAO) ha expresado su preocupación por las i…

Se amplió el uso de la IA para evaluar las solicitudes de crédito universal y combatir el fraude
theguardian.com · 2023
Traducido por IA

El gobierno ha ampliado su despliegue de inteligencia artificial para descubrir fraudes en materia de asistencia social, a pesar de las advertencias de sesgo algorítmico contra grupos de solicitantes vulnerables.

En una inversión de £70 mil…

Crédito universal: advertencias sobre el uso de la IA para calificar el riesgo de las reclamaciones de beneficios
bbc.com · 2023
Traducido por IA

El Departamento de Trabajo y Pensiones (DWP) ha revelado planes para ampliar el uso de la tecnología para combatir el fraude.

Los activistas dicen que se necesita más información para garantizar que el sistema no haga referencias sesgadas p…

DWP amplía el uso de tecnología antifraude en medio de preocupaciones de grupos de campaña
digit.fyi · 2023
Traducido por IA

En un [informe] reciente de la Oficina Nacional de Auditoría (NAO) (https://www.nao.org.uk/wp-content/uploads/2023/07/dwp-report-on-accounts-2022-23.pdf) sobre las cuentas financieras del Departamento de Trabajo y Pensiones (DWP), ha salido…

El Reino Unido advirtió sobre la falta de transparencia sobre el uso de la IA para examinar las solicitudes de asistencia social
theguardian.com · 2023
Traducido por IA

El gobierno del Reino Unido corre el riesgo de desacatar al tribunal a menos que mejore su respuesta a las solicitudes de transparencia sobre el uso de inteligencia artificial (IA) para examinar las solicitudes de asistencia social, afirmó …

La IA de verificación de fraudes y errores de DWP sigue mostrando signos de sesgo
techmonitor.ai · 2023
Traducido por IA

Altos funcionarios dijeron a un comité de parlamentarios que una IA que está desarrollando el Departamento de Trabajo y Pensiones (DWP) para detectar fraudes y errores todavía está en desarrollo. las etapas de aprendizaje de su desarrollo y…

El Reino Unido corre el riesgo de escándalo por el "sesgo" en las herramientas de inteligencia artificial utilizadas en todo el sector público
theguardian.com · 2023
Traducido por IA

Kate Osamor, diputada laborista de Edmonton, recibió recientemente un correo electrónico de una organización benéfica sobre un elector suyo a quien le habían suspendido sus beneficios aparentemente sin motivo.

“Durante más de un año ha esta…

IA empleada para decisiones cruciales en más de 8 departamentos de Whitehall
interestingengineering.com · 2023
Traducido por IA

En el pasado, el uso de la inteligencia artificial (IA) en los servicios públicos ha causado revuelo. Por ejemplo, en los Países Bajos, las autoridades tributarias utilizaron la tecnología para detectar fraudes, pero cometieron muchos error…

El gobierno del Reino Unido utiliza la IA para decidir los beneficios para las personas y las licencias de matrimonio: informe
hindustantimes.com · 2023
Traducido por IA

El informe encontró algunos resultados potencialmente discriminatorios obtenidos por la inteligencia artificial.

Los funcionarios del gobierno del Reino Unido están utilizando inteligencia artificial (IA) y algoritmos complejos para ayudar …

Revelado: El gobierno utiliza IA para decidir sobre beneficios y permisos de conducir
independent.co.uk · 2023
Traducido por IA

Los funcionarios gubernamentales están utilizando inteligencia artificial (IA) para ayudar a decidir sobre todo, desde [aprobar licencias de matrimonio hasta quién debe recibir beneficios] (/news/uk/politics/mi5-intelligence-spies-china-us-…

El gobierno del Reino Unido utiliza IA para decidir el pago de beneficios y detectar matrimonios falsos, revela una investigación
uk.news.yahoo.com · 2023
Traducido por IA

El uso por parte del gobierno de inteligencia artificial (AI) presenta riesgos produciendo resultados discriminatorios contra los solicitantes de prestaciones y las minorías étnicas, según ha descubierto una investigación.

Un total de ocho …

Las decisiones sobre beneficios y migrantes “las toma la IA”
thetimes.co.uk · 2023
Traducido por IA

Se ha afirmado que funcionarios de al menos ocho departamentos gubernamentales y la policía están utilizando inteligencia artificial para tomar decisiones sobre bienestar, inmigración y justicia penal.

The Guardian informado que los sistema…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.

Incidentes Similares

Selected by our editors
Department for Work and Pensions (DWP) Algorithm Wrongly Flags 200,000 for Housing Benefit Fraud

DWP algorithm wrongly flags 200,000 people for possible fraud and error

Jun 2024 · 5 informes
Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Opaque Fraud Detection Algorithm by the UK’s Department of Work and Pensions Allegedly Discriminated against People with Disabilities

DWP urged to reveal algorithm that ‘targets’ disabled for benefit fraud

Oct 2019 · 6 informes
Australian Automated Debt Assessment System Issued False Notices to Thousands

Centrelink's debt recovery system lacks transparency and treated some customers unfairly, ombudsman finds

Jul 2015 · 39 informes
Airbnb's Trustworthiness Algorithm Allegedly Banned Users without Explanation, and Discriminated against Sex Workers

Is Airbnb using an algorithm to ban users from the platform?

Jul 2017 · 6 informes
Incidente AnteriorSiguiente Incidente

Incidentes Similares

Selected by our editors
Department for Work and Pensions (DWP) Algorithm Wrongly Flags 200,000 for Housing Benefit Fraud

DWP algorithm wrongly flags 200,000 people for possible fraud and error

Jun 2024 · 5 informes
Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Opaque Fraud Detection Algorithm by the UK’s Department of Work and Pensions Allegedly Discriminated against People with Disabilities

DWP urged to reveal algorithm that ‘targets’ disabled for benefit fraud

Oct 2019 · 6 informes
Australian Automated Debt Assessment System Issued False Notices to Thousands

Centrelink's debt recovery system lacks transparency and treated some customers unfairly, ombudsman finds

Jul 2015 · 39 informes
Airbnb's Trustworthiness Algorithm Allegedly Banned Users without Explanation, and Discriminated against Sex Workers

Is Airbnb using an algorithm to ban users from the platform?

Jul 2017 · 6 informes

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • ecd56df