Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Traducido por IA

Incidente 611: La inteligencia artificial del gobierno del Reino Unido presuntamente se dirige a un número desproporcionado de ciudadanos de ciertos países para su análisis por fraude.

Traducido por IA
Descripción:
Traducido por IA
El Departamento de Trabajo y Pensiones del Reino Unido (DWP) fue objeto de escrutinio después de que numerosos ciudadanos búlgaros denunciaran suspensiones inexplicables de sus prestaciones del Crédito Universal. El diputado de Edmonton expresó su preocupación por la posible discriminación por nacionalidad en las investigaciones de fraude de prestaciones, lo que ha provocado pobreza y falta de vivienda entre las personas afectadas. La propia evaluación del impacto en la igualdad del Ministerio del Interior reveló que estaba detectando un número desproporcionado de matrimonios entre personas de Grecia, Albania, Bulgaria y Rumanía.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial

Entidades

Ver todas las entidades
Alleged: Home Office , Department for Work and Pensions y British government developed an AI system deployed by Various British government offices , Home Office , Department for Work and Pensions y British government, which harmed Romanians in the United Kingdom , Greeks in the United Kingdom , Bulgarians in the United Kingdom , British public y Albanians in the United Kingdom.

Estadísticas de incidentes

ID
611
Cantidad de informes
13
Fecha del Incidente
2021-12-06
Editores
Daniel Atherton
Applied Taxonomies
MIT

Clasificaciones de la Taxonomía MIT

Machine-Classified
Detalles de la Taxonomía

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

1.1. Unfair discrimination and misrepresentation

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Discrimination and Toxicity

Entity

Which, if any, entity is presented as the main cause of the risk
 

Human

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Intentional

Informes del Incidente

Cronología de Informes

+1
El diputado expresa su preocupación por la suspensión de las prestaciones de los ciudadanos búlgaros en el Reino Unido
+3
DWP aumenta la inversión en modelos de IA para detectar fraude a pesar de las preocupaciones sobre el sesgo algorítmico
El Reino Unido advirtió sobre la falta de transparencia sobre el uso de la IA para examinar las solicitudes de asistencia social+6
La IA de verificación de fraudes y errores de DWP sigue mostrando signos de sesgo
El diputado expresa su preocupación por la suspensión de las prestaciones de los ciudadanos búlgaros en el Reino Unido

El diputado expresa su preocupación por la suspensión de las prestaciones de los ciudadanos búlgaros en el Reino Unido

theguardian.com

DWP aumenta la inversión en modelos de IA para detectar fraude a pesar de las preocupaciones sobre el sesgo algorítmico

DWP aumenta la inversión en modelos de IA para detectar fraude a pesar de las preocupaciones sobre el sesgo algorítmico

techmonitor.ai

Se amplió el uso de la IA para evaluar las solicitudes de crédito universal y combatir el fraude

Se amplió el uso de la IA para evaluar las solicitudes de crédito universal y combatir el fraude

theguardian.com

Crédito universal: advertencias sobre el uso de la IA para calificar el riesgo de las reclamaciones de beneficios

Crédito universal: advertencias sobre el uso de la IA para calificar el riesgo de las reclamaciones de beneficios

bbc.com

DWP amplía el uso de tecnología antifraude en medio de preocupaciones de grupos de campaña

DWP amplía el uso de tecnología antifraude en medio de preocupaciones de grupos de campaña

digit.fyi

El Reino Unido advirtió sobre la falta de transparencia sobre el uso de la IA para examinar las solicitudes de asistencia social

El Reino Unido advirtió sobre la falta de transparencia sobre el uso de la IA para examinar las solicitudes de asistencia social

theguardian.com

La IA de verificación de fraudes y errores de DWP sigue mostrando signos de sesgo

La IA de verificación de fraudes y errores de DWP sigue mostrando signos de sesgo

techmonitor.ai

El Reino Unido corre el riesgo de escándalo por el "sesgo" en las herramientas de inteligencia artificial utilizadas en todo el sector público

El Reino Unido corre el riesgo de escándalo por el "sesgo" en las herramientas de inteligencia artificial utilizadas en todo el sector público

theguardian.com

El gobierno del Reino Unido utiliza IA para decidir el pago de beneficios y detectar matrimonios falsos, revela una investigación

El gobierno del Reino Unido utiliza IA para decidir el pago de beneficios y detectar matrimonios falsos, revela una investigación

uk.news.yahoo.com

IA empleada para decisiones cruciales en más de 8 departamentos de Whitehall

IA empleada para decisiones cruciales en más de 8 departamentos de Whitehall

interestingengineering.com

El gobierno del Reino Unido utiliza la IA para decidir los beneficios para las personas y las licencias de matrimonio: informe

El gobierno del Reino Unido utiliza la IA para decidir los beneficios para las personas y las licencias de matrimonio: informe

hindustantimes.com

Revelado: El gobierno utiliza IA para decidir sobre beneficios y permisos de conducir

Revelado: El gobierno utiliza IA para decidir sobre beneficios y permisos de conducir

independent.co.uk

Las decisiones sobre beneficios y migrantes “las toma la IA”

Las decisiones sobre beneficios y migrantes “las toma la IA”

thetimes.co.uk

El diputado expresa su preocupación por la suspensión de las prestaciones de los ciudadanos búlgaros en el Reino Unido
theguardian.com · 2021
Traducido por IA

Decenas de ciudadanos búlgaros se han visto sumidos en la pobreza tras suspensiones inexplicables de prestaciones tras la creación de una unidad de “revisión de riesgos” en el Departamento de Trabajo y Pensiones, afirmó un parlamentario.

Ka…

DWP aumenta la inversión en modelos de IA para detectar fraude a pesar de las preocupaciones sobre el sesgo algorítmico
techmonitor.ai · 2023
Traducido por IA

El Departamento de Trabajo y Pensiones (DWP) está invirtiendo £70 millones en sus proyectos de transformación digital durante los próximos tres años. Sin embargo, la Oficina Nacional de Auditoría (NAO) ha expresado su preocupación por las i…

Se amplió el uso de la IA para evaluar las solicitudes de crédito universal y combatir el fraude
theguardian.com · 2023
Traducido por IA

El gobierno ha ampliado su despliegue de inteligencia artificial para descubrir fraudes en materia de asistencia social, a pesar de las advertencias de sesgo algorítmico contra grupos de solicitantes vulnerables.

En una inversión de £70 mil…

Crédito universal: advertencias sobre el uso de la IA para calificar el riesgo de las reclamaciones de beneficios
bbc.com · 2023
Traducido por IA

El Departamento de Trabajo y Pensiones (DWP) ha revelado planes para ampliar el uso de la tecnología para combatir el fraude.

Los activistas dicen que se necesita más información para garantizar que el sistema no haga referencias sesgadas p…

DWP amplía el uso de tecnología antifraude en medio de preocupaciones de grupos de campaña
digit.fyi · 2023
Traducido por IA

En un [informe] reciente de la Oficina Nacional de Auditoría (NAO) (https://www.nao.org.uk/wp-content/uploads/2023/07/dwp-report-on-accounts-2022-23.pdf) sobre las cuentas financieras del Departamento de Trabajo y Pensiones (DWP), ha salido…

El Reino Unido advirtió sobre la falta de transparencia sobre el uso de la IA para examinar las solicitudes de asistencia social
theguardian.com · 2023
Traducido por IA

El gobierno del Reino Unido corre el riesgo de desacatar al tribunal a menos que mejore su respuesta a las solicitudes de transparencia sobre el uso de inteligencia artificial (IA) para examinar las solicitudes de asistencia social, afirmó …

La IA de verificación de fraudes y errores de DWP sigue mostrando signos de sesgo
techmonitor.ai · 2023
Traducido por IA

Altos funcionarios dijeron a un comité de parlamentarios que una IA que está desarrollando el Departamento de Trabajo y Pensiones (DWP) para detectar fraudes y errores todavía está en desarrollo. las etapas de aprendizaje de su desarrollo y…

El Reino Unido corre el riesgo de escándalo por el "sesgo" en las herramientas de inteligencia artificial utilizadas en todo el sector público
theguardian.com · 2023
Traducido por IA

Kate Osamor, diputada laborista de Edmonton, recibió recientemente un correo electrónico de una organización benéfica sobre un elector suyo a quien le habían suspendido sus beneficios aparentemente sin motivo.

“Durante más de un año ha esta…

El gobierno del Reino Unido utiliza IA para decidir el pago de beneficios y detectar matrimonios falsos, revela una investigación
uk.news.yahoo.com · 2023
Traducido por IA

El uso por parte del gobierno de inteligencia artificial (AI) presenta riesgos produciendo resultados discriminatorios contra los solicitantes de prestaciones y las minorías étnicas, según ha descubierto una investigación.

Un total de ocho …

IA empleada para decisiones cruciales en más de 8 departamentos de Whitehall
interestingengineering.com · 2023
Traducido por IA

En el pasado, el uso de la inteligencia artificial (IA) en los servicios públicos ha causado revuelo. Por ejemplo, en los Países Bajos, las autoridades tributarias utilizaron la tecnología para detectar fraudes, pero cometieron muchos error…

El gobierno del Reino Unido utiliza la IA para decidir los beneficios para las personas y las licencias de matrimonio: informe
hindustantimes.com · 2023
Traducido por IA

El informe encontró algunos resultados potencialmente discriminatorios obtenidos por la inteligencia artificial.

Los funcionarios del gobierno del Reino Unido están utilizando inteligencia artificial (IA) y algoritmos complejos para ayudar …

Revelado: El gobierno utiliza IA para decidir sobre beneficios y permisos de conducir
independent.co.uk · 2023
Traducido por IA

Los funcionarios gubernamentales están utilizando inteligencia artificial (IA) para ayudar a decidir sobre todo, desde [aprobar licencias de matrimonio hasta quién debe recibir beneficios] (/news/uk/politics/mi5-intelligence-spies-china-us-…

Las decisiones sobre beneficios y migrantes “las toma la IA”
thetimes.co.uk · 2023
Traducido por IA

Se ha afirmado que funcionarios de al menos ocho departamentos gubernamentales y la policía están utilizando inteligencia artificial para tomar decisiones sobre bienestar, inmigración y justicia penal.

The Guardian informado que los sistema…

Variantes

Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.
¿Has visto algo similar?

Incidentes Similares

Selected by our editors
Department for Work and Pensions (DWP) Algorithm Wrongly Flags 200,000 for Housing Benefit Fraud

Department for Work and Pensions (DWP) Algorithm Wrongly Flags 200,000 for Housing Benefit Fraud

Jun 2024 · 5 informes
Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Opaque Fraud Detection Algorithm by the UK’s Department of Work and Pensions Allegedly Discriminated against People with Disabilities

Opaque Fraud Detection Algorithm by the UK’s Department of Work and Pensions Allegedly Discriminated against People with Disabilities

Oct 2019 · 6 informes
Australian Automated Debt Assessment System Issued False Notices to Thousands

Australian Automated Debt Assessment System Issued False Notices to Thousands

Jul 2015 · 39 informes
Airbnb's Trustworthiness Algorithm Allegedly Banned Users without Explanation, and Discriminated against Sex Workers

Airbnb's Trustworthiness Algorithm Allegedly Banned Users without Explanation, and Discriminated against Sex Workers

Jul 2017 · 6 informes
Incidente AnteriorSiguiente Incidente

Incidentes Similares

Selected by our editors
Department for Work and Pensions (DWP) Algorithm Wrongly Flags 200,000 for Housing Benefit Fraud

Department for Work and Pensions (DWP) Algorithm Wrongly Flags 200,000 for Housing Benefit Fraud

Jun 2024 · 5 informes
Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Opaque Fraud Detection Algorithm by the UK’s Department of Work and Pensions Allegedly Discriminated against People with Disabilities

Opaque Fraud Detection Algorithm by the UK’s Department of Work and Pensions Allegedly Discriminated against People with Disabilities

Oct 2019 · 6 informes
Australian Automated Debt Assessment System Issued False Notices to Thousands

Australian Automated Debt Assessment System Issued False Notices to Thousands

Jul 2015 · 39 informes
Airbnb's Trustworthiness Algorithm Allegedly Banned Users without Explanation, and Discriminated against Sex Workers

Airbnb's Trustworthiness Algorithm Allegedly Banned Users without Explanation, and Discriminated against Sex Workers

Jul 2017 · 6 informes

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 69ff178