Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Incidente 189: Opaque Fraud Detection Algorithm by the UK’s Department of Work and Pensions Allegedly Discriminated against People with Disabilities

Descripción: People with disabilities were allegedly disproportionately targeted by a benefit fraud detection algorithm which the UK’s Department of Work and Pensions was urged to disclose.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial

Entidades

Ver todas las entidades
Alleged: UiPath developed an AI system deployed by UK Department of Work and Pensions, which harmed people with disabilities.

Estadísticas de incidentes

ID
189
Cantidad de informes
6
Fecha del Incidente
2019-10-15
Editores
Sean McGregor, Khoa Lam
Applied Taxonomies
GMF, MIT

Clasificaciones de la Taxonomía MIT

Machine-Classified
Detalles de la Taxonomía

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

1.1. Unfair discrimination and misrepresentation

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Discrimination and Toxicity

Entity

Which, if any, entity is presented as the main cause of the risk
 

Human

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Intentional

Informes del Incidente

Cronología de Informes

Incident OccurrenceCómo el gobierno espía a los solicitantes de asistencia social+2
DWP instó a revelar el algoritmo que los 'objetivos' deshabilitaron por fraude de beneficios
DWP enfrenta acciones legales para revelar 'algoritmos' que marcan reclamos de fraude de beneficiosCarta legal pide a DWP información sobre algoritmo secreto 'discriminatorio'
Cómo el gobierno espía a los solicitantes de asistencia social

Cómo el gobierno espía a los solicitantes de asistencia social

vice.com

DWP instó a revelar el algoritmo que los 'objetivos' deshabilitaron por fraude de beneficios

DWP instó a revelar el algoritmo que los 'objetivos' deshabilitaron por fraude de beneficios

amp-theguardian-com.cdn.ampproject.org

Los jefes de DWP interrogados por los parlamentarios sobre el algoritmo secreto de fraude de beneficios

Los jefes de DWP interrogados por los parlamentarios sobre el algoritmo secreto de fraude de beneficios

disabilitynewsservice.com

Personas discapacitadas 'obligadas a una rueda de hámster agotadora e invasiva' de apelaciones de beneficios

Personas discapacitadas 'obligadas a una rueda de hámster agotadora e invasiva' de apelaciones de beneficios

theoldhamtimes.co.uk

DWP enfrenta acciones legales para revelar 'algoritmos' que marcan reclamos de fraude de beneficios

DWP enfrenta acciones legales para revelar 'algoritmos' que marcan reclamos de fraude de beneficios

mirror.co.uk

Carta legal pide a DWP información sobre algoritmo secreto 'discriminatorio'

Carta legal pide a DWP información sobre algoritmo secreto 'discriminatorio'

disabilitynewsservice.com

Cómo el gobierno espía a los solicitantes de asistencia social
vice.com · 2021
Traducido por IA

El gobierno del Reino Unido utiliza técnicas invasivas de recopilación de datos para probar y probar que las personas que reclaman beneficios en realidad llevan un estilo de vida lujoso.

El monitoreo de las redes sociales, la vigilancia fís…

DWP instó a revelar el algoritmo que los 'objetivos' deshabilitaron por fraude de beneficios
amp-theguardian-com.cdn.ampproject.org · 2021
Traducido por IA

El grupo de Manchester lanza una acción después de que las personas con discapacidad informan una gran cantidad de controles estresantes por posibles estafas

Las personas discapacitadas están sujetas a controles estresantes y meses de buroc…

Los jefes de DWP interrogados por los parlamentarios sobre el algoritmo secreto de fraude de beneficios
disabilitynewsservice.com · 2021
Traducido por IA

Los parlamentarios han cuestionado al Departamento de Trabajo y Pensiones (DWP, por sus siglas en inglés) por el uso de un conjunto secreto de instrucciones que utilizan sus computadoras para identificar posibles estafadores de beneficios, …

Personas discapacitadas 'obligadas a una rueda de hámster agotadora e invasiva' de apelaciones de beneficios
theoldhamtimes.co.uk · 2021
Traducido por IA

El gobierno está "obligando a las personas discapacitadas a realizar investigaciones de fraude de beneficios invasivas y extenuantes", afirmó un grupo de discapacitados.

Un grupo de personas discapacitadas de Manchester ha emitido una carta…

DWP enfrenta acciones legales para revelar 'algoritmos' que marcan reclamos de fraude de beneficios
mirror.co.uk · 2022
Traducido por IA

Los activistas dicen que las personas discapacitadas están siendo atacadas injustamente y viven con "miedo al sobre marrón" gracias a misteriosos procesos informáticos que el gobierno nunca ha explicado completamente.

El Departamento de Tra…

Carta legal pide a DWP información sobre algoritmo secreto 'discriminatorio'
disabilitynewsservice.com · 2022
Traducido por IA

Los activistas discapacitados enviaron una carta legal al Departamento de Trabajo y Pensiones (DWP) para cuestionar cómo el uso de un algoritmo secreto podría discriminar a las personas discapacitadas en la forma en que selecciona a los sol…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.
Incidente AnteriorSiguiente Incidente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • ecd56df