Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Incidente 101: Dutch Families Wrongfully Accused of Tax Fraud Due to Discriminatory Algorithm

Descripción: A childcare benefits system in the Netherlands falsely accused thousands of families of fraud, in part due to an algorithm that treated having a second nationality as a risk factor.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial

Entidades

Ver todas las entidades
Alleged: unknown developed an AI system deployed by Dutch Tax Authority, which harmed Dutch Tax Authority y Dutch families.

Estadísticas de incidentes

ID
101
Cantidad de informes
6
Fecha del Incidente
2018-09-01
Editores
Sean McGregor, Khoa Lam
Applied Taxonomies
CSETv0, CSETv1, GMF, MIT

Clasificaciones de la Taxonomía CSETv1

Detalles de la Taxonomía

Incident Number

The number of the incident in the AI Incident Database.
 

101

AI Tangible Harm Level Notes

Notes about the AI tangible harm level assessment
 

financial harm and intangible harm. Fraud detection model described as a self-learning black box algorithm.

Clasificaciones de la Taxonomía MIT

Machine-Classified
Detalles de la Taxonomía

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

1.1. Unfair discrimination and misrepresentation

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Discrimination and Toxicity

Entity

Which, if any, entity is presented as the main cause of the risk
 

Other

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Unintentional

Informes del Incidente

Cronología de Informes

Incident Occurrence+1
Cómo un algoritmo discriminatorio acusó erróneamente a miles de familias de fraude
El escándalo holandés sirve de advertencia a Europa sobre los riesgos del uso de algoritmosLa autoridad fiscal holandesa fue derribada por IA: ¿qué sigue?+1
Este algoritmo podría arruinar tu vida
Cómo un algoritmo discriminatorio acusó erróneamente a miles de familias de fraude

Cómo un algoritmo discriminatorio acusó erróneamente a miles de familias de fraude

vice.com

El escándalo de los beneficios holandeses: una advertencia para la aplicación algorítmica

El escándalo de los beneficios holandeses: una advertencia para la aplicación algorítmica

eulawenforcement.com

El escándalo holandés sirve de advertencia a Europa sobre los riesgos del uso de algoritmos

El escándalo holandés sirve de advertencia a Europa sobre los riesgos del uso de algoritmos

politico.eu

La autoridad fiscal holandesa fue derribada por IA: ¿qué sigue?

La autoridad fiscal holandesa fue derribada por IA: ¿qué sigue?

spectrum-ieee-org.cdn.ampproject.org

Este algoritmo podría arruinar tu vida

Este algoritmo podría arruinar tu vida

wired.com

Dentro de la máquina de la sospecha

Dentro de la máquina de la sospecha

wired.com

Cómo un algoritmo discriminatorio acusó erróneamente a miles de familias de fraude
vice.com · 2021
Traducido por IA

El mes pasado, el primer ministro de los Países Bajos, Mark Rutte, junto con todo su gabinete, renunció después de un año y medio de investigaciones que revelaron que, desde 2013, 26 000 familias inocentes fueron acusadas erróneamente de fr…

El escándalo de los beneficios holandeses: una advertencia para la aplicación algorítmica
eulawenforcement.com · 2021
Traducido por IA

El 15 de enero, el gobierno holandés se vio obligado a dimitir en medio de un escándalo en torno a su plan de prestaciones para el cuidado de los niños. Los sistemas que estaban destinados a detectar el uso indebido del plan de beneficios e…

El escándalo holandés sirve de advertencia a Europa sobre los riesgos del uso de algoritmos
politico.eu · 2022
Traducido por IA

La vida de Chermaine Leysner cambió en 2012, cuando recibió una carta de las autoridades fiscales holandesas exigiendo que devolviera su subsidio de cuidado infantil desde 2008. Leysner, entonces estudiante de trabajo social, tenía tres hij…

La autoridad fiscal holandesa fue derribada por IA: ¿qué sigue?
spectrum-ieee-org.cdn.ampproject.org · 2022
Traducido por IA

Hasta hace poco, no era posible decir que la IA intervino para obligar a un gobierno a dimitir. Pero eso es precisamente lo que sucedió en los Países Bajos en enero de 2021, cuando el gabinete en funciones renunció por el llamado kinderopva…

Este algoritmo podría arruinar tu vida
wired.com · 2023
Traducido por IA

Desde el exterior, el algoritmo de bienestar de Rotterdam parece complejo. El sistema, que fue desarrollado originalmente por la consultora Accenture antes de que la ciudad se hiciera cargo del desarrollo en 2018, se entrena con los datos r…

Dentro de la máquina de la sospecha
wired.com · 2023
Traducido por IA

Cada año, la ciudad de Róterdam, en los Países Bajos, otorga prestaciones sociales a unas 30 000 personas para ayudarlas a pagar el alquiler, comprar alimentos y pagar las facturas esenciales. Y cada año, miles de esas personas son investig…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

COMPAS Algorithm Performs Poorly in Crime Recidivism Prediction

A Popular Algorithm Is No Better at Predicting Crimes Than Random People

May 2016 · 22 informes
Predictive Policing Biases of PredPol

Policing the Future

Nov 2015 · 17 informes
Facebook’s Hate Speech Detection Algorithms Allegedly Disproportionately Failed to Remove Racist Content towards Minority Groups

Facebook’s race-blind practices around hate speech came at the expense of Black users, new documents show

Nov 2021 · 2 informes
Incidente AnteriorSiguiente Incidente

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

COMPAS Algorithm Performs Poorly in Crime Recidivism Prediction

A Popular Algorithm Is No Better at Predicting Crimes Than Random People

May 2016 · 22 informes
Predictive Policing Biases of PredPol

Policing the Future

Nov 2015 · 17 informes
Facebook’s Hate Speech Detection Algorithms Allegedly Disproportionately Failed to Remove Racist Content towards Minority Groups

Facebook’s race-blind practices around hate speech came at the expense of Black users, new documents show

Nov 2021 · 2 informes

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • ecd56df