Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Traducido por IA

Incidente 101: Familias holandesas acusadas injustamente de fraude fiscal debido a un algoritmo discriminatorio

Traducido por IA
Descripción:
Traducido por IA
Un sistema de prestaciones de cuidado infantil en los Países Bajos acusó falsamente a miles de familias de fraude, en parte debido a un algoritmo que trataba tener una segunda nacionalidad como un factor de riesgo.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial

Entidades

Ver todas las entidades
Alleged: unknown developed an AI system deployed by Dutch Tax Authority, which harmed Dutch Tax Authority y Dutch families.

Estadísticas de incidentes

ID
101
Cantidad de informes
6
Fecha del Incidente
2018-09-01
Editores
Sean McGregor, Khoa Lam
Applied Taxonomies
CSETv0, CSETv1, GMF, MIT

Clasificaciones de la Taxonomía CSETv1

Detalles de la Taxonomía

Incident Number

The number of the incident in the AI Incident Database.
 

101

AI Tangible Harm Level Notes

Notes about the AI tangible harm level assessment
 

financial harm and intangible harm. Fraud detection model described as a self-learning black box algorithm.

Clasificaciones de la Taxonomía MIT

Machine-Classified
Detalles de la Taxonomía

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

1.1. Unfair discrimination and misrepresentation

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Discrimination and Toxicity

Entity

Which, if any, entity is presented as the main cause of the risk
 

Other

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Unintentional

Informes del Incidente

Cronología de Informes

Incident Occurrence+1
Cómo un algoritmo discriminatorio acusó erróneamente a miles de familias de fraude
El escándalo holandés sirve de advertencia a Europa sobre los riesgos del uso de algoritmosLa autoridad fiscal holandesa fue derribada por IA: ¿qué sigue?+1
Este algoritmo podría arruinar tu vida
Cómo un algoritmo discriminatorio acusó erróneamente a miles de familias de fraude

Cómo un algoritmo discriminatorio acusó erróneamente a miles de familias de fraude

vice.com

El escándalo de los beneficios holandeses: una advertencia para la aplicación algorítmica

El escándalo de los beneficios holandeses: una advertencia para la aplicación algorítmica

eulawenforcement.com

El escándalo holandés sirve de advertencia a Europa sobre los riesgos del uso de algoritmos

El escándalo holandés sirve de advertencia a Europa sobre los riesgos del uso de algoritmos

politico.eu

La autoridad fiscal holandesa fue derribada por IA: ¿qué sigue?

La autoridad fiscal holandesa fue derribada por IA: ¿qué sigue?

spectrum-ieee-org.cdn.ampproject.org

Este algoritmo podría arruinar tu vida

Este algoritmo podría arruinar tu vida

wired.com

Dentro de la máquina de la sospecha

Dentro de la máquina de la sospecha

wired.com

Cómo un algoritmo discriminatorio acusó erróneamente a miles de familias de fraude
vice.com · 2021
Traducido por IA

El mes pasado, el primer ministro de los Países Bajos, Mark Rutte, junto con todo su gabinete, renunció después de un año y medio de investigaciones que revelaron que, desde 2013, 26 000 familias inocentes fueron acusadas erróneamente de fr…

El escándalo de los beneficios holandeses: una advertencia para la aplicación algorítmica
eulawenforcement.com · 2021
Traducido por IA

El 15 de enero, el gobierno holandés se vio obligado a dimitir en medio de un escándalo en torno a su plan de prestaciones para el cuidado de los niños. Los sistemas que estaban destinados a detectar el uso indebido del plan de beneficios e…

El escándalo holandés sirve de advertencia a Europa sobre los riesgos del uso de algoritmos
politico.eu · 2022
Traducido por IA

La vida de Chermaine Leysner cambió en 2012, cuando recibió una carta de las autoridades fiscales holandesas exigiendo que devolviera su subsidio de cuidado infantil desde 2008. Leysner, entonces estudiante de trabajo social, tenía tres hij…

La autoridad fiscal holandesa fue derribada por IA: ¿qué sigue?
spectrum-ieee-org.cdn.ampproject.org · 2022
Traducido por IA

Hasta hace poco, no era posible decir que la IA intervino para obligar a un gobierno a dimitir. Pero eso es precisamente lo que sucedió en los Países Bajos en enero de 2021, cuando el gabinete en funciones renunció por el llamado kinderopva…

Este algoritmo podría arruinar tu vida
wired.com · 2023
Traducido por IA

Desde el exterior, el algoritmo de bienestar de Rotterdam parece complejo. El sistema, que fue desarrollado originalmente por la consultora Accenture antes de que la ciudad se hiciera cargo del desarrollo en 2018, se entrena con los datos r…

Dentro de la máquina de la sospecha
wired.com · 2023
Traducido por IA

Cada año, la ciudad de Róterdam, en los Países Bajos, otorga prestaciones sociales a unas 30 000 personas para ayudarlas a pagar el alquiler, comprar alimentos y pagar las facturas esenciales. Y cada año, miles de esas personas son investig…

Variantes

Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.
¿Has visto algo similar?

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

COMPAS Algorithm Performs Poorly in Crime Recidivism Prediction

COMPAS Algorithm Performs Poorly in Crime Recidivism Prediction

May 2016 · 22 informes
Predictive Policing Biases of PredPol

Predictive Policing Biases of PredPol

Nov 2015 · 17 informes
Facebook’s Hate Speech Detection Algorithms Allegedly Disproportionately Failed to Remove Racist Content towards Minority Groups

Facebook’s Hate Speech Detection Algorithms Allegedly Disproportionately Failed to Remove Racist Content towards Minority Groups

Nov 2021 · 2 informes
Incidente AnteriorSiguiente Incidente

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

COMPAS Algorithm Performs Poorly in Crime Recidivism Prediction

COMPAS Algorithm Performs Poorly in Crime Recidivism Prediction

May 2016 · 22 informes
Predictive Policing Biases of PredPol

Predictive Policing Biases of PredPol

Nov 2015 · 17 informes
Facebook’s Hate Speech Detection Algorithms Allegedly Disproportionately Failed to Remove Racist Content towards Minority Groups

Facebook’s Hate Speech Detection Algorithms Allegedly Disproportionately Failed to Remove Racist Content towards Minority Groups

Nov 2021 · 2 informes

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 69ff178