Registro de citas para el Incidente 101

Description: A childcare benefits system in the Netherlands falsely accused thousands of families of fraud, in part due to an algorithm that treated having a second nationality as a risk factor.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial
Presunto: un sistema de IA desarrollado por unknown e implementado por Dutch Tax Authority, perjudicó a Dutch Tax Authority y Dutch families.

Estadísticas de incidentes

ID
101
Cantidad de informes
6
Fecha del Incidente
2018-09-01
Editores
Sean McGregor, Khoa Lam

Clasificaciones de la Taxonomía CSETv1

Detalles de la Taxonomía

Harm Distribution Basis

nation of origin, citizenship, immigrant status

Sector of Deployment

public administration

Cómo un algoritmo discriminatorio acusó erróneamente a miles de familias de fraude
vice.com · 2021

El mes pasado, el primer ministro de los Países Bajos, Mark Rutte, junto con todo su gabinete, renunció después de un año y medio de investigaciones que revelaron que, desde 2013, 26 000 familias inocentes fueron acusadas erróneamente de fr…

El escándalo de los beneficios holandeses: una advertencia para la aplicación algorítmica
eulawenforcement.com · 2021

El 15 de enero, el gobierno holandés se vio obligado a dimitir en medio de un escándalo en torno a su plan de prestaciones para el cuidado de los niños. Los sistemas que estaban destinados a detectar el uso indebido del plan de beneficios e…

El escándalo holandés sirve de advertencia a Europa sobre los riesgos del uso de algoritmos
politico.eu · 2022

La vida de Chermaine Leysner cambió en 2012, cuando recibió una carta de las autoridades fiscales holandesas exigiendo que devolviera su subsidio de cuidado infantil desde 2008. Leysner, entonces estudiante de trabajo social, tenía tres hij…

La autoridad fiscal holandesa fue derribada por IA: ¿qué sigue?
spectrum-ieee-org.cdn.ampproject.org · 2022

Hasta hace poco, no era posible decir que la IA intervino para obligar a un gobierno a dimitir. Pero eso es precisamente lo que sucedió en los Países Bajos en enero de 2021, cuando el gabinete en funciones renunció por el llamado kinderopva…

Este algoritmo podría arruinar tu vida
wired.com · 2023

Desde el exterior, el algoritmo de bienestar de Rotterdam parece complejo. El sistema, que fue desarrollado originalmente por la consultora Accenture antes de que la ciudad se hiciera cargo del desarrollo en 2018, se entrena con los datos r…

Dentro de la máquina de la sospecha
wired.com · 2023

Cada año, la ciudad de Róterdam, en los Países Bajos, otorga prestaciones sociales a unas 30 000 personas para ayudarlas a pagar el alquiler, comprar alimentos y pagar las facturas esenciales. Y cada año, miles de esas personas son investig…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.