Journal des citations pour l'incident 101

Description: A childcare benefits system in the Netherlands falsely accused thousands of families of fraud, in part due to an algorithm that treated having a second nationality as a risk factor.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique
Présumé : un système d'IA développé par unknown et mis en œuvre par Dutch Tax Authority, endommagé Dutch Tax Authority and Dutch families.

Statistiques d'incidents

ID
101
Nombre de rapports
6
Date de l'incident
2018-09-01
Editeurs
Sean McGregor, Khoa Lam

Classifications de taxonomie CSETv1

Détails de la taxonomie

Harm Distribution Basis

nation of origin, citizenship, immigrant status

Sector of Deployment

public administration

Comment un algorithme discriminatoire a accusé à tort des milliers de familles de fraude
vice.com · 2021

Le mois dernier, le Premier ministre des Pays-Bas Mark Rutte et l'ensemble de son cabinet ont démissionné après un an et demi d'enquêtes qui ont révélé que depuis 2013, 26 000 familles innocentes ont été accusées à tort de fraude aux presta…

Le scandale des prestations aux Pays-Bas : un récit édifiant pour l'application algorithmique
eulawenforcement.com · 2021

Le 15 janvier, le gouvernement néerlandais a été contraint de démissionner au milieu d'un scandale autour de son régime d'allocations familiales. Des systèmes censés détecter les abus du régime de prestations ont qualifié à tort plus de 20 …

Le scandale néerlandais sert d'avertissement à l'Europe sur les risques d'utilisation d'algorithmes
politico.eu · 2022

La vie de Chermaine Leysner a changé en 2012, lorsqu'elle a reçu une lettre de l'administration fiscale néerlandaise lui demandant de rembourser son allocation de garde d'enfants remontant à 2008. Leysner, alors étudiante en travail social,…

L'administration fiscale néerlandaise a été abattue par l'IA : que se passe-t-il ensuite ?
spectrum-ieee-org.cdn.ampproject.org · 2022

Jusqu'à récemment, il n'était pas possible de dire que l'IA avait contribué à forcer un gouvernement à démissionner. Mais c'est précisément ce qui s'est passé aux Pays-Bas en janvier 2021, lorsque le cabinet sortant a démissionné suite à la…

Cet algorithme pourrait ruiner votre vie
wired.com · 2023

De l'extérieur, l'algorithme de bien-être de Rotterdam semble complexe. Le système, qui a été initialement développé par le cabinet de conseil Accenture avant que la ville ne reprenne le développement en 2018, est formé sur les données coll…

À l'intérieur de la machine à soupçons
wired.com · 2023

Chaque année, la ville de Rotterdam aux Pays-Bas verse à quelque 30 000 personnes des prestations sociales pour les aider à payer leur loyer, à acheter de la nourriture et à payer les factures essentielles. Et chaque année, des milliers de …

Variantes

Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.