Journal des citations pour l'incident 57

Description: Australian Department of Human Services (DHS)’s automated debt assessment system issued false or incorrect debt notices to hundreds of thousands of people, resulting in years-long lawsuits and damages to welfare recipients.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique
Présumé : un système d'IA développé par Centrelink et mis en œuvre par Australian Department of Human Services, endommagé Australian welfare recipients.

Statistiques d'incidents

ID
57
Nombre de rapports
39
Date de l'incident
2015-07-01
Editeurs
Sean McGregor, Khoa Lam

Classifications de taxonomie CSETv0

Détails de la taxonomie

Full Description

In July 2016, Australia’s Department of Human Services increased the autonomy of their Centrelink social services distribution program resulting in thousands of citizens receiving unexpected debt notices. The Centrelink Master Program manages many of Australia's social welfare programs by receiving requests from citizens and employers, verifying entries against government documents, and distributing payments. The changes to the system allowed Centrelink’s internal programs to autonomously send information requests to citizens if their requests did not match with government records. This caused a dramatic increase in these requests, which brought widespread complaint, especially because a significant portion of the alleged discrepancies could be validly explained by the recipient. An inspection by Australia's ombudsman found that the accuracy of the new system was comparable to the previous system, which required a human auditor, however the process by which the system was announced and deployed had some flaws.

Short Description

In July 2016, Australia’s Department of Human Services reprogrammed the software behind their Centrelink social services distribution program to autonomously issue discrepancy notices, resulting in an exponential increase in those requests.

Severity

Minor

Harm Distribution Basis

Financial means

Harm Type

Financial harm

AI System Description

The internal auditing software at Centrelink receives inputs from individuals and employers filing for benefits and compares that data against government records to identify descripancies in order to reduce welfare fraud.

System Developer

Centrelink Master Program

Sector of Deployment

Public administration and defence

Relevant AI functions

Cognition, Action

AI Techniques

Unclear

AI Applications

decision support

Location

Australia

Named Entities

Centrelink, Centrelink Master Program, Department of Human Services, Richard Glenn, Alan Tudge

Technology Purveyor

Department of Human Services, Centrelink Master Program

Beginning Date

7/2016

Ending Date

2017-01-01

Near Miss

Harm caused

Intent

Accident

Lives Lost

No

Data Inputs

welfare requests, tax records

Classifications de taxonomie CSETv1

Détails de la taxonomie

Harm Distribution Basis

none

Sector of Deployment

public administration

Des étudiants accusés de fraude à l'aide sociale disent que les sommes de Centrelink sont fausses
abc.net.au · 2016

Les étudiants anciens et actuels disent que Centrelink les accuse à tort d'être des tricheurs de l'aide sociale et de les accabler de milliers de dollars de dettes.

Sianaye étudie à temps plein, travaille dans le commerce de détail à temps …

« Frappé par une demande effrayante de 25 000 $ » : le scandale de la dette de Centrelink frappe les communautés autochtones
sbs.com.au · 2017

Les travaillistes ont appelé à un arrêt immédiat du système de recouvrement de créances jusqu'à ce que les problèmes actuels soient résolus. (PAA)

La crise de la dette sociale de Centrelink qui engloutit le ministère des Services sociaux a …

Le scandale des lettres de créance de Centrelink s'aggrave
finance.nine.com.au · 2017

Centrelink menace des dizaines d'Australiens de mauvaise cote de crédit et de poursuites judiciaires s'ils refusent de souscrire à des plans de paiement pour rembourser des milliers de dollars de dettes douteuses.

"Si je ne mets pas en plac…

High Farce : la débâcle de la « dette robotisée » du gouvernement Turnbull continue de croître
newmatilda.com · 2017

À l'approche de Noël, des dizaines de milliers d'Australiens ont commencé à recevoir des avis de recouvrement de créances menaçants de la part de Centrelink et de ses agents. Venant d'un gouvernement qui n'a pas pu organiser un recensement …

Un syndicat affirme que presque toutes les lettres de créance de Centrelink sont erronées et entraîneront une «tempête parfaite» de plaintes
businessinsider.com.au · 2017

Un panneau du bureau Medicare et Centrelink est visible à Bondi Junction le 21 mars 2016 à Sydney, en Australie. (Source : Getty)

Le personnel de Centrelink ne sera pas en mesure de faire face à une «tempête parfaite» attendue de demandes d…

Le système de robot-dette Centrelink cible à tort le finaliste de l'Australie de l'année
theguardian.com · 2017

La chercheuse médicale Janet Hammill, qui travaille bénévolement, a du mal à contacter qui que ce soit à Centrelink après avoir été informée à tort qu'elle devait 7 600 $

Cet article a plus de 2 ans

Cet article a plus de 2 ans

Une chercheus…

Le programme de recouvrement de créances de Centrelink subira des changements suite aux critiques du public
abc.net.au · 2017

Le programme de recouvrement de créances de Centrelink subira des changements suite aux critiques du public

Actualisé

Le gouvernement fédéral apportera des modifications au programme controversé de recouvrement de créances de Centrelink, bi…

Le programme controversé d'appariement des données de Centrelink pour cibler les retraités et les handicapés, le parti travailliste demande la suspension
abc.net.au · 2017

Le gouvernement fédéral étendra le programme de recouvrement automatique des dettes de Centrelink plus tard cette année pour se concentrer sur les retraités âgés et les paiements de soutien aux personnes handicapées.

Les graphiques du Burea…

Le gouvernement utilise de faux chiffres pour défendre son système de robot-dette
yourlifechoices.com.au · 2017

Le gouvernement utilise de faux chiffres pour défendre son système de robot-dette

Bien que le gouvernement affirme avoir récupéré 300 millions de dollars de dettes dues par les bénéficiaires de l'aide sociale, il refuse de divulguer exactem…

Le personnel de Centrelink en grève pour scandale de la dette, coupes budgétaires et salaires
theguardian.com · 2017

Cet article a plus de 2 ans

Cet article a plus de 2 ans

Le personnel du ministère des Services sociaux fera la grève pour les salaires, les coupes budgétaires et le scandale de la "dette robotique" de Centrelink, qui forment ensemble une "a…

Nous parlons tous de la controverse sur la dette de Centrelink, mais qu'est-ce que la « robodebt » de toute façon ?
abc.net.au · 2017

Nous parlons tous de la controverse sur la dette de Centrelink, mais qu'est-ce que la « robodebt » de toute façon ?

Posté

Cela fait la une des journaux depuis l'été, lorsque des milliers d'Australiens ont soudainement découvert qu'ils devai…

Les bénéficiaires de l'aide sociale sont à blâmer pour les défaillances du système de dette de Centrelink, selon une enquête du Sénat
theguardian.com · 2017

Le chef du Département des services sociaux a imputé le scandale de la "dette robotique" en grande partie à l'incapacité des bénéficiaires de l'aide sociale à s'engager avec Centrelink.

L'enquête du Sénat sur le système de "robo-dette" de C…

Centrelink: Le bureau des impôts dit qu'il ne peut pas être blâmé pour les défaillances du système de recouvrement automatisé des créances
abc.net.au · 2017

Centrelink: Le bureau des impôts dit qu'il ne peut pas être blâmé pour les défaillances du système de recouvrement automatisé des créances

Actualisé

L'Australian Tax Office (ATO) a cherché à se distancier du programme controversé de recouvr…

Le programme Centrelink "Robo-Debt" n'est pas clair, déraisonnable et injuste : ombudsman
huffingtonpost.com.au · 2017

Centrelink n'a pas réussi à communiquer correctement avec les bénéficiaires de l'aide sociale, leur personnel manquait de formation et son soi-disant programme de «robo-dette» plaçait des attentes «déraisonnables» sur les demandeurs et aura…

Scandale de la dette de Centrelink : un rapport révèle de multiples défaillances du système de protection sociale
theguardian.com · 2017

Cet article a plus de 2 ans

Cet article a plus de 2 ans

Le rapport d'un ombudsman sur le déploiement du service automatisé de recouvrement de créances de Centrelink a identifié de multiples défaillances qui ont imposé des charges déraisonna…

Le système de recouvrement de créances de Centrelink manque de transparence et a traité certains clients de manière injuste, selon le médiateur
abc.net.au · 2017

Le système de recouvrement de créances de Centrelink manque de transparence et a traité certains clients de manière injuste, selon le médiateur

Actualisé

Le système controversé de recouvrement de créances de Centrelink manque de transparenc…

Centrelink robo-dette « échec lamentable » et sans doute illégal, selon Victoria Legal Aid
theguardian.com · 2017

Une évaluation cinglante survient alors que le système est à nouveau examiné au microscope, cette fois par des auditeurs externes PwC Australie

Cet article a plus de 2 ans

Cet article a plus de 2 ans

Victoria Legal Aid a décrit le système d…

La correspondance des données sur la dette de Centrelink a échoué aux directives du gouvernement en matière de confidentialité, selon les militants
theguardian.com · 2017

L'Australian Privacy Foundation déclare à l'enquête du Sénat sur le scandale de la "dette robotique" qu'il n'y a aucune preuve que les directives ont été suivies

Cet article date de plus d'un an

Cet article date de plus d'un an

Les militant…

Centrelink perd plus d'un tiers des affaires de dettes portées en appel devant le tribunal
theguardian.com · 2017

Plus d'un tiers des cas de recouvrement de créances de l'aide sociale de Centrelink qui font l'objet d'un appel devant le tribunal indépendant sont annulés.

Le Tribunal d'appel administratif a annulé 960 décisions sur la dette de Centrelink…

Une enquête du Sénat demande la suspension du système de dette robotisée Centrelink jusqu'à ce qu'il soit corrigé
theguardian.com · 2017

Le rapport d'enquête du Sénat recommande que toutes les dettes calculées selon un modèle défectueux soient réévaluées et que le système soit repensé

Cet article date de plus d'un an

Cet article date de plus d'un an

Une enquête du Sénat a de…

Centrelink dit qu'il n'a pas l'intention d'utiliser le système de robot-dette pour cibler les retraités
theguardian.com · 2017

Élargissement du programme d'appariement des données visant à déterminer si les revenus d'une personne provenant de fiducies ou de garderies familiales la rendent inadmissible à l'aide sociale, selon le gouvernement

Cet article date de plus…

Les citoyens "monstrés par leur propre gouvernement"
news.com.au · 2017

Les lettres de recouvrement de créances "menaçantes" de CENTRELINK ont atteint un niveau supérieur et les Australiens sont terrifiés, selon un animateur de radio qui a confronté avec colère le gouvernement.

Les notes envoyées aux personnes …

20 000 personnes ont envoyé à Centrelink des avis de 'robo-dette' trouvés à devoir moins ou rien
smh.com.au · 2017

Le gouvernement Turnbull a admis avoir émis des avis de recouvrement de créances automatisés à 20 000 bénéficiaires de l'aide sociale qui se sont ensuite avérés devoir moins ou même rien.

Des documents présentés au Parlement par le ministre…

Scandale Centrelink : des dizaines de milliers de dettes sociales effacées ou réduites
theguardian.com · 2017

Les données montrent que 7 456 dettes ont été réduites à zéro et 12 524 autres partiellement réduites entre juillet de l'année dernière et mars

Cet article date de plus d'un an

Cet article date de plus d'un an

Au moins 20 000 dettes de Cent…

Le syndicat du secteur public condamne la décision de Centrelink de privatiser le centre d'appels
theguardian.com · 2017

Cet article date de plus d'un an

Cet article date de plus d'un an

Le syndicat du secteur public a condamné les tentatives de privatisation du centre d'appels très critiqué de Centrelink, affirmant que cela donnerait à Serco l'accès à de gra…

Le gouvernement rejette les conclusions de l'enquête robotique de Centrelink sur la dette
probonoaustralia.com.au · 2017

Un comité de référence des affaires communautaires a publié un rapport en juin sur le programme controversé de robot-dette de Centrelink, faisant 21 recommandations pour corriger le programme qui a été déployé à la mi-2016.

Le rapport indiq…

Centrelink utilisera 1 000 employés pour aider à recouvrer les dettes sociales
theguardian.com · 2017

Le ministère affirme que l'augmentation du recours aux entrepreneurs privés est temporaire, mais le syndicat affirme que le gouvernement « privatise notre filet de sécurité »

Centrelink utilisera 1 000 employés pour aider à recouvrer les de…

"C'est une blague": lutter contre la dette robotisée de Centrelink, un an après
abc.net.au · 2017

Laura, travailleuse du commerce de détail, a une dette de 24 000 $ qui pèse sur sa tête depuis octobre de l'année dernière.

Laura, qui a demandé à Hack de ne pas utiliser son nom de famille, travaille de manière décontractée et a reçu des p…

Le programme de robo-dette de Centrelink accusé d'avoir exécuté des dettes "illégales"
theguardian.com · 2018

Le programme de robot-dette du gouvernement Turnbull implique l'exécution de dettes "illégales" qui, dans certains cas, sont gonflées ou inexistantes, a déclaré un ancien membre du Tribunal d'appel administratif.

L'acte d'accusation cinglan…

Vous planifiez un voyage à l'étranger? Assurez-vous que vous n'êtes pas endetté envers Centrelink !
neoskosmos.com · 2018

Dans le but de récupérer 800 millions de dollars de dette, les anciens bénéficiaires de l'aide sociale qui doivent de l'argent au gouvernement fédéral feront face à une interdiction de voyager jusqu'à ce que les fonds soient remboursés.

Jus…

Le gouvernement admet que la dette robotique était illégale alors qu'il règle la contestation judiciaire
theguardian.com · 2019

Le gouvernement fédéral a réglé une contestation historique contre son programme robodebt – concéder une dette de 2 500 $ contractée contre Deanna Amato n'était pas légale car elle reposait sur l'étalement des revenus.

Dans des ordonnances …

Robodebt a retiré les humains des services sociaux, et le gouvernement fait face aux conséquences
abc.net.au · 2020

Le problème avec l'intelligence artificielle, c'est qu'elle est artificielle.

Le problème avec l'intelligence humaine est qu'elle est limitée, variable et compromise par le jugement et les valeurs.

Mettez les deux ensemble et vous comprendr…

Le gouvernement remboursera 721 millions de dollars alors qu'il supprime Robodebt pour les bénéficiaires de l'aide sociale de Centrelink
abc.net.au · 2020

Le gouvernement fédéral remboursera 721 millions de dollars de dettes qu'il a récupérées grâce à son programme controversé Robodebt.

Le stratagème a vu des centaines de milliers de personnes recevoir des avis de dette générés par ordinateur…

Robodebt: le gouvernement remboursera 470 000 dettes illégales de Centrelink d'une valeur de 721 millions de dollars
theguardian.com · 2020

Le gouvernement fédéral a finalement accepté de rembourser des centaines de milliers de personnes qui ont été frappées par des dettes illégales et incorrectes Centrelink sur une période de quatre ans grâce à la Le stratagème de robodebt bâc…

Scandale Robodebt: une fuite révèle des dettes illégales antérieures à 2015 mais le gouvernement n'a pas l'intention de rembourser de l'argent
theguardian.com · 2020

Le gouvernement australien a reconnu en privé que le scandale de la robodebt pourrait aller au-delà des 470 000 dettes illégales déjà identifiées pour remboursement, mais il n'a pas l'intention de rembourser l'argent car il pense qu'il sera…

"Traumatisme lié à Robodebt": les victimes continuent de payer pour la répression illégale de l'aide sociale en Australie
theguardian.com · 2020

Nathan Kearney dit qu'il a perdu deux ans et demi de sa vie à cause du robodebt. Il voit toujours un conseiller à ce sujet.

Il y a quatre ans, il vivait à Brisbane, voyait et jouait des concerts, occupait plusieurs emplois occasionnels diff…

Robodebt: le tribunal approuve un règlement de 1,8 milliard de dollars pour les victimes de l'échec "honteux" du gouvernement
theguardian.com · 2021

Un « chapitre honteux » dans l'administration publique a conduit la Cour fédérale à approuver un règlement d'une valeur de 1,8 milliard de dollars entre le Commonwealth et les victimes du stratagème de robodebt de la Coalition.

Le juge Bern…

Robodebt : le gouvernement se bat pour conserver des documents secrets qui pourraient montrer "ce qui n'a pas fonctionné"
theguardian.com · 2021

Robodebt : le gouvernement se bat pour conserver des documents secrets qui pourraient montrer "ce qui n'a pas fonctionné"

Le gouvernement Morrison se bat pour garder secrets les documents qui, selon un ancien fonctionnaire, pourraient montr…

«Platitudes et faux mots»: la mère d'une victime de la dette robotique qui s'est suicidée raconte l'enquête sur l'obstruction du gouvernement
theguardian.com · 2023

La mère d'une victime de robodebt qui s'est suicidée a déclaré à une commission royale qu'elle avait été bloquée par l'ancien gouvernement de coalition alors qu'elle cherchait des réponses sur les dettes sociales de son fils pendant plus de…

Variantes

Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents