Problème 1346

Le problème avec l'intelligence artificielle, c'est qu'elle est artificielle.

Le problème avec l'intelligence humaine est qu'elle est limitée, variable et compromise par le jugement et les valeurs.

Mettez les deux ensemble et vous comprendrez bien comment et pourquoi le gouvernement fédéral s'est frayé un chemin dans et hors de la débâcle coûteuse et stressante de la "Robodebt".

Un algorithme informatique n'a pas pu faire la différence entre l'argent réel et artificiellement calculé "dû" dans 470 000 cas.

Les humains, trop motivés par le désir d'« intégrité, d'efficacité » et de « réparation budgétaire », n'ont cessé de se demander assez fortement si les moyens automatisés de collecte d'environ 2,1 milliards de dollars pourraient jamais justifier les fins angoissantes pour les bénéficiaires de l'aide sociale.

Scott Morrison était l'un de ceux qui ont promu avec enthousiasme « des interventions plus rapides et plus ciblées » en « rationalisant les activités de conformité existantes ».

Scott Morrisson

Scott Morrison a défendu le programme en tant que ministre des services sociaux et trésorier. (AAP : Lukas Coch)

En tant que trésorier en 2016 et ministre des services sociaux auparavant, M. Morrison a rejoint une longue lignée de ministres, dont Christian Porter, Alan Tudge et Stuart Robert, qui croyaient en la promesse d'un recouvrement automatisé des dettes sociales.

Ils ont cru parce qu'ils voulaient l'argent économisé, pas parce qu'ils s'étaient assurés de la fiabilité du système.

"Une approche plus ciblée de la gestion des personnes", c'est ainsi que l'actuel Premier ministre l'avait décrite à la mi-2016.

L'histoire de la façon dont le système de correspondance des données a été inventé avec vigueur par une coterie de bureaucrates de haut niveau et vendu à des ministres aux yeux étoilés est légendaire à Canberra.

"Donnez à notre ministère un peu d'argent supplémentaire, et nous vous rapporterons 2 milliards de dollars supplémentaires", était le discours.

Peu importe que, dans son zèle, le Département des services sociaux retirerait entièrement les humains du processus d'identification des dettes présumées et d'envoi par la poste de ce qui équivalait à des lettres de mise en demeure à plus de 370 000 personnes.

De toute évidence, personne ne s'était arrêté non plus pour demander des conseils juridiques rigoureux sur la question de savoir si le nouveau monde courageux de la récupération de l'aide sociale basée sur les données résistait réellement aux lois du pays, qui constituent la barrière entre les excès du gouvernement et la protection du peuple.

Bien qu'il ne soit presque jamais publié, nous savons maintenant que des conseils juridiques ultérieurs au gouvernement ont averti que ses chances de défendre de nombreuses actions en justice seraient proches de zéro.

Considérée contre de tels conseils, la seule surprise de la capitulation abjecte de Stuart Roberts dans un parc de la Gold Coast tard un vendredi après-midi n'est pas qu'elle soit arrivée, mais qu'elle ne soit pas arrivée plus tôt.

Lien central

Le régime a envoyé des avis de dette sans surveillance humaine. (AAP)

Aucune excuse non plus.

Et le petit problème des remboursements exceptionnels de 721 millions de dollars ? Les gens devront attendre des mois tout au long du nouvel exercice financier jusqu'à ce qu'il soit entièrement payé.

Les avocats qui organisent un recours collectif massif contre le gouvernement au nom de ceux qui se sont sentis lésés par le système – nous ne saurons peut-être jamais exactement combien – se mobilisent toujours, sans se laisser décourager par les remboursements imminents.

Publiquement, ils sont là pour l'indemnisation maintenant.

Mais chaque retraite du gouvernement depuis la fin de l'année dernière suggère que cette affaire est destinée à être négociée dans la salle de règlement, et non dans n'importe quelle salle d'audience, car les risques pour le Commonwealth – et les contribuables – sont immenses si un juge parvient un jour à trancher les défaillances manifestes du système d'étalement des revenus et d'appariement des données.

Le Guardian Australia a fait état de " fuites d'avis préparés pour les ministres Robert, Anne Ruston et Christian Porter " appelant à l'abandon de Robodebts car le programme n'était " plus viable " ou " rentable " et ne rapporterait pas l'argent prévu.

La reddition ultérieure de M. Robert suggère qu'il a tenu compte de cet avis, ainsi que de l'avis juridique selon lequel les méthodes de données utilisées par le département ne résisteraient pas devant les tribunaux.

20 000 lettres par semaine ont été envoyées

Non pas qu'il ait fallu à M. Robert pour découvrir ces défauts depuis qu'il est entré dans le rôle des services gouvernementaux - ils avaient été évidents dès le départ.

Dès 2017, le Sénat avait débusqué des statistiques révélatrices d'un stratagème qui simultanément n'avait pas réussi à fournir au gouvernement l'argent sur lequel il avait misé, tout en infligeant du chagrin à 200 000 personnes.

Qu'est-ce que 'Robodebt' ?

Une femme passe devant un bureau de Centrelink à Marrickville.

Cela fait un moment maintenant que cela fait la une des journaux, mais comment fonctionne réellement le système controversé de recouvrement de créances de Centrelink ?

Lire la suite

S'en tenant au nom propre du système de récupération - le programme d'intervention de conformité en ligne - l'enquête a révélé que malgré le fait que les services sociaux envoient des lettres "veuillez expliquer" aux gens à un rythme impressionnant de 20 000 par semaine, les ordinateurs robotiques étaient déjà en deçà de leurs créateurs humains ' attentes.

Dirigé par sa secrétaire de l'époque, Kathryn Campbell, le département visait 300 millions de dollars au cours des six premiers mois de 2016-2017, mais n'avait décroché que 24 millions de dollars de remboursements.

Espace pour jouer ou mettre en pause, M pour couper le son, flèches gauche et droite pour rechercher, flèches haut et bas pour le volume.

REGARDEZ

Durée : 1 minute 36 secondes1m 36s

Bill Shorten dit que le programme "Robodebt" était illégal

Une partie inconnue de l'argent restitué provenait de personnes qui n'en étaient peut-être pas redevables, mais qui ont tout de même payé pour éviter tout harcèlement supplémentaire.

Avancez jusqu'en 2020, sous le couvert de la crise du COVID-19, le retour en arrière sur Robodebt a été rapide, furieux et bien caché à l'examen public, comme les Australiens pourraient malheureusement s'y attendre ces jours-ci avec des catastrophes financières et administratives à grande échelle (il y en a eu quelques-uns).

L'idée générale de l'appariement des données pour identifier les trop-payés d'aide sociale, connue sous le nom de programme de conformité des revenus, reste une pierre angulaire de la politique gouvernementale.

Mais avec une action en justice en cours, 470 000 remboursements à venir et pas tant qu'un "désolé" pour les personnes concernées, le calcul final sur l'héritage de Robodebt est toujours en suspens.

Aucun ordinateur ne le fera.

Un humain responsable pourrait être obligé de le faire.