Registro de citas para el Incidente 57

Description: Australian Department of Human Services (DHS)’s automated debt assessment system issued false or incorrect debt notices to hundreds of thousands of people, resulting in years-long lawsuits and damages to welfare recipients.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial
Presunto: un sistema de IA desarrollado por Centrelink e implementado por Australian Department of Human Services, perjudicó a Australian welfare recipients.

Estadísticas de incidentes

ID
57
Cantidad de informes
39
Fecha del Incidente
2015-07-01
Editores
Sean McGregor, Khoa Lam

Clasificaciones de la Taxonomía CSETv0

Detalles de la Taxonomía

Full Description

In July 2016, Australia’s Department of Human Services increased the autonomy of their Centrelink social services distribution program resulting in thousands of citizens receiving unexpected debt notices. The Centrelink Master Program manages many of Australia's social welfare programs by receiving requests from citizens and employers, verifying entries against government documents, and distributing payments. The changes to the system allowed Centrelink’s internal programs to autonomously send information requests to citizens if their requests did not match with government records. This caused a dramatic increase in these requests, which brought widespread complaint, especially because a significant portion of the alleged discrepancies could be validly explained by the recipient. An inspection by Australia's ombudsman found that the accuracy of the new system was comparable to the previous system, which required a human auditor, however the process by which the system was announced and deployed had some flaws.

Short Description

In July 2016, Australia’s Department of Human Services reprogrammed the software behind their Centrelink social services distribution program to autonomously issue discrepancy notices, resulting in an exponential increase in those requests.

Severity

Minor

Harm Distribution Basis

Financial means

Harm Type

Financial harm

AI System Description

The internal auditing software at Centrelink receives inputs from individuals and employers filing for benefits and compares that data against government records to identify descripancies in order to reduce welfare fraud.

System Developer

Centrelink Master Program

Sector of Deployment

Public administration and defence

Relevant AI functions

Cognition, Action

AI Techniques

Unclear

AI Applications

decision support

Location

Australia

Named Entities

Centrelink, Centrelink Master Program, Department of Human Services, Richard Glenn, Alan Tudge

Technology Purveyor

Department of Human Services, Centrelink Master Program

Beginning Date

7/2016

Ending Date

2017-01-01

Near Miss

Harm caused

Intent

Accident

Lives Lost

No

Data Inputs

welfare requests, tax records

Clasificaciones de la Taxonomía CSETv1

Detalles de la Taxonomía

Harm Distribution Basis

none

Sector of Deployment

public administration

Los estudiantes acusados de fraude de asistencia social dicen que las sumas de Centrelink son incorrectas
abc.net.au · 2016

Los antiguos y actuales estudiantes dicen que Centrelink los acusa falsamente de ser estafadores de la asistencia social y los carga con miles de dólares de deuda.

Sianaye estudia a tiempo completo, trabaja en el comercio minorista a tiempo…

'Golpeado con una demanda aterradora de $ 25,000': el escándalo de la deuda de Centrelink golpea a las comunidades aborígenes
sbs.com.au · 2017

Los laboristas han pedido que se detenga de inmediato el sistema de recuperación de deudas hasta que se solucionen los problemas actuales. (AAP)

La crisis de la deuda de asistencia social de Centrelink que afecta al Departamento de Servicio…

El escándalo de la carta de deuda de Centrelink empeora
finance.nine.com.au · 2017

Centrelink está amenazando a decenas de australianos con malas calificaciones crediticias y acciones legales si se niegan a inscribirse en planes de pago para pagar miles de dólares en deudas cuestionables.

'Si no establezco un esquema de p…

Gran farsa: la debacle 'Robo-Debt' de Centrelink del gobierno de Turnbull continúa creciendo
newmatilda.com · 2017

En el período previo a la Navidad, decenas de miles de australianos comenzaron a recibir avisos amenazantes de cobro de deudas de Centrelink y sus agentes. Viniendo de un gobierno que no pudo realizar un censo en línea, probablemente pueda …

Un sindicato afirma que casi todas las cartas de deuda de Centrelink son incorrectas y traerán una "tormenta perfecta" de quejas
businessinsider.com.au · 2017

Un letrero de la oficina de Medicare y Centrelink se ve en Bondi Junction el 21 de marzo de 2016 en Sydney, Australia. (Fuente: Getty)

El personal de Centrelink no podrá hacer frente a una "tormenta perfecta" esperada de consultas de los cl…

El sistema de robo de deuda de Centrelink apunta erróneamente al finalista australiano del año
theguardian.com · 2017

La investigadora médica Janet Hammill, que trabaja de forma voluntaria, lucha por comunicarse con alguien en Centrelink después de que le dijeron incorrectamente que debe $7,600

Este artículo tiene más de 2 años.

Este artículo tiene más de …

El programa de recuperación de deuda de Centrelink sufrirá cambios luego de las críticas públicas
abc.net.au · 2017

El programa de recuperación de deuda de Centrelink sufrirá cambios luego de las críticas públicas

Actualizado

El gobierno federal introducirá cambios en el controvertido programa de recuperación de deuda de Centrelink, a pesar de insistir e…

El controvertido programa de comparación de datos de Centrelink para apuntar a jubilados y discapacitados, Labor pide suspensión
abc.net.au · 2017

El Gobierno Federal ampliará el programa automático de recuperación de deudas de Centrelink a finales de este año para centrarse en los pagos de apoyo por discapacidad y los jubilados de edad avanzada.

[Los gráficos de la Oficina de Presupu…

El Gobierno utiliza cifras falsas para defender su sistema de robodeuda
yourlifechoices.com.au · 2017

El Gobierno utiliza cifras falsas para defender su sistema de robodeuda

Aunque el Gobierno afirma que ha reclamado $300 millones en deudas contraídas por beneficiarios de asistencia social, se niega a revelar exactamente cuánto dinero ha re…

El personal de Centrelink se declarará en huelga por el escándalo de la deuda, los recortes presupuestarios y los salarios
theguardian.com · 2017

Este artículo tiene más de 2 años.

Este artículo tiene más de 2 años.

El personal del Departamento de Servicios Humanos se declarará en huelga por los salarios, los recortes presupuestarios y el escándalo de la "deuda robótica" de Centrelin…

Todos estamos hablando de la controversia de la deuda de Centrelink, pero ¿qué es 'robodebt' de todos modos?
abc.net.au · 2017

Todos estamos hablando de la controversia de la deuda de Centrelink, pero ¿qué es 'robodebt' de todos modos?

Al corriente

Ha estado en los titulares desde el verano, cuando miles de australianos descubrieron repentinamente que le debían din…

Los beneficiarios de asistencia social tienen la culpa de las fallas del sistema de deuda de Centrelink, dijo la investigación del Senado
theguardian.com · 2017

El director del Departamento de Servicios Humanos ha culpado en gran medida del escándalo de la “deuda robótica” a la falta de compromiso de los beneficiarios de asistencia social con Centrelink.

La investigación del Senado sobre el sistema…

Centrelink: la oficina de impuestos dice que no se le puede culpar por las fallas del sistema automatizado de recuperación de deudas
abc.net.au · 2017

Centrelink: la oficina de impuestos dice que no se le puede culpar por las fallas del sistema automatizado de recuperación de deudas

Actualizado

La Oficina de Impuestos de Australia (ATO, por sus siglas en inglés) ha tratado de distanciarse…

Programa Centrelink 'Robo-Debt' poco claro, irrazonable e injusto: Ombudsman
huffingtonpost.com.au · 2017

Centrelink no se comunicó adecuadamente con los beneficiarios de la asistencia social, su personal carecía de capacitación y su llamado programa 'robo-deuda' generó expectativas "irrazonables" en los reclamantes y debería haber sido evaluad…

Escándalo de la deuda de Centrelink: informe revela múltiples fallas en el sistema de bienestar
theguardian.com · 2017

Este artículo tiene más de 2 años.

Este artículo tiene más de 2 años.

El informe de un ombudsman sobre la implementación del servicio automatizado de recuperación de deudas de Centrelink ha identificado múltiples fallas que imponían cargas …

El sistema de recuperación de deudas de Centrelink carece de transparencia y trató injustamente a algunos clientes, según el ombudsman
abc.net.au · 2017

El sistema de recuperación de deudas de Centrelink carece de transparencia y trató injustamente a algunos clientes, según el ombudsman

Actualizado

El controvertido sistema de recuperación de deudas de Centrelink carece de transparencia y ha…

Centrelink robo-deuda 'fracaso abyecto' y posiblemente ilegal, dice Victoria Legal Aid
theguardian.com · 2017

La evaluación mordaz se produce cuando el sistema se vuelve a poner bajo el microscopio, esta vez por auditores externos PwC Australia

Este artículo tiene más de 2 años.

Este artículo tiene más de 2 años.

Victoria Legal Aid ha descrito el s…

La comparación de datos de deuda de Centrelink no cumplió con las pautas de privacidad del gobierno, dicen los activistas
theguardian.com · 2017

Australian Privacy Foundation le dice a la investigación del Senado sobre el escándalo de la 'deuda robótica' que no hay evidencia de que se hayan seguido las pautas

Este artículo tiene más de 1 año.

Este artículo tiene más de 1 año.

Los de…

Centrelink pierde más de un tercio de los casos de deuda apelados al tribunal
theguardian.com · 2017

Más de un tercio de los casos de recuperación de deudas de asistencia social de Centrelink que se apelan ante el tribunal independiente son anulados.

El Tribunal Administrativo de Apelaciones anuló 960 decisiones de deuda de Centrelink de 2…

La investigación del Senado pide que el sistema de robo de deuda de Centrelink se suspenda hasta que se solucione
theguardian.com · 2017

El informe de investigación del Senado recomienda que todas las deudas calculadas bajo un modelo defectuoso sean reevaluadas y el sistema sea rediseñado

Este artículo tiene más de 1 año.

Este artículo tiene más de 1 año.

Una investigación d…

Centrelink dice que no tiene planes de usar un sistema de robo de deuda para apuntar a los jubilados
theguardian.com · 2017

La expansión del programa de comparación de datos tiene como objetivo examinar si las ganancias de las personas de los fideicomisos o las guarderías familiares las hacen inelegibles para recibir asistencia social, dice el gobierno.

Este art…

Ciudadanos 'controlados por su propio gobierno'
news.com.au · 2017

Las cartas de recuperación de deuda "amenazantes" de CENTRELINK han alcanzado el siguiente nivel y los australianos están aterrorizados, según un locutor de radio que confrontó airadamente al gobierno.

Las notas enviadas a personas en ubica…

20,000 personas enviaron avisos de 'deuda automática' de Centrelink y se descubrió que debían menos o nada
smh.com.au · 2017

El gobierno de Turnbull admitió que emitió avisos de recuperación de deudas automáticas a 20,000 beneficiarios de asistencia social que luego se descubrió que debían menos o incluso nada.

Los documentos presentados al Parlamento por el Mini…

Escándalo de Centrelink: decenas de miles de deudas de asistencia social eliminadas o reducidas
theguardian.com · 2017

Los datos muestran que 7.456 deudas se redujeron a cero y otras 12.524 se redujeron parcialmente entre julio del año pasado y marzo

Este artículo tiene más de 1 año.

Este artículo tiene más de 1 año.

Al menos 20.000 deudas de Centrelink se …

El sindicato del sector público condena la decisión de Centrelink de privatizar el centro de llamadas
theguardian.com · 2017

Este artículo tiene más de 1 año.

Este artículo tiene más de 1 año.

El sindicato del sector público ha condenado los movimientos para privatizar el muy criticado centro de llamadas de Centrelink, diciendo que le daría a Serco acceso a grand…

El gobierno rechaza los hallazgos de la investigación de Centrelink Robo-Debt
probonoaustralia.com.au · 2017

Un Comité de Referencias de Asuntos Comunitarios publicó un informe en junio sobre el controvertido programa de robo de deuda de Centrelink, haciendo 21 recomendaciones para arreglar el programa que se implementó a mediados de 2016.

El info…

Centrelink utilizará 1.000 trabajadores contratados para ayudar a recuperar las deudas de asistencia social
theguardian.com · 2017

El departamento dice que el aumento en el uso de contratistas privados es temporal, pero el sindicato dice que el gobierno está "privatizando nuestra red de seguridad"

Centrelink utilizará 1.000 trabajadores contratados para ayudar a recupe…

'Esto es una broma': la lucha contra la deuda robótica de Centrelink, un año después
abc.net.au · 2017

La trabajadora minorista Laura ha tenido una deuda de $24,000 sobre su cabeza desde octubre del año pasado.

Laura, quien le pidió a Hack que no usara su apellido, trabaja de manera informal y recibió pagos de apoyo a los ingresos a través d…

Programa de robo de deuda de Centrelink acusado de hacer cumplir deudas 'ilegales'
theguardian.com · 2018

El programa de robo de deuda del gobierno de Turnbull implica la ejecución de deudas "ilegales" que en algunos casos están infladas o no existen, dijo un exmiembro del Tribunal Administrativo de Apelaciones.

La acusación mordaz del programa…

¿Planeando un viaje al extranjero? ¡Asegúrese de no estar en deuda con Centrelink!
neoskosmos.com · 2018

En un intento por recuperar $ 800 millones de la deuda, los antiguos beneficiarios de asistencia social que deben dinero al gobierno federal enfrentarán una prohibición de viajar hasta que se paguen los fondos.

Hasta ahora se han emitido 20…

El gobierno admite que la robodeuda era ilegal mientras resuelve el desafío legal
theguardian.com · 2019

El gobierno federal resolvió un desafío histórico contra su programa de robodeuda: conceder una deuda de $ 2,500 contra Deanna Amato no era legal porque se basó en el promedio de ingresos.

En órdenes emitidas por consentimiento el miércoles…

Robodebt eliminó a los humanos de los Servicios Humanos y el Gobierno enfrenta las consecuencias
abc.net.au · 2020

El problema con la inteligencia artificial es que es artificial.

El problema con la inteligencia de los humanos es que es limitada, variable y comprometida por el juicio y los valores.

Ponga ambos juntos y obtendrá una buena comprensión de …

El gobierno devolverá $ 721 millones mientras elimina Robodebt para los beneficiarios de asistencia social de Centrelink
abc.net.au · 2020

El Gobierno Federal reembolsará $ 721 millones de deudas que recuperó a través de su controvertido esquema Robodebt.

El esquema hizo que cientos de miles de personas emitieran avisos de deuda generados por computadora, algunos de los cuales…

Robodebt: el gobierno reembolsará 470.000 deudas ilegales de Centrelink por valor de 721 millones de dólares
theguardian.com · 2020

El gobierno federal finalmente acordó pagar a cientos de miles de personas que se vieron afectadas por deudas Centrelink ilegales e incorrectas durante un período de cuatro años a través del El fallido plan de robodeuda de Coalition.

Años d…

Escándalo de robodeuda: la filtración revela que las deudas ilegales son anteriores a 2015, pero el gobierno no tiene planes de devolver el dinero
theguardian.com · 2020

El gobierno australiano ha reconocido en privado que el escándalo de la robodeuda puede ir más allá de las 470.000 deudas ilegales ya identificadas para reembolso, pero no tiene planes de devolver el dinero porque cree que sería demasiado d…

'Trauma relacionado con robodeuda': las víctimas siguen pagando la represión ilegal de la asistencia social de Australia
theguardian.com · 2020

Nathan Kearney dice que perdió dos años y medio de su vida debido a la robodeuda. Todavía está viendo a un consejero al respecto.

Hace cuatro años vivía en Brisbane, veía y tocaba en conciertos, trabajaba en varios trabajos ocasionales dife…

Robodebt: la corte aprueba un acuerdo de $ 1.8 mil millones para las víctimas del fracaso "vergonzoso" del gobierno
theguardian.com · 2021

Un "capítulo vergonzoso" en la administración pública ha llevado a la corte federal a aprobar un acuerdo por valor de $ 1.800 millones entre el estado libre asociado y las víctimas del esquema de robodeuda de la Coalición.

En el fallo del v…

Robodebt: el gobierno lucha por mantener en secreto documentos que pueden mostrar 'lo que salió mal'
theguardian.com · 2021

Robodebt: el gobierno lucha por mantener en secreto documentos que pueden mostrar 'lo que salió mal'

El gobierno de Morrison está luchando para mantener en secreto los documentos que, según un ex servidor público, podrían mostrar "lo que sa…

"Platitudes y palabras falsas": la madre de la víctima de robodebt que se quitó la vida cuenta una investigación sobre la obstrucción del gobierno
theguardian.com · 2023

La madre de una víctima de robodeuda que se quitó la vida le dijo a una comisión real que el anterior gobierno de coalición la bloqueó mientras buscaba respuestas sobre las deudas de asistencia social de su hijo durante más de cinco años.

L…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents