Description: A healthcare algorithm designed to equitably distribute caregiving resources drastically cut care hours for the disabled and elderly, leading to significant hardships and harm. Initially developed for fair resource allocation, the system ultimately faced legal challenges for its inability to accurately assess individual needs, resulting in reduced essential care and raising ethical concerns about AI in healthcare decision-making.
Entidades
Ver todas las entidadesPresunto: un sistema de IA desarrollado por State governments y Brant Fries e implementado por State governments , Idaho state government , Arkansas state government , Washington DC government , Pennsylvania state government , Iowa state government y Missouri state government, perjudicó a Disabled people , Elderly people , Low-income people , Larkin Seiler y Tammy Dobbs.
Estadísticas de incidentes
ID
603
Cantidad de informes
1
Fecha del Incidente
2021-07-02
Editores
Daniel Atherton
Informes del Incidente
Cronología de Informes
theguardian.com · 2021
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Enfrentarse a un algoritmo fue una batalla diferente a cualquier otra que Larkin Seiler haya enfrentado.
Debido a su parálisis cerebral, este hombre de 40 años, que trabaja en una empresa de ingeniería ambiental y le encanta asistir a juego…
Variantes
Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents
The man who was fired by a machine
· 20 informes
Working Anything but 9 to 5
· 10 informes
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents
The man who was fired by a machine
· 20 informes
Working Anything but 9 to 5
· 10 informes