Description: NarxCare's algorithm assessing a patient’s overdose risk allegedly did not undergo peer-reviewed validation studies, and considered sensitive data with high risk of biases towards women and Black patients such as experience of sexual abuse and criminality.
Entidades
Ver todas las entidadesPresunto: un sistema de IA desarrollado e implementado por Appriss, perjudicó a American physicians , American pharmacists , American patients of minority groups y American patients.
Estadísticas de incidentes
ID
172
Cantidad de informes
1
Fecha del Incidente
2020-07-01
Editores
Sean McGregor, Khoa Lam
Informes del Incidente
Cronología de Informes
wired.com · 2021
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
UNA TARDE DE julio de 2020, una mujer llamada Kathryn fue al hospital con un dolor insoportable. Una estudiante de posgrado en psicología de 32 años en Michigan, Kathryn vivía con endometriosis, una condición agonizante que hace que las cél…
Variantes
Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents
:format(webp)/cdn.vox-cdn.com/uploads/chorus_image/image/59105949/wjoel_180320_2353_healthcare_001.0.jpg)
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents