Incidente 502: La herramienta de evaluación familiar del condado de Pensilvania presuntamente exhibió efectos discriminatorios

Descripción:

El análisis de datos realizado por la Unión Estadounidense por las Libertades Civiles (ACLU) sobre la herramienta de evaluación familiar de apoyo a la toma de decisiones del condado de Allegheny para predecir el riesgo de abuso o negligencia infantil encontró que la herramienta resultó en tasas de evaluación más altas para las familias negras y puntajes de riesgo más altos para los hogares con residentes discapacitados.

Herramientas

Nuevo Informe Nueva Respuesta DescubrirVer Historial

Entidades

Ver todas las entidades

Alleged: Rhema Vaithianathan , Emily Putnam-Hornstein y Centre for Social Data Analytics developed an AI system deployed by Allegheny County, which harmed Black families in Allegheny , households with disabled people in Allegheny y Hackneys family.

Estadísticas de incidentes

502

Cantidad de informes

Fecha del Incidente

2017-04-10

Editores

Khoa Lam

Applied Taxonomies

MIT

Clasificaciones de la Taxonomía MIT

Machine-Classified

Detalles de la Taxonomía

Risk Subdomain

1.1. Unfair discrimination and misrepresentation

Risk Domain

Discrimination and Toxicity

Entity

Timing

Post-deployment

Intent

Unintentional

Informes del Incidente

Cronología de Informes

El diablo está en los detalles: interrogar los valores integrados en la herramienta de evaluación de la familia Allegheny

aclu.org

Cómo la política oculta en un algoritmo amenaza a las familias en este condado de Pensilvania

aclu.org

No es magia: la herramienta de inteligencia artificial opaca puede señalar a los padres con discapacidades

apnews.com

aclu.org · 2023

Traducido por IA

Introducción

En 2017, los creadores de Allegheny Family Screening Tool (AFST) publicaron un informe que describe el proceso de desarrollo de una herramienta predictiva utilizada para informar las respuestas a las llamadas a la agencia de bi…

aclu.org · 2023

Traducido por IA

Escuchas un golpe en tu puerta. Esperando un vecino o tal vez una entrega, lo abre, solo para encontrar a un trabajador de bienestar infantil que exige la entrada. No parece que puedas negarte, así que los dejas entrar y observas cómo regis…

apnews.com · 2023

Traducido por IA

PITTSBURGH (AP) — Durante las dos semanas que la bebé de los Hackney permaneció en una cama de hospital de Pittsburgh débil por la deshidratación, sus padres rara vez se apartaron de su lado, a veces durmiendo en el sofá plegable de la habi…

Variantes

Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.

¿Has visto algo similar?