Registro de citas para el Incidente 76

Description: Buenos Aires city government uses a facial recognition system that has led to numerous false arrests.

Herramientas

Nuevo Informe Nueva Respuesta DescubrirVer Historial

Entidades

Presunto: un sistema de IA desarrollado por unknown e implementado por Buenos Aires city government, perjudicó a Buenos Aires children.

Estadísticas de incidentes

Cantidad de informes

Fecha del Incidente

2020-10-09

Editores

Sean McGregor, Khoa Lam

Clasificaciones de la Taxonomía CSETv0

Detalles de la Taxonomía

Full Description

In Argentina in 2019, Consulta Nacional de Rebeldías y Capturas (CONARC), a national database of alleged criminal offenders, began to power a live facial recognition system in Buenos Aires deployed by the city government. The system has led to numerous false arrests, which the police have no established protocol for handling, and the database also includes minors, which facial recognition systems are not designed to accurately recognize.

Short Description

Buenos Aires city government uses a facial recognition system that has led to numerous false arrests.

Severity

Minor

Harm Distribution Basis

Age

Harm Type

Harm to civil liberties

AI System Description

CONARC uses photo IDs alongside resident informaion such as names, birthday, and national ID to track alleged offenders using live camera feed

Sector of Deployment

Public administration and defence

Relevant AI functions

Perception, Cognition

AI Techniques

facial recognition, machine learning, environmental sensing

AI Applications

Facial recognition, environmental sensing, biometrics, image recognition

Location

Buenos Aires, Argentina, CONARC, Consulta Nacional de Rebeldías y Capturas

Named Entities

Buenos Aires, Argentina, CONARC

Beginning Date

4/2019

Ending Date

10/2020

Near Miss

Harm caused

Intent

Accident

Lives Lost

Data Inputs

photo IDs, names birthdays, and national IDs of people suspected of crimes, camera feed

Informes del Incidente

Cronología de Informes

El reconocimiento facial en vivo rastrea a niños sospechosos de ser delincuentes

technologyreview.com

technologyreview.com · 2020

Traducido por IA

En una base de datos nacional en Argentina, decenas de miles de entradas detallan los nombres, cumpleaños y documentos de identidad de personas sospechosas de delitos. La base de datos, conocida como Consulta Nacional de Rebeldías y Captura…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.