Journal des citations pour l'incident 76

Description: Buenos Aires city government uses a facial recognition system that has led to numerous false arrests.

Outils

Nouveau rapport Nouvelle Réponse DécouvrirVoir l'historique

Entités

Présumé : un système d'IA développé par unknown et mis en œuvre par Buenos Aires city government, endommagé Buenos Aires children.

Statistiques d'incidents

Nombre de rapports

Date de l'incident

2020-10-09

Editeurs

Sean McGregor, Khoa Lam

Classifications de taxonomie CSETv0

Détails de la taxonomie

Full Description

In Argentina in 2019, Consulta Nacional de Rebeldías y Capturas (CONARC), a national database of alleged criminal offenders, began to power a live facial recognition system in Buenos Aires deployed by the city government. The system has led to numerous false arrests, which the police have no established protocol for handling, and the database also includes minors, which facial recognition systems are not designed to accurately recognize.

Short Description

Buenos Aires city government uses a facial recognition system that has led to numerous false arrests.

Severity

Minor

Harm Distribution Basis

Age

Harm Type

Harm to civil liberties

AI System Description

CONARC uses photo IDs alongside resident informaion such as names, birthday, and national ID to track alleged offenders using live camera feed

Sector of Deployment

Public administration and defence

Relevant AI functions

Perception, Cognition

AI Techniques

facial recognition, machine learning, environmental sensing

AI Applications

Facial recognition, environmental sensing, biometrics, image recognition

Location

Buenos Aires, Argentina, CONARC, Consulta Nacional de Rebeldías y Capturas

Named Entities

Buenos Aires, Argentina, CONARC

Beginning Date

4/2019

Ending Date

10/2020

Near Miss

Harm caused

Intent

Accident

Lives Lost

Data Inputs

photo IDs, names birthdays, and national IDs of people suspected of crimes, camera feed

Rapports d'incidents

Chronologie du rapport

La reconnaissance faciale en direct suit les enfants soupçonnés d'être des criminels

technologyreview.com

technologyreview.com · 2020

Traduit par IA

Dans une base de données nationale en Argentine, des dizaines de milliers d'entrées détaillent les noms, les anniversaires et les cartes d'identité nationales des personnes soupçonnées de crimes. La base de données, connue sous le nom de Co…

Variantes

Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.