Incident 816: Une erreur d'identification par reconnaissance faciale transjuridictionnelle du NYPD conduit à une arrestation injustifiée et à une peine de prison de quatre ans dans le New Jersey
Description: En 2019, la technologie de reconnaissance faciale a identifié à tort Francisco Arteaga comme suspect d'un vol à main armée dans le New Jersey. Cet incident a conduit à près de quatre ans de détention provisoire. Malgré un alibi, Arteaga a été inculpé sur la base d'une identification erronée. La bataille juridique qui a suivi a abouti à une décision de justice exigeant de la police qu'elle divulgue des détails sur les algorithmes utilisés pour la reconnaissance faciale. Ce processus a révélé d'importantes lacunes en matière de transparence et de responsabilité.
Editor Notes: See Incident 815 for a broader overview of these specific kinds of harms. Reconstructing the timeline of events: (1) November 29, 2019: An armed robbery occurs at the Buenavista Multiservices store in West New York, New Jersey. Police submit surveillance footage for facial recognition analysis. (2) December 2019: The West New York Police Department sends surveillance footage to the NYPD's Real Time Crime Center, which identifies Francisco Arteaga as a possible match using facial recognition technology. (3) 2019-2022: Arteaga spends nearly four years in pretrial detention while fighting the charges, despite having an alibi. (4) May 13, 2022: A trial judge denies Arteaga’s motion for discovery on details of the facial recognition technology used in his case. (5) June 7, 2023: A New Jersey appellate court rules that Arteaga is entitled to information on the facial recognition technology used in his case, including the algorithm, error rates, and other relevant details.
Entités
Voir toutes les entitésAlleged: Clearview AI developed an AI system deployed by West New York PD , NYPD et Real Time Crime Center, which harmed Francisco Arteaga.
Statistiques d'incidents
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
7.3. Lack of capability or robustness
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- AI system safety, failures, and limitations
Entity
Which, if any, entity is presented as the main cause of the risk
Human
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Unintentional
Rapports d'incidents
Chronologie du rapport
Francisco Arteaga était incarcéré, en attente de comparaître devant un tribunal l’automne dernier, lorsqu’il a aperçu un énorme type qui le regardait de l’autre côté de la cellule de détention du palais de justice.
« Les bras de ce type son…
Variantes
Une "Variante" est un incident de l'IA similaire à un cas connu—il a les mêmes causes, les mêmes dommages et le même système intelligent. Plutôt que de l'énumérer séparément, nous l'incluons sous le premier incident signalé. Contrairement aux autres incidents, les variantes n'ont pas besoin d'avoir été signalées en dehors de la base de données des incidents. En savoir plus sur le document de recherche.
Vous avez vu quelque chose de similaire ?
Incidents similaires
Did our AI mess up? Flag the unrelated incidents
Employee Automatically Terminated by Computer Program
· 20 rapports
Incidents similaires
Did our AI mess up? Flag the unrelated incidents
Employee Automatically Terminated by Computer Program
· 20 rapports