Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Incidente 295: Wrongful Attempted Arrest for Apple Store Thefts Due to NYPD’s Facial Misidentification

Descripción: New York Police Department (NYPD)’s facial recognition system falsely connected a Black teenager to a series of thefts at Apple stores, which resulted in his wrongful attempted arrest.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial

Entidades

Ver todas las entidades
Alleged: unknown developed an AI system deployed by New York Police Department, which harmed Ousmane Bah , NYC Black people y NYC Black young people.

Estadísticas de incidentes

ID
295
Cantidad de informes
5
Fecha del Incidente
2018-11-08
Editores
Khoa Lam
Applied Taxonomies
GMF, MIT

Clasificaciones de la Taxonomía MIT

Machine-Classified
Detalles de la Taxonomía

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

2.1. Compromise of privacy by obtaining, leaking or correctly inferring sensitive information

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Privacy & Security

Entity

Which, if any, entity is presented as the main cause of the risk
 

Human

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Unintentional

Informes del Incidente

Cronología de Informes

Incident Occurrence+1
Adolescente demanda a Apple por $ 1 mil millones, culpa al reconocimiento facial en las tiendas por su arresto
Juez permite que continúe demanda por reconocimiento facial contra AppleDemandan a Apple por falsas acusaciones de robos en Apple Store por parte de un impostorBah contra Apple Inc.
Adolescente demanda a Apple por $ 1 mil millones, culpa al reconocimiento facial en las tiendas por su arresto

Adolescente demanda a Apple por $ 1 mil millones, culpa al reconocimiento facial en las tiendas por su arresto

washingtonpost.com

Apple afirma que no está escaneando las caras de los clientes, después de que un adolescente demanda por $ 1 mil millones

Apple afirma que no está escaneando las caras de los clientes, después de que un adolescente demanda por $ 1 mil millones

theverge.com

Juez permite que continúe demanda por reconocimiento facial contra Apple

Juez permite que continúe demanda por reconocimiento facial contra Apple

appleworld.today

Demandan a Apple por falsas acusaciones de robos en Apple Store por parte de un impostor

Demandan a Apple por falsas acusaciones de robos en Apple Store por parte de un impostor

appleinsider.com

Bah contra Apple Inc.

Bah contra Apple Inc.

casetext.com

Adolescente demanda a Apple por $ 1 mil millones, culpa al reconocimiento facial en las tiendas por su arresto
washingtonpost.com · 2019
Traducido por IA

Un joven de 18 años de Nueva York está demandando a Apple por mil millones de dólares, alegando que un sistema de reconocimiento facial en sus tiendas lo conectó falsamente con una serie de robos.

Ousmane Bah, quien fue arrestado en su casa…

Apple afirma que no está escaneando las caras de los clientes, después de que un adolescente demanda por $ 1 mil millones
theverge.com · 2019
Traducido por IA

Apple está siendo acusada de usar software de reconocimiento facial en sus Apple Stores para arrestar a la persona equivocada por robo: un estudiante de Nueva York que ahora está demandando a Apple por $ 1 mil millones. Y aunque Apple le di…

Juez permite que continúe demanda por reconocimiento facial contra Apple
appleworld.today · 2020
Traducido por IA

Un juez federal de Illinois se negó el jueves a permitir que Apple esquivara una demanda colectiva alegando que viola la ley estatal a través de su software de reconocimiento facial, y descubrió que las acusaciones de la clase propuesta de …

Demandan a Apple por falsas acusaciones de robos en Apple Store por parte de un impostor
appleinsider.com · 2021
Traducido por IA

Apple está siendo demandada por un hombre debido a las repetidas acusaciones de que el hombre estaba detrás de numerosos robos en las tiendas Apple en la costa este de los Estados Unidos, intentos de robo que fueron realizados por otros que…

Bah contra Apple Inc.
casetext.com · 2021
Traducido por IA

Debido a que las alegaciones en la Tercera Demanda Modificada a veces difieren materialmente de aquellas consideradas por el Tribunal en su primera Opinión de MTD, se describirán con cierto detalle.

El primer robo identificado en la denunci…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.

Incidentes Similares

Selected by our editors
Passport checker Detects Asian man's Eyes as Closed

Robot passport checker rejects Asian man's photo for having his eyes closed

Dec 2016 · 22 informes
Detroit Police Wrongfully Arrested Black Man Due To Faulty FRT

Wrongfully Accused by an Algorithm

Jan 2020 · 11 informes
Incidente AnteriorSiguiente Incidente

Incidentes Similares

Selected by our editors
Passport checker Detects Asian man's Eyes as Closed

Robot passport checker rejects Asian man's photo for having his eyes closed

Dec 2016 · 22 informes
Detroit Police Wrongfully Arrested Black Man Due To Faulty FRT

Wrongfully Accused by an Algorithm

Jan 2020 · 11 informes

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • ecd56df