Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 3604

Incidentes Asociados

Incidente 6303 Reportes
Alleged Macy's Facial Recognition Error Leads to Wrongful Arrest and Subsequent Sexual Assault in Jail

Loading...
Un hombre demanda a Macy's, diciendo que una coincidencia falsa de reconocimiento facial lo llevó a un asalto en la cárcel
washingtonpost.com · 2024

Un hombre fue agredido sexualmente en la cárcel después de haber sido acusado falsamente de robo a mano armada debido a una coincidencia defectuosa en el reconocimiento facial, dijeron sus abogados, en un caso que resalta aún más los peligros del uso cada vez mayor de la tecnología por parte de las fuerzas del orden.

Harvey Murphy Jr., de 61 años, dijo que fue golpeado y violado por tres hombres en el baño de una cárcel de Texas en 2022 después de ser acusado de haber asaltado a empleados a punta de pistola dentro de un Sunglass Hut en un centro comercial de Houston, según una demanda. presentó la semana pasada.

Un representante de un Macy's cercano le dijo a la policía de Houston durante la investigación que el sistema de la compañía, que escaneó las imágenes de las cámaras de vigilancia en busca de rostros en una base de datos interna de ladrones, encontró evidencia de que Murphy había robado en ambas tiendas, lo que llevó a su arresto.

Pero en el momento del robo, dijeron sus abogados, Murphy estaba en una cárcel de Sacramento por cargos no relacionados, a casi 2.000 millas de distancia. Horas después de su agresión sexual, los fiscales lo liberaron y se retiraron todos los cargos, dijeron sus abogados.

Murphy demandó a Macy's, a la empresa matriz de Sunglass Hut, EssilorLuxottica, y a tres personas que, según sus abogados, estuvieron involucradas en el caso. Pide 10 millones de dólares por daños y perjuicios y dice que la agresión le dejó "heridas de por vida".

"Es un dolor personal del día a día en el corazón y en el alma por lo que pasó", dijo en una entrevista con The Washington Post. Dijo que seguía "aterrorizado por la idea de que esto pudiera volver a suceder en cualquier momento".

Macy's se negó a comentar sobre litigios pendientes. La compañía dijo en un comunicado anterior que utiliza "el reconocimiento facial junto con otros métodos de seguridad en un pequeño subconjunto de tiendas Macy's con altas incidencias de robo minorista organizado y reincidentes".

EssilorLuxottica no respondió a las solicitudes de comentarios el lunes. Un portavoz de la policía de Houston, que según los abogados de Murphy investigó el caso, remitió una solicitud de comentarios a la oficina del alcalde, que no respondió de inmediato.

Los minoristas utilizan cada vez más software de reconocimiento facial para patrullar sus tiendas en busca de ladrones y otros clientes no deseados. Pero la precisión de la tecnología depende en gran medida de factores técnicos (la calidad de vídeo de las cámaras, la iluminación de una tienda, el tamaño de su base de datos de rostros) y una falta de coincidencia puede conducir a resultados peligrosos.

El mes pasado, la Comisión Federal de Comercio dijo que la cadena de farmacias [Rite Aid había hecho un mal uso de su sistema de reconocimiento facial](https://www.washingtonpost.com/technology/2023/12/19/ftc-rite-aid-facial-recognition/? itid=lk_inline_manual_17) de una manera que llevó a que los compradores fueran acusados falsamente de robo, incluso en enfrentamientos con la policía. Como parte de un acuerdo de la FTC, Rite Aid se comprometió a no utilizar la tecnología durante cinco años.

Los departamentos de policía han dicho en general que utilizan coincidencias faciales sólo como pista de investigación y que los cargos penales deben presentarse sólo en los casos en que se puedan encontrar otras pruebas. Pero la demanda de Murphy sugiere que jugó un papel fundamental al dirigir a los oficiales hacia él en primer lugar, y que la confianza que las autoridades depositaron en los resultados automatizados puede haber "preparado" a testigos e investigadores para creer que Murphy tenía la culpa sin pruebas sustanciales.

Murphy, que es blanco, se une a otras seis personas, todas ellas negras, que han denunciado haber sido acusadas injustamente de delitos debido a coincidencias defectuosas en el reconocimiento facial. Uno, Robert Williams, demandó a la policía de Detroit después de que lo acusaran falsamente por robar relojes de una tienda Shinola y permanecer bajo custodia durante 30 horas. Otra, Porcha Woodruff, dijo que la retuvieron durante 11 horas mientras estaba embarazada de ocho meses. Esos casos están en curso.

El 22 de enero de 2022, después de que dos hombres asaltaran Sunglass Hut, el jefe de prevención de pérdidas de EssilorLuxottica le dijo a la policía de Houston que había trabajado con una contraparte en la tienda Macy's para reproducir videos del robo a través del sistema de reconocimiento facial de Macy's. Ese sistema, dijo el funcionario, indicaba que Murphy había robado ambas tiendas.

Los agentes de policía de Houston realizaron una serie de fotografías con una asociada de ventas que había sido detenida a punta de pistola, y ella identificó a Murphy como el ladrón, afirma la demanda. Se emitió orden de arresto contra él.

En octubre de 2022, después de que el nativo de Texas abandonara California para regresar a Texas a trabajar, Murphy fue esposado en una estación de examen del Departamento de Vehículos Motorizados cuando fue a renovar su licencia de conducir, le dijo a The Post. Estuvo en prisión durante unos 10 días cuando ocurrió la agresión, dijo, y fue liberado unas horas después.

Murphy dijo que no le dijeron que el reconocimiento facial estuviera involucrado en su encarcelamiento y que solo se enteró después de que su abogado designado por el tribunal lo descubrió en informes policiales.

Los fiscales del condado de Harris, donde se encuentra Houston, finalmente retiraron los cargos después de enterarse de la coartada de Murphy, dijo uno de sus abogados, Daniel Dutko. Dijo que aún no está claro qué software de reconocimiento facial se utilizó para identificar a Murphy.

"Me asusta pensar que vamos en una dirección en la que uno de mis hijos puede ser encarcelado por no haber hecho nada malo, basándose en esta tecnología", dijo Dutko.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd