Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 2454

Incidentes Asociados

Incidente 4406 Reportes
Louisiana Police Wrongfully Arrested Black Man Using False Face Match

Loading...
JPSO usó tecnología de reconocimiento facial para arrestar a un hombre. La tecnología estaba equivocada.
nola.com · 2023

La tecnología [le ha dado a la policía un gran alcance](https://www.nola.com/news/crime_police/whats-facial-recognition-tech-and-how-do-police-use-it/article_352ce43a-888a-11ed-a486 -db6b661d0829.html) para comparar los rostros de los sospechosos de delitos contra un tesoro de fotos policiales, licencias de conducir e incluso selfies extraídos de las redes sociales.

Pero un intento reciente de la oficina del alguacil de la parroquia de Jefferson de atrapar a un ladrón de bolsos de alto nivel a través del reconocimiento facial terminó mal para un hombre de Georgia que estuvo encarcelado durante casi una semana por una coincidencia falsa, dice su abogado.

Un detective tomó el algoritmo al pie de la letra para obtener una orden de arresto contra Randal Reid, de 28 años, por el robo en junio de bolsos de lujo de una tienda de segunda mano en Metairie, dijo el abogado Tommy Calogero.

Un detective del Departamento de Policía de Baton Rouge luego adoptó la identificación de Reid de JPSO para obtener una orden de arresto que alegaba que él estaba entre los tres hombres involucrados en otro robo de bolsos de lujo la misma semana en una tienda en Jefferson Highway, según muestran los registros judiciales.

Los ladrones supuestamente robaron más de $10,000 en carteras de Chanel y Louis Vuitton durante tres días.

La policía local detuvo a Reid el 25 de noviembre cuando conducía por la carretera interestatal 20 en el condado de Dekalb, Georgia, y se dirigía a una celebración tardía del Día de Acción de Gracias con su madre, dijo.

“Me dijeron que tenía una orden de arresto en la parroquia de Jefferson. Dije, ‘¿Qué es la parroquia de Jefferson?’”, dijo Reid. “Nunca he estado en Luisiana un día en mi vida. Luego me dijeron que era por robo. Así que no solo no he estado en Luisiana, sino que tampoco robo”.

Reid fue ingresado en la cárcel del condado de DeKalb como fugitivo, pero lo dejaron ir el 1 de diciembre, dijo un funcionario de la cárcel. Calogero dijo que los detectives de JPSO admitieron “tácitamente” el error y rescindieron la orden de julio.

“Creo que se dieron cuenta de que se arriesgaron a hacer un arresto basado en una cara”, dijo.

La oficina del alguacil Joe Lopinto no respondió a varias solicitudes de información sobre el arresto y liberación de Reid, el uso del reconocimiento facial por parte de la agencia o cualquier salvaguarda al respecto. Esa oficina también negó una solicitud formal de la orden de arresto del 18 de julio para Reid y copias de pólizas o compras relacionadas con el reconocimiento facial, citando una investigación en curso.

La policía de Baton Rouge tampoco respondió a las preguntas sobre la orden de arresto de Reid. La orden, firmada por el juez del Distrito Judicial 19 Eboni Rose, no dice cómo la oficina de Lopinto identificó a Reid.

El caso destaca las trampas de una tecnología que cada vez más agencias de aplicación de la ley están adoptando en todo el país, incluso cuando los críticos señalan que las investigaciones muestran que las coincidencias son más altas para algunas poblaciones, incluidas las personas negras y las mujeres.

Algunas ciudades y estados han puesto frenos en los últimos años al uso policial del reconocimiento facial. Pero varios, incluida Nueva Orleans, han retrocedido desde entonces en medio de un aumento de la delincuencia.

En Luisiana, se sabe poco sobre el uso del reconocimiento facial fuera de Nueva Orleans, donde el Ayuntamiento este año revirtió una prohibición de dos años y estableció algunas reglas.

La policía de Nueva Orleans dice que solo se puede usar para generar pistas y que los oficiales deben obtener la aprobación de un alto nivel antes de presentar una solicitud a través de Louisiana State Analytic and Fusion Exchange en Baton Rouge. Todas las coincidencias posibles también deben someterse a una revisión por pares por parte de otros investigadores de reconocimiento facial según las nuevas reglas de la ciudad.

¿Herramienta policial o flagelo de la privacidad?

En otras partes de Luisiana, no hay regulación. Un proyecto de ley estatal para restringir el uso del reconocimiento facial murió en 2021 en el comité.

El libertario Pelican Institute for Public Policy argumentó a favor de las barreras legales. La Asociación de Alguaciles de Luisiana estaba en contra del proyecto de ley. El director ejecutivo de la asociación, Michael Ranatza, argumentó que se necesitaban más estudios.

Loren Lampert, directora ejecutiva de la Asociación de Fiscales de Distrito de Luisiana, también se pronunció en contra del proyecto de ley.

Lampert dijo la semana pasada que la policía usa la tecnología solo para desarrollar sospechosos en los casos en que no los hay, y que cualquier coincidencia debe corroborarse, como con una huella digital. “Creo que todos están de acuerdo en que hay preocupaciones que deben abordarse en cuanto a la precisión y el potencial de uso indebido”, dijo.

Ranatza dijo que no sabía cuántos alguaciles de Louisiana ahora usan la tecnología.

“Es una herramienta. Nos ayuda a identificar a un sospechoso. No me han informado dónde se usa exclusivamente” para asegurar el arresto de alguien, dijo el mes pasado. “Siempre fue una ayuda para las fuerzas del orden establecer una causa probable”.

Esa representación minimiza el alcance expansivo de la tecnología y el potencial de abuso en manos del gobierno, argumentó Chris Kaiser, director de defensa de la ACLU de Louisiana.

“No solo estamos mirando algunas fotos. Estás buscando en una biblioteca de miles y potencialmente millones de fotografías, potencialmente en todo el país e incluso fuera del país”, dijo. “Son manzanas y naranjas”.

Kaiser dijo que ninguna agencia de policía admitirá haber fichado a un sospechoso basándose únicamente en un algoritmo.

“Siempre dirán que esto es para una pista de investigación”, dijo. “Pero realmente no hay ninguna protección detrás de eso”.

Los registros públicos obtenidos por el Southern Poverty Law Center para 2021 muestran que la oficina de Lopinto se encontraba entre varias agencias locales, estatales y federales que solicitaron análisis de reconocimiento facial a través del centro de inteligencia estatal.

Los registros muestran tres solicitudes de JPSO en 2021. La policía estatal no respondió de inmediato a una solicitud de registros similares para 2022.

No se sabe si los detectives de Lopinto también realizan búsquedas de reconocimiento facial fuera de la cámara de compensación estatal.

Ampliación de tentáculos

Los informes emitidos por Fusion Center en 2021 indican que emplea dos proveedores de reconocimiento facial: Clearview AI y Morphotrak.

El sitio web de Clearview AI cuenta con "la red facial más grande del mundo", con decenas de miles de millones de imágenes "obtenidas de fuentes web solo públicas, incluidos medios de comunicación, sitios web de fotos policiales, redes sociales públicas y muchas otras fuentes abiertas".

Morphotrak ahora es Idemia, una empresa francesa que promociona sus productos de reconocimiento facial a cientos de clientes gubernamentales.

El aumento del interés en el reconocimiento facial se produce a medida que las agencias policiales cada vez más reducidas se apoyan en una proliferación de cámaras públicas vinculadas para combatir el crimen, y a medida que mejoran los algoritmos.

Un estudio de 2021 realizado por el Instituto Nacional de Estándares y Tecnología encontró que todos los algoritmos principales pueden identificar a los pasajeros del aeropuerto con fotos en el sistema más del 99 % de las veces en la primera aparición ante una cámara. Pero ese estudio y otros también encontraron un sesgo continuo en las diferentes tasas de falsos positivos y negativos por raza y género.

Algunos críticos han argumentado que la tecnología es tan peligrosa en manos del gobierno que debería prohibirse. El Centro de información de privacidad electrónica argumentó este año que el reconocimiento facial es "inherentemente peligroso", lo que permite una "vigilancia pública integral".

“Es una poderosa herramienta de vigilancia que se puede expandir fácilmente sin el conocimiento de las personas”, dijo Jeramie Scott, asesor principal de EPIC.

Blues doble

Si Reid era una coincidencia falsa para un algoritmo, era una suposición bastante buena, dijo Calogero.

Describió a Reid, que es negro, como la viva imagen de un hombre captado por la cámara en junio ingresando números de una tarjeta de crédito robada en el registro de Second Act en Metairie Road. Los ladrones se fueron con $7,500 en carteras, según el informe del incidente del alguacil.

La policía de Baton Rouge afirma que los mismos tres hombres robaron una bolsa de Chanel con un precio de $ 2,800 a través de una compra falsa con tarjeta de crédito en Swap Boutique. El detective de Baton Rouge, Samuel Stafford, escribió que los hombres en el caso de JPSO “parecen ser los mismos sujetos” involucrados en el atraco de Swap.

Stafford también obtuvo una orden de arresto en el caso de un hombre de Nueva Orleans de 21 años. Sin embargo, no está claro si ese hombre fue arrestado en el caso.

Reid dijo que se sentó en la cárcel por temor a perder su trabajo como analista de transporte y obtener un par de condenas por delitos graves por delitos que no cometió.

“No comer, no dormir. Estoy pensando en estos cargos. No hacer nada porque no sé lo que realmente está pasando todo el tiempo”, dijo. “Ni siquiera intentaron hacer la identificación correcta”.

Las diferencias, como un lunar en la cara de Reid, llevaron a JPSO a rescindir la orden, dijo Calogero. Calculó una diferencia de 40 libras entre Reid y el ladrón de bolsos que vio en las imágenes de vigilancia. Los "brazos flácidos" del culpable eran una indicación clara, dijo.

“La policía podría haber verificado su altura y peso o haber hecho un esfuerzo por hablar con él o haber pedido caminar por su casa para buscar evidencia. Él habría cumplido”, dijo Calogero.

“Hay 300 millones de personas en este país. Todos tenemos a alguien que parece idéntico a nosotros".

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd