Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 6149

Incidentes Asociados

Incidente 11911 Reporte
NYPD Facial Recognition System Allegedly Produced Erroneous Match That Reportedly Resulted in Wrongful Detention of Trevis Williams

Loading...
Cómo la herramienta de reconocimiento facial del Departamento de Policía de Nueva York llevó al hombre equivocado a la cárcel
nytimes.com · 2025

En febrero, una mujer denunció a la policía que un repartidor se había exhibido ante ella en un edificio de Manhattan. Medía aproximadamente 1,78 metros.

Dos meses después, según las pruebas, la policía arrestó al hombre equivocado. Medía 1,88 metros.

El hombre, Trevis Williams, conducía de Connecticut a Brooklyn el día del crimen, y los datos de ubicación de su teléfono lo situaban a unos 19 kilómetros de distancia en ese momento. Pero un programa de reconocimiento facial extrajo su imagen de una serie de fotos policiales y la mujer lo identificó como el exhibicionista.

Al igual que el Sr. Williams, el culpable era afroamericano, tenía barba y bigote espesos, y llevaba el pelo trenzado. Físicamente, los dos hombres tenían poco más en común. El Sr. Williams no solo era más alto, sino que también pesaba 104 kilos. La víctima dijo que el repartidor parecía pesar unos 72 kilos. Aun así, el Sr. Williams pasó más de dos días en la cárcel en abril.

"En un abrir y cerrar de ojos, toda tu vida puede cambiar", dijo el Sr. Williams. Los algoritmos que ejecutan la tecnología de reconocimiento facial pueden superar a los testigos oculares humanos falibles, y las fuerzas del orden afirman que los resultados no son decisivos por sí solos. Sin embargo, el caso contra el Sr. Williams, desestimado en julio, ilustra los peligros de una poderosa herramienta de investigación que puede llevar a los detectives por el mal camino.

Investigadores del Instituto Nacional de Estándares y Tecnología han descubierto en repetidas pruebas que la tecnología de reconocimiento facial identifica a la persona correcta la gran mayoría de las veces. Sin embargo, dichas investigaciones generalmente involucraron imágenes tomadas en condiciones controladas, no las imágenes granuladas y borrosas de las grabaciones de vigilancia.

A nivel nacional, al menos 10 personas han sido arrestadas erróneamente tras ser identificadas con tecnología de reconocimiento facial, según informes de prensa. "Hemos visto esto una y otra vez en todo el país", declaró Nathan Wessler, de la Unión Americana de Libertades Civiles (ACLU). "Uno de los principales peligros de esta tecnología es que a menudo se equivoca". El Departamento de Policía de Nueva York utiliza esta tecnología miles de veces al año, pero no contabiliza sus éxitos ni sus fracasos. Un portavoz, que calificó el reconocimiento facial como una herramienta esencial, afirmó que el departamento nunca se basó únicamente en ella para realizar un arresto y que la identificación del Sr. Williams por parte de la víctima proporcionó las pruebas para acusarlo.

Otros departamentos de policía, en Detroit e Indiana, exigen que los investigadores recaben más información antes de incluir a un sospechoso identificado por reconocimiento facial en una rueda de reconocimiento. El Departamento de Policía de Nueva York no aplica esa norma.

Cuando los detectives de Nueva York interrogaron a la víctima, esta afirmó haber visto antes al hombre que la expuso. Lo describió como un trabajador de Amazon que repartía paquetes en la zona del edificio de apartamentos en la calle 17 Este donde ella trabajaba limpiando y retirando material reciclable y basura, según una entrevista y documentos policiales.

El hombre, que llevaba gafas gruesas de montura negra, la incomodaba, mirándola fijamente y demorándose en los pasillos. A las 4:30 p. m. El 10 de febrero, la mujer estaba limpiando cuando levantó la vista y vio al hombre reflejado en el espejo del pasillo. La observaba fijamente, con los pantalones desabrochados y los genitales al descubierto.

La mujer dijo que gritó y que el hombre huyó. El New York Times no revela su nombre porque fue víctima de un delito sexual.

Al mismo tiempo, el Sr. Williams, de 36 años, estacionaba su auto en el barrio de Marine Park, en Brooklyn, donde se encontraba con un amigo. Acababa de regresar de su trabajo en Connecticut, donde trabajaba con adultos autistas.

Una semana antes, había sido arrestado por un delito menor de agresión y fotografiado para una ficha policial. El Sr. Williams dijo que se había peleado con un hombre que había estado saliendo con su exnovia. Ese caso fue desestimado en marzo.

Pero su imagen aún estaba en el sistema del departamento cuando la policía recibió la llamada sobre el exhibicionista en la calle 17 Este. La policía obtuvo una grabación de vigilancia, entrevistó a la mujer y registró la zona en busca de más testigos, según documentos policiales.

También encomendaron a un investigador una búsqueda por reconocimiento facial.

Esto implicó subir una imagen fija de la grabación a un sistema que utiliza algoritmos para convertir los contornos de un rostro en puntos de datos y luego busca los rostros con mayor similitud estadística. Se supone que el Departamento de Policía debe limitar estas búsquedas a personas que hayan sido arrestadas en Nueva York o Nueva Jersey, según el inspector general de la agencia (https://www.nyc.gov/assets/doi/reports/pdf/2022/POSTActReport_Final_11032022.pdf).

Finalmente, un humano selecciona al mejor candidato. El examinador eligió al Sr. Williams y generó un informe que advertía que solo era una "posible coincidencia" y que eso por sí solo no constituía "causa probable para el arresto".

Su foto fue colocada entre seis fotos —todas de hombres negros con rastas y vello facial— que los investigadores le mostraron a la víctima.

Ella escogió la foto del Sr. Williams, la imagen número 2, y firmó debajo, según documentos policiales. "Estoy segura de que es él", escribió un detective en el informe del caso.

El 21 de abril, la policía sorprendió al Sr. Williams entrando al metro por una puerta de salida en Brooklyn y se enteró de que era buscado para interrogarlo por el episodio del 10 de febrero. Lo arrestaron.

Durante el interrogatorio, el Sr. Williams declaró a la policía que había empezado a hacer repartos para Amazon el 1 de abril. Explicó que había trabajado en un almacén de Amazon durante la pandemia de COVID-19 y en Atlanta, pero que en el momento del crimen, trabajaba en su empleo en Connecticut con adultos autistas.

"Ese no soy yo", dijo cuando la policía le mostró las imágenes de vigilancia del exhibicionista. "Te lo juro, ese no soy yo".

"Por supuesto que va a decir que no fue usted", respondió el detective. Luego preguntó qué pasaría si obtenía los registros laborales del Sr. Williams.

"Búsquelos", respondió el Sr. Williams. "Por favor, búsquelos".

La policía lo acusó al día siguiente.

"La víctima identificó positivamente al Sr. Williams", dijo Brad Weekes, portavoz del Departamento de Policía. El Sr. Weekes afirmó que la víctima les había dicho a los detectives que estaba "segura de que se trataba de la misma persona, y solo entonces se estableció causa probable para realizar un arresto".

Añadió que la identificación con foto de la víctima, el interrogatorio del Sr. Williams y su historial laboral en Amazon formaban parte de la investigación. La policía no contactó con Amazon para averiguar la identidad del repartidor. Una portavoz de Amazon, Sharyn Ghacham, afirmó que la empresa habría cooperado.

En un comunicado, la fiscalía de Manhattan indicó que no podía hacer comentarios porque el caso estaba cerrado tras su desestimación en julio.

La policía de Nueva York utiliza el reconocimiento facial desde 2011. Los investigadores realizan miles de búsquedas anuales que han dado lugar a coincidencias en casos tan graves como violaciones y asesinatos. El Sr. Weekes afirmó que era "inexacto desde el punto de vista fáctico" afirmar que la policía había realizado arrestos falsos basándose en esta tecnología.

Sin embargo, Legal Aid, la organización de defensores públicos que representó al Sr. Williams, afirmó tener conocimiento de casos en los que se había arrestado a la persona equivocada tras una identificación que comenzó con el reconocimiento facial. En 2022, según la organización, un hombre fue acusado de intento de asesinato y permaneció detenido durante más de un mes. El caso fue desestimado después de que el hombre demostrara que se encontraba en otro lugar en ese momento, según Legal Aid.

"Nos preocupa profundamente que los casos que hemos identificado sean solo la punta del iceberg", declaró Legal Aid en una carta enviada el lunes al Departamento de Investigación de la ciudad, solicitando a la agencia que investigue el uso de esta tecnología por parte de la policía.

La Unión Americana de Libertades Civiles (ACLU) ha pedido la prohibición del uso del reconocimiento facial por parte de la policía debido al riesgo de identificación errónea. Wessler](https://www.aclu.org/bio/nathan-freed-wessler), subdirector del Proyecto de Discurso, Privacidad y Tecnología.

Combinar la tecnología con las identificaciones de testigos oculares, que según las investigaciones, suelen ser defectuosas, "agrava el problema", afirmó Karen Newirth, abogada especializada en identificación de testigos oculares.

En 2023, el Instituto Nacional de Estándares y Tecnología (NITS) descubrió que los principales algoritmos de reconocimiento facial lograron una coincidencia correcta en el 99,9 % de las búsquedas realizadas en una base de datos de fotos policiales de 12 millones de personas.

Sin embargo, la "precisión puede disminuir significativamente cuando se utilizan imágenes de baja calidad o sin control, como suele ocurrir en investigaciones reales", afirmó Michael King (https://www.fit.edu/faculty-profiles/k/king-michael/), experto en esta tecnología que ha asesorado a las fuerzas del orden federales sobre sus usos y ha estudiado el informe.

En Indiana y Detroit, la policía tiene prohibido incluir coincidencias faciales en una rueda de reconocimiento a menos que existan pruebas adicionales, como huellas dactilares, ADN o datos de teléfonos celulares, que vinculen a un sospechoso con un delito. En el caso del Sr. Williams, la policía no investigó más allá del conjunto de fotos, afirmó su abogada, Diane Akerman. "El trabajo policial tradicional podría haber resuelto este caso o al menos haber evitado que el Sr. Williams pasara por esto", declaró.

Un análisis forense que los abogados del Sr. Williams realizaron de sus registros telefónicos mostró que, en el momento del crimen, su teléfono se había comunicado con torres de telefonía móvil en los alrededores de Brooklyn, según datos revisados por The Times. Sus abogados estaban dispuestos a utilizar esa evidencia en el tribunal, pero el caso fue desestimado antes de que pudieran presentarla.

La víctima afirmó que el arresto del Sr. Williams la tranquilizó.

Cuando The Times le comunicó que los cargos habían sido retirados, esa tranquilidad se desvaneció, afirmó.

El Sr. Williams, quien tiene un hijo de 12 años, temía que los cargos pudieran resultar en su inclusión en el registro de delincuentes sexuales y que no pudiera encontrar trabajo ni recoger a su hijo de la escuela. Se sintió humillado y enojado, y le preocupaba que todos sus conocidos se enteraran de los vergonzosos cargos.

"Desprecio a la gente que hace cosas así", dijo.

Añadió que seguía temiendo que lo arrestaran de nuevo. "A veces, siento como si tuviera ataques de pánico", dijo el Sr. Williams.

En cuanto al caso de lascivia pública, la policía dijo que se había cerrado.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd