Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 2448

Incidentes Asociados

Incidente 4393 Reportes
Detroit Police Wrongfully Arrested Black Man Due To Faulty Facial Recognition

Loading...
El controvertido reconocimiento facial de Detroit hizo que lo arrestaran por un crimen que no cometió
freep.com · 2020

El caso de alto perfil de un hombre negro arrestado injustamente a principios de este año no fue la primera identificación errónea relacionada con la controvertida tecnología de reconocimiento facial utilizada por la policía de Detroit, según pudo saber Free Press.

El año pasado, un hombre de Detroit de 25 años fue acusado injustamente de un delito grave por supuestamente meterse en el vehículo de un maestro, agarrar un teléfono celular y tirarlo, rompiendo la pantalla y rompiendo el estuche.

La policía de Detroit también usó tecnología de reconocimiento facial en esa investigación.

Identificó a Michael Oliver como una pista de investigación. Después de ese golpe, el maestro al que le arrebataron el teléfono de las manos identificó a Oliver en una fila de fotos como la persona responsable.

Oliver fue acusado de un delito grave de hurto en el incidente de mayo de 2019 en West Warren Avenue en Detroit.

Le dijo a su abogado que no lo hizo. La evidencia en el caso lo apoyó.

La controversia sobre la aplicación de la ley que utiliza la tecnología de reconocimiento facial no es nueva ni se limita a la ciudad de Detroit. Pero los recientes levantamientos en todo el país en respuesta a la injusticia racial a raíz de la muerte de George Floyd han vuelto a poner en primer plano las críticas a la tecnología.

En Detroit, donde la policía comenzó a usar el software de reconocimiento facial como herramienta de investigación en 2017, los manifestantes exigieron que la ciudad deje de usarlo, diciendo que la tasa de error es alta cuando se usa para identificar a personas de color. Algunos residentes han instado al Ayuntamiento, que considerará extender un contrato de software para ayudar a pagarlo, a votar no. La Junta de Comisionados de Policía civil de Detroit también ha estado discutiendo el uso de la tecnología por parte del departamento.

En el caso del teléfono celular, según el testimonio transcrito, el maestro llamó al 911 mientras observaba a un grupo de estudiantes peleando. Un estudiante tenía un bate de béisbol y otros luchaban en el suelo. El maestro usó su teléfono celular para grabar en video el incidente. El teléfono estaba grabando cuando un joven metió la mano en el auto del maestro y le arrebató el teléfono.

Oliver dijo lo primero que se le pasó por la cabeza cuando su abogado le mostró las imágenes: "No fui yo".

Oliver tiene tatuajes arriba y abajo de sus brazos. Esas marcas no eran visibles en la persona capturada en video. El abogado de Oliver, Patrick Nyenhuis, también notó diferencias en el peinado y el tipo de cuerpo entre la persona del video y su cliente, dijo.

“Era obvio que tenían a la persona equivocada”. Nyenhuis le dijo a Free Press.

Llevó sus preocupaciones y fotografías de su cliente al fiscal adjunto del condado de Wayne, Brian Surma, supervisor de la oficina. Surma y el maestro revisaron las fotografías, determinaron que Oliver fue identificado erróneamente y ambos acordaron que el caso debe ser desestimado de inmediato, según muestra una transcripción judicial.

“Estamos convencidos de que hubo una identificación errónea aquí”, dijo Surma a un juez en septiembre.

El caso fue desechado.

“Me alegro de que todo haya terminado”, dijo Oliver a Free Press esta semana.

Oliver, que ahora tiene 26 años, dijo que estaba nervioso porque su caso prosiguió el año pasado porque las personas aún son condenadas por delitos que no cometieron. Se preguntó cómo su rostro alguna vez se conectó con el caso.

Durante la investigación, la policía capturó una imagen del video del teléfono celular, la envió para reconocimiento facial y la foto volvió a Oliver, según el informe policial.

Después de señalar a Oliver, se incluyó una imagen de su rostro en una fila de fotos de posibles sospechosos que se le presentó al maestro.

Una segunda persona, un estudiante, también fue capturada en el video con el sospechoso. El oficial a cargo del caso testificó que no entrevistó a esa persona aunque le habían dado el nombre de ese estudiante.

La policía investigó el caso de Oliver antes de una nueva política que rige el uso de software de reconocimiento facial. Incluye reglas más estrictas sobre cuándo puede usarlo la policía de Detroit. La tecnología ahora se usa solo como una herramienta para ayudar a resolver delitos violentos, dijo la policía de Detroit.

Un portavoz del departamento dijo el miércoles que estaba investigando las preguntas de Free Press sobre el caso de Oliver.

La Oficina del Fiscal del Condado de Wayne ahora también tiene un protocolo más estricto para los casos de reconocimiento facial.

La evidencia en el caso de Oliver no fue revisada por un supervisor en la oficina del fiscal antes de que lo acusaran, dijo la portavoz Maria Miller en un correo electrónico. El protocolo actual requiere que un supervisor revise todas las pruebas en un caso de reconocimiento facial antes de tomar una decisión de acusación. También debe haber otra evidencia que corrobore las acusaciones para acusar a alguien.

La oficina del fiscal está tomando medidas adicionales, dijo Miller. Se requerirá que los casos de reconocimiento facial se presenten al fiscal Kym Worthy, la persona de más alto rango en la oficina, para su aprobación si un fiscal asistente y un supervisor determinan que se deben autorizar los cargos.

Miller dijo que la oficina del fiscal no conoce otros casos en los que las personas acusadas de delitos hayan sido identificadas erróneamente, aparte de Oliver y Robert Williams.

Williams es un hombre de Farmington Hills arrestado frente a su familia en enero y acusado de robar relojes de lujo. Los fiscales y la policía se han disculpado por cómo se manejó ese caso.

El caso generó titulares en todo el país, incluso en Free Press, The New York Times y The Washington Post. Mientras estaba bajo custodia, Williams dijo que le dijo a la policía que él no era el hombre que se ve en una imagen borrosa del video de vigilancia de la tienda.

“Como resultado de estos dos casos, tenemos un protocolo más estricto en los casos de reconocimiento facial”, dijo Worthy en un comunicado. está vinculado al Tribunal de Circuito en cualquier caso en el que se haya utilizado el reconocimiento facial como herramienta de investigación”.

Dijo que apoya el uso de la tecnología solo como una herramienta de investigación.

"En el verano de 2019, el Departamento de Policía de Detroit me pidió personalmente que adoptara su Política de reconocimiento facial", dijo. "Rechacé y cité estudios sobre la falta de confiabilidad del software, especialmente en lo que se refiere a personas de color".

Dan Korobkin, director legal de la ACLU de Michigan, calificó la tecnología de peligrosa en un comunicado el viernes. Instó a la policía y los fiscales de todo el país a revisar los casos relacionados con el uso de la tecnología y notificar a todas las personas acusadas como resultado de ello.

Los estudios han demostrado que la tecnología, que se basa en algoritmos informáticos, a veces tiene problemas para distinguir rostros humanos, especialmente con personas de color.

Oliver y Williams son ambos negros.

El miércoles, los demócratas negros en la Cámara de Representantes de Michigan pidieron la prohibición de la tecnología.

El jefe de policía de Detroit, James Craig, que es negro, ha dicho que cree firmemente en el software de reconocimiento facial. El verano pasado, dijo que la policía había usado la tecnología unas 500 veces y luego pasó a la siguiente fase de investigación solo el 30% de las veces.

Craig ha culpado al trabajo de investigación deficiente por lo que le sucedió a Williams.

La comisión de policía de Detroit discutió el caso de Williams durante una reunión el jueves por la tarde. La policía hizo una presentación y Craig dijo que la situación no debería haber ocurrido.

Williams también habló y alentó a prohibir la tecnología, calificándola de racista.

El mes pasado, el miembro de la junta Evette Griffie buscó respuestas de la policía sobre el caso de Williams, incluida una cronología de los eventos y cualquier disciplina resultante de la identificación errónea.

“Un error es demasiado”, dijo en ese momento.

Griffie le dijo a Free Press que quería saber más sobre lo que sucedió.

"¿Tenemos los controles y equilibrios adecuados para asegurarnos de que lo que se supone que debe suceder realmente esté sucediendo?" ella dijo.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd