Incidentes Asociados
La policía de Detroit arrestó injustamente a otro hombre negro basándose en una tecnología de reconocimiento facial defectuosa que a menudo produce errores al identificar a las personas de color, según una nueva demanda [obtenida por Motherboard] (https://www.documentcloud.org/documents/7202332-Draft- de-Michael-Oliver-Complaint-changes932020-1.html).
Michael Oliver, de 26 años, fue arrestado por un hurto que no cometió después de que el software condujo al Departamento de Policía de Detroit (DPD) hasta él en julio de 2019, según la demanda, presentada el viernes en el Tribunal de Circuito del Condado de Wayne. Los abogados de Oliver proporcionaron a Motherboard documentos judiciales para el caso, que fue informado por primera vez por [Detroit Free Press] (https://www.freep.com/story/news/local/michigan/detroit/2020/07/10/facial -recognition-detroit-michael-oliver-robert-williams/5392166002/) y es el segundo de su tipo en Detroit reportado este año.
“[La policía se basó] en una tecnología de reconocimiento facial fallida sabiendo que la ciencia del reconocimiento facial tiene una tasa de error sustancial entre las personas de etnia negra y morena, lo que conduciría al arresto y encarcelamiento injustificados de personas en ese grupo demográfico étnico”, afirma la demanda. . El caso se produce después de que el mismo departamento de policía fuera expuesto por el New York Times en junio por arrestar injustamente a Robert Williams, de 42 años, después de usar el sistema algorítmico.
Oliver, cuya historia se hace eco de la dramática experiencia de Williams, está demandando a la ciudad de Detroit y al detective blanco que supuestamente arruinó el caso por al menos $12 millones. Afirma que el algoritmo junto con el trabajo policial "extremadamente negligente" lo llevó a casi tres días de prisión y, en última instancia, secuestró su vida.
“Estuvo mal”, dijo Oliver a Motherboard. “Perdí mi trabajo y mi auto; toda mi vida tuvo que ser puesta en espera… Esa tecnología no debería ser utilizada por la policía”.
Oliver, que tiene una cara de forma ovalada y un tatuaje sobre la ceja izquierda, solo se parece vagamente al sospechoso real, que no tiene tatuajes visibles, una cara más redonda y una piel más oscura, según evidencia fotográfica.
“Francamente, el detective lo echó a perder”, dijo el abogado de Oliver, David Robinson. "Ciertamente estaba en posesión de una fotografía del verdadero ladrón, pero por alguna razón no pudo distinguir la diferencia entre ellos".
El caso genera alarmas sobre la tecnología de reconocimiento facial, ampliamente criticada como una de las formas más preocupantes de vigilancia policial, después de que la policía de EE. UU. la usara para identificar y arrestar a los manifestantes de Black Lives Matter a principios de este verano. El Departamento de Policía de Nueva York, por ejemplo, usó un sistema de reconocimiento facial el mes pasado para rastrear al activista de 28 años [Derrick Ingram] (https://www.vice.com/en_us/article/jgxkm4/black-lives- matter-activist-nypd-drones-instagram-live), quien fue acusado de agresión luego de supuestamente gritarle al oído a un oficial de policía con un megáfono.
El caso de identidad equivocada de Oliver comenzó el 15 de mayo de 2019 cuando un maestro que conducía junto a un grupo de estudiantes que peleaban usó un teléfono celular para grabar la pelea cerca de una escuela en Detroit, según la orden de arresto de Oliver.
Un joven negro involucrado en la pelea vio al maestro, Stephen Cassini, filmando y metió la mano en su automóvil, agarró su teléfono celular y lo rompió, según la orden judicial. Cassini capturó un video del incidente en su teléfono antes de que lo robaran y entregó las imágenes al DPD, según la demanda.
A pesar de que el departamento “no tenía una política escrita” que permitiera a los policías usar la tecnología de reconocimiento facial, el detective Donald Bussa le pidió a un teniente que pasara una imagen del sospechoso a través de una base de datos de fotos en busca de una coincidencia, según la demanda. El algoritmo envió una foto de Oliver y "Bussa asumió que [él] era la persona que le arrebató el teléfono a Cassini", afirma.
Después de ejecutar el software, desarrollado por [la firma DataWorks Plus](https://www.vice.com/en_us/article/dyzykz/detroit-police-chief-facial-recognition-software-misidentifies-96-of-the- tiempo), Bussa le mostró a Cassini una lista de fotografías de los sospechosos y el maestro supuestamente identificó a Oliver. Luego, el detective obtuvo una orden de arresto “sin más investigación”, dice la demanda.
Oliver conducía al trabajo el 31 de julio de 2019 cuando fue detenido, “esposado y llevado a la cárcel”, según los documentos judiciales. Su automóvil fue incautado y se vio obligado a esperar ansiosamente tras las rejas durante dos días y medio, con poca información sobre lo que supuestamente había hecho.
“Estaba nervioso porque sé que la gente va a la cárcel por cosas que no hicieron”, dijo Oliver. “No hubo forma de explicarle a la policía que no fui yo. No estaban tratando de entender eso”.
En la cárcel, dormía en un piso de cemento y comía sándwiches de mortadela, la única opción, para el desayuno, el almuerzo y la cena, dijo. Mientras estuvo tras las rejas, “Bussa nunca intentó tomar declaración a [Oliver] ni hizo nada para ofrecerle a [él] la oportunidad de demostrar su inocencia”, según la demanda.
Pero pronto hubo señales de que la policía había arrestado al tipo equivocado. A diferencia del ladrón real, Oliver tenía tatuajes descoloridos en las mangas de ambos brazos. Esa cantidad de tinta, junto con las imágenes de su rostro, debería haber sido un claro indicio, dijo el abogado defensor penal de Oliver, Patrick Nyenhuis.
"Me dijo: 'No fui yo'. Miré las fotos y dije: "Sí, obviamente no eres tú", le dijo Nyenhuis a Motherboard.
Aun así, durante la primera cita de Oliver en la corte en agosto de 2019, los agentes del orden se negaron a dar marcha atrás. “El fiscal no estaba convencido. Él dijo: ‘Podría haberse hecho tatuajes después del crimen'”, dijo Nyenhuis. “No sé cómo lo estropearon tanto”.
A mediados de septiembre, la oficina del fiscal del condado de Wayne retiró los cargos de hurto, pero Oliver dice que todavía se tambalea. Al final, sufrió “vergüenza, indignación, indignación, vergüenza, miedo, ansiedad y pérdida de reputación” junto con “pérdidas económicas”, según la demanda.
Robinson ahora sospecha que la tecnología de reconocimiento facial de Detroit se ha dirigido erróneamente a muchas otras personas de color, y que pronto surgirán más casos. “No es integral para diferentes culturas y colores”, dijo sobre el software. “Los diseñadores del algoritmo son personas blancas, por lo que es limitado; funciona para la raza mayoritaria”.
En el caso de Robert Julian-Borchak Willams, la Oficina del Fiscal del Condado de Wayne se disculpó después de que el New York Times publicara la historia. El jefe de policía de Detroit, James Craig, admitió más tarde que la tecnología identificó erróneamente a los sospechosos en el 96 por ciento de los casos.
Oliver, por su parte, no se conforma con un mea culpa.
“Quiere más que una disculpa. Quiere justicia, y quiere corregir este error”, dijo Robinson.