Incidentes Asociados
Un hombre de Michigan demandó a la policía de Detroit después de que el software de reconocimiento facial del departamento lo arrestó injustamente e identificó falsamente como sospechoso de hurto en una tienda en una de las primeras demandas de este tipo que cuestiona el riesgo de la controvertida tecnología de llevar a personas inocentes a la cárcel.
Robert Williams, un padre de 43 años de Farmington Hills, un suburbio de Detroit, fue arrestado el año pasado por cargos de haber tomado relojes de una tienda Shinola después de que los investigadores de la policía usaron una búsqueda de reconocimiento facial de las imágenes de la cámara de vigilancia de la tienda que identificaron él como el ladrón.
Los fiscales abandonaron el caso menos de dos semanas después, argumentando que los agentes se habían basado en pruebas insuficientes. El jefe de policía James Craig se disculpó más tarde por lo que calificó de trabajo de investigación "de mala calidad". Williams, quien dijo que conducía a casa desde el trabajo cuando ocurrió el robo de 2018, fue interrogado por detectives y detenido durante 30 horas antes de su liberación.
El caso de Williams provocó una protesta pública sobre el uso policial de rápido crecimiento de una tecnología que, según ha demostrado la investigación, a menudo identifica erróneamente a las personas de color. Su demanda es al menos la tercera en los Estados Unidos presentada por hombres negros para generar dudas sobre la precisión del software.
El caso podría aumentar los desafíos legales para una tecnología que en gran medida no está regulada en el país, incluso cuando se ha convertido en una herramienta de investigación prolífica utilizada por las fuerzas policiales y los investigadores federales. Si bien el software ha sido prohibido por más de una docena de ciudades en todo el país, se ha citado en un número creciente de casos penales, incluida la histórica investigación de los manifestantes en el Capitolio de los EE. UU. el 6 de enero.
Los abogados de Williams no lo pusieron a disposición para hacer comentarios el martes. Pero Williams escribió en The Washington Post el año pasado que el episodio lo había dejado profundamente conmocionado, en parte porque sus hijas pequeñas habían visto cómo lo esposaban en la entrada de su casa y lo metían en un auto de la policía después de regresar a casa del trabajo.
“¿Cómo explicarle a dos niñas pequeñas que una computadora se equivocó, pero la policía la escuchó de todos modos?” el escribio. “Como cualquier otro hombre negro, tenía que considerar lo que podría pasar si hacía demasiadas preguntas o mostraba mi enojo abiertamente, aunque sabía que no había hecho nada malo”.
sargento Nicole Kirkwood, vocera de la policía de Detroit, dijo que el departamento no comenta sobre litigios pendientes. Pero señaló los comentarios de Craig el año pasado en los que el jefe de policía dijo que las fallas del caso “no tenían nada que ver con la tecnología, pero ciertamente tenían mucho que ver con un trabajo de investigación deficiente”.
“Este fue claramente un trabajo de investigación descuidado y descuidado. No tengo otra forma de decirlo que no sea esa”, dijo Craig en una reunión de la Junta de Comisionados de Policía de Detroit en junio pasado que se cita en la demanda. "Si confía únicamente en la tecnología de reconocimiento facial, existe una alta probabilidad de que se identifique erróneamente".
Kirkwood le dijo a The Post en un comunicado el año pasado que el departamento no realiza arrestos basados únicamente en una búsqueda de reconocimiento facial y que, en el caso de Williams, los investigadores revisaron videos, entrevistaron a testigos, realizaron una fila de fotos y presentaron evidencia a los fiscales, quienes recomendaron cargos contra Williams por fraude minorista en primer grado.
Los fiscales del condado de Wayne dijeron más tarde que el resultado del reconocimiento facial no era evidencia suficiente para presentar cargos y que el oficial de seguridad de la tienda que mostró la fila de fotos no había estado en la tienda durante el crimen.
“Este caso no debería haberse emitido en base a la investigación del DPD, y por eso nos disculpamos”, dijo el fiscal Kym L. Worthy en un comunicado. “Afortunadamente, fue desestimado por iniciativa propia de nuestra oficina. Esto de ninguna manera compensa las horas que el Sr. Williams pasó en la cárcel”.
La identificación de Williams como el ladrón ocurrió después de que los detectives de Detroit enviaran una imagen borrosa y con poca luz de una cámara de vigilancia a la Policía del Estado de Michigan, que realizó una búsqueda de reconocimiento facial que apuntó a la foto de la licencia de conducir anterior de Williams como una posible coincidencia.
Pero el “informe principal de la investigación” de la policía estatal también decía, en mayúsculas, que el documento no era una identificación positiva o causa probable suficiente para un arresto. No obstante, el detective presentó la foto a los fiscales como evidencia para respaldar una orden de arresto.
La demanda civil argumenta que los derechos de Williams fueron violados bajo la Cuarta Enmienda, que prohíbe los registros policiales “irrazonables”, así como una ley estatal de derechos civiles que prohíbe la discriminación racial. La demanda busca una cantidad no especificada por daños y perjuicios, así como cambios en la política del Departamento de Policía de Detroit, que continúa usando el software.
Williams está siendo representado por abogados estudiantes de la Iniciativa de Litigio de Derechos Civiles de la Facultad de Derecho de la Universidad de Michigan, así como por abogados de la Unión Estadounidense de Libertades Civiles y la filial de Michigan del grupo de defensa.
Uno de los abogados estudiantiles, Jeremy Shur, dijo el martes que las hijas de Williams, de 3 y 7 años, quedaron “traumatizadas” por el incidente. “Cuando ven a la policía, se preguntan si se llevarán a papá”, dijo Shur.
La precisión del software depende en gran medida de la calidad de la imagen: las fotos borrosas, granulosas u oscuras a menudo generan malos resultados. Pero incluso los algoritmos utilizados en una búsqueda de reconocimiento facial pueden ofrecer una amplia gama de efectividad: varios de los probados en un estudio federal de 2019 tenían hasta 100 veces más probabilidades de identificar erróneamente el rostro de una persona negra o asiática, en comparación con una persona blanca. .
La demanda de Williams es la segunda que acusa a la policía de Detroit de hacer una coincidencia de reconocimiento facial falso: en septiembre, un hombre de 26 años llamado Michael Oliver demandó al departamento, diciendo que su arresto falso por un cargo de hurto en 2019 lo llevó a perder su trabajo y gastar tres días en la cárcel.
El mismo detective, Donald Bussa, investigó tanto a Oliver como a Williams y se menciona en ambas demandas. Craig criticó el uso de Bussa de una foto “borrosa” y dijo que el departamento ha trabajado para cambiar las políticas de reconocimiento facial que llevaron al arresto.
En una tercera demanda, presentada en enero, un hombre llamado Nijer Parks demandó a la policía y los fiscales de Nueva Jersey, diciendo que estuvo en la cárcel durante 10 días después de haber sido acusado falsamente de robar en una tienda de regalos de un hotel en 2019. Los tres casos están en curso. .
Los defensores de la tecnología dijeron que debería usarse únicamente para generar pistas para la policía, no como la única prueba, y que los oficiales no deberían confiar demasiado en sus resultados ni aplicarla a todos los delitos de bajo nivel. Desde entonces, la política del departamento de Detroit ha cambiado para permitir el uso de software de reconocimiento facial solo en casos de delitos violentos.
Pero los críticos argumentan que los oficiales que confían demasiado en los hallazgos de los sistemas, o que alteran las imágenes de búsqueda con la esperanza de lograr mejores resultados, como los investigadores han encontrado evidencia en algunos departamentos de policía, podrían terminar colocando la carga de la prueba en inocentes. personas a las que no se les puede decir qué técnicas de investigación se utilizaron como base para su arresto.
Tanto la policía estatal de Detroit como la de Michigan tienen un contrato con una empresa con sede en Carolina del Sur, DataWorks Plus, que fabrica software de reconocimiento facial. La compañía no respondió de inmediato a las solicitudes de comentarios.
El departamento de Detroit también se encuentra entre los cientos de agencias de policía que han utilizado Clearview AI, una herramienta de reconocimiento facial que busca en una gran base de datos de fotos tomadas en Internet, según un informe de BuzzFeed News a principios de este mes basado en datos de una fuente confidencial. . Ni la policía de Detroit ni Clearview han confirmado el informe, y no parece que Clearview se haya utilizado en el caso de Williams.
Clare Garvie, asociada sénior del Centro de Privacidad y Tecnología de Georgetown Law que ha estudiado el software de reconocimiento facial y no está involucrada en la demanda, dijo que las demandas han ayudado a arrojar luz sobre fallas tecnológicas y de investigación que de otro modo no se verían.
Pero expresó su preocupación de que los procedimientos judiciales lentos y un enfoque irregular de la regulación podrían conducir a más casos de identificación errónea de reconocimiento facial antes de que se pueda abordar el daño existente.
A Garvie también le preocupaba que los casos trasladaran los costos de las fallas policiales a las personas que habían sido identificadas falsamente, y al público en general, quienes viven con miedo a los arrestos falsos y terminan pagando para defender o resolver los casos en los tribunales.
“Existe la carga de alguien después del hecho, que ya ha sido herido por una identificación errónea, para informar al público de lo que les sucedió”, dijo. Entonces “el contribuyente carga con la carga del error”.