Incidentes Asociados
Actualizado a las 21:05 ET miércoles
La policía de Detroit estaba tratando de averiguar quién robó cinco relojes de una tienda minorista de Shinola. Las autoridades dicen que el ladrón se fue con un valor estimado de $ 3,800 en mercancía.
Los investigadores sacaron un video de seguridad que había registrado el incidente. Los detectives hicieron zoom en las imágenes granuladas y corrieron a la persona que parecía ser el sospechoso a través de un software de reconocimiento facial.
Regresó un golpe: Robert Julian-Borchak Williams, de 42 años, de Farmington Hills, Michigan, a unas 25 millas al noroeste de Detroit.
En enero, la policía se detuvo en la casa de Williams y lo arrestó mientras estaba parado en el jardín delantero frente a su esposa y sus dos hijas, de 2 y 5 años, quienes lloraban mientras veían a su padre mientras subían a la patrulla.
Su esposa, Melissa Williams, quería saber a dónde llevaba la policía a su esposo.
"'Googlealo'", recuerda que le dijo un oficial.
Robert Williams fue conducido a una sala de interrogatorios y la policía puso tres fotos frente a él: dos fotos tomadas por la cámara de vigilancia en la tienda y una foto de la licencia de conducir emitida por el estado de Williams.
"Cuando miro la foto del tipo, solo veo a un gran hombre negro. No veo ningún parecido. No creo que se parezca a mí en absoluto", dijo Williams en una entrevista con NPR.
"[El detective] voltea la tercera página y dice: 'Así que supongo que la computadora también se equivocó'. Y dije: 'Bueno, ese soy yo', señalando una foto de mi licencia de conducir anterior", dijo Williams sobre el interrogatorio con los detectives. "'Pero ese tipo no soy yo'", dijo, refiriéndose a las otras fotografías.
"Lo recogí, lo acerqué a mi cara y le dije: 'Espero que no creas que todos los negros se parecen'", dijo Williams.
Williams estuvo detenido durante 30 horas y luego fue puesto en libertad bajo fianza hasta una audiencia judicial sobre el caso, dicen sus abogados.
En la audiencia, un fiscal del condado de Wayne anunció que se retirarían los cargos contra Williams por falta de pruebas.
Los expertos en derechos civiles dicen que Williams es el primer ejemplo documentado en los EE. UU. de alguien arrestado injustamente en base a un golpe falso producido por la tecnología de reconocimiento facial.
Abogado: La inteligencia artificial 'enmarcó e informó todo'
Lo que hace que el caso de Williams sea extraordinario es que la policía admitió que la tecnología de reconocimiento facial, realizada por la Policía Estatal de Michigan en un laboratorio criminalístico a pedido del Departamento de Policía de Detroit, provocó el arresto, según los documentos de acusación revisados por NPR.
La búsqueda de Williams como posible sospechoso se produjo a pesar de las repetidas afirmaciones de él y sus abogados de que la coincidencia generada por la inteligencia artificial fue defectuosa.
El presunto sospechoso en la imagen de la cámara de seguridad llevaba una gorra roja de los St. Louis Cardinals. Williams, nativo de Detroit, dijo que bajo ninguna circunstancia usaría ese sombrero.
"Ni siquiera le hicieron preguntas antes de arrestarlo. Nunca le preguntaron si tenía una coartada. Nunca le preguntaron si tenía una gorra roja de los Cardinals. Nunca le preguntaron dónde estaba ese día", dijo el abogado Phil Mayor con el ACLU de Míchigan.
El miércoles, la ACLU de Michigan presentó una denuncia contra el Departamento de Policía de Detroit solicitando que la policía deje de usar el software en las investigaciones.
En un comunicado a NPR, el Departamento de Policía de Detroit dijo que después del caso de Williams, el departamento promulgó nuevas reglas. Ahora, solo las fotos fijas, no las imágenes de seguridad, se pueden usar para el reconocimiento facial. Y ahora se usa solo en el caso de delitos violentos.
"El software de reconocimiento facial es una herramienta de investigación que se usa solo para generar pistas. Se requiere trabajo de investigación adicional, evidencia que corrobore y causa probable antes de que se pueda realizar un arresto", dijo el sargento del Departamento de Policía de Detroit. Nicole Kirkwood dijo en un comunicado.
En el caso de Williams, la policía le había pedido al guardia de seguridad de la tienda, que no había presenciado el robo, que eligiera al sospechoso de una serie de fotografías basadas en las imágenes, y el guardia de seguridad seleccionó a Williams.
Victoria Burton-Harris, abogada de Williams, dijo en una entrevista que se muestra escéptica de que los investigadores usaran el software de reconocimiento facial como solo una de varias pistas posibles.
“Cuando esa tecnología sacó el rostro de mi cliente, a partir de ahí, enmarcó e informó todo lo que los oficiales hicieron posteriormente”, dijo Burton-Harris.
Académico y [gobierno](https://www.nist.gov /news-events/news/2019/12/nist-study-evaluates-effects-race-age-sex-face-recognition-software) los estudios han demostrado que los sistemas de reconocimiento facial identifican erróneamente a las personas de color con más frecuencia que a las personas blancas.
Uno de los [estudios líderes] (http://gendershades.org/) sobre el sesgo en el reconocimiento facial fue realizado por Joy Buolamwini, investigadora del MIT y fundadora de Algorithmic Justice League.
"Esta discrepancia atroz muestra solo uno de los peligros de la tecnología de reconocimiento facial que ya se ha demostrado en un estudio tras otro que falla a las personas de color, las personas con piel oscura más que las contrapartes blancas en general", dijo Buolamwini.
"Las amenazas a las libertades civiles que plantea la vigilancia masiva tienen un precio demasiado alto", dijo. “No se puede borrar la experiencia de 30 horas detenido, los recuerdos de niños viendo a su padre detenido, o el estigma de ser tachado de delincuente”.
Maria Miller, una vocera de la oficina del fiscal, dijo que el caso fue desestimado por falta de pruebas, incluido que los cargos se presentaron sin el apoyo de ningún testigo vivo.
La fiscal del condado de Wayne, Kym Worthy, dijo que cualquier caso enviado a su oficina que use tecnología de reconocimiento facial no puede avanzar sin otra evidencia de respaldo.
“Este caso no debería haberse emitido en base a la investigación del DPD, y por eso nos disculpamos”, dijo Worthy en un comunicado a NPR. "Afortunadamente, fue desestimado por iniciativa propia de nuestra oficina. Esto de ninguna manera compensa las horas que el Sr. Williams pasó en la cárcel".
Worthy dijo que Williams puede eliminar el caso de su registro.
Williams: "Digamos que este caso no fue un fraude minorista. ¿Qué pasa si es una violación o un asesinato?"
Según el Centro de Privacidad y Tecnología de Georgetown Law, [al menos una cuarta parte] (https://www.perpetuallineup.org/findings/deployment) de las agencias de aplicación de la ley del país tienen acceso a herramientas de reconocimiento facial.
"La mayoría de las veces, a las personas que son arrestadas usando el reconocimiento facial no se les dice que se usó el reconocimiento facial para arrestarlos", dijo Jameson Spivack, investigador del centro.
Mientras que Amazon, Microsoft e IBM han anunciado un cese para ventas de tecnología de reconocimiento facial a las fuerzas del orden público, Spivack dijo que eso tendrá poco efecto, ya que la mayoría de los principales contratos de software de reconocimiento facial con la policía son con empresas más pequeñas y más especializadas, como DataWorks Plus, con sede en Carolina del Sur, que es la empresa que suministró el Detroit Departamento de Policía con su software de escaneo facial.
La empresa no respondió a una solicitud de entrevista.
DataWorks Plus ha suministrado la tecnología a agencias gubernamentales en Santa Bárbara, California, Chicago y Filadelfia.
Los consumidores utilizan la tecnología de reconocimiento facial todos los días para [desbloquear sus teléfonos inteligentes](https://www.npr.org/sections/alltechconsidered/2017/09/18/551897336/iphone-xs-face-id-inspires-privacy- preocupaciones-pero-la-conveniencia-puede-triunfar-ellos) o para [etiquetar amigos](https://www.npr.org/sections/alltechconsidered/2013/10/28/228181778/a-look-into-facebooks-potential -para-reconocer-la-cara-de-cualquiera) en las redes sociales. Algunos aeropuertos utilizan la tecnología para escanear a los pasajeros antes de abordar los vuelos.
Sin embargo, su implementación por parte de los gobiernos ha despertado la preocupación de los defensores de la privacidad y los expertos que estudian la herramienta de aprendizaje automático y han resaltado sus fallas.
"Algunos departamentos de vehículos motorizados usarán el reconocimiento facial para detectar fraudes en las licencias, robo de identidad, pero el uso más común es la aplicación de la ley, ya sea estatal, local o federal", dijo Spivack.
El uso gubernamental de la tecnología de reconocimiento facial ha sido prohibido en media docena de ciudades.
En Michigan, Williams dijo que espera que su caso sea una llamada de atención para los legisladores.
"Digamos que este caso no fue un fraude minorista. ¿Qué pasa si se trata de una violación o un asesinato? ¿Habría salido de la cárcel con una fianza personal o habría regresado a casa alguna vez?". Williams dijo.
Williams y su esposa, Melissa, están preocupados por los efectos a largo plazo que tendrá el arresto en sus dos hijas pequeñas.
"Ver que arrestaron a su padre fue su primera interacción con la policía. Así que definitivamente va a moldear la forma en que perciben a la policía", dijo Melissa Williams.
En su denuncia, Williams y sus abogados dicen que si el departamento de policía no prohíbe la tecnología por completo, al menos su foto debería eliminarse de la base de datos, para que esto no vuelva a suceder.
"Si alguien quiere sacar mi nombre y buscarme", dijo Williams, "¿quién quiere ser visto como un ladrón?"