Incidentes Asociados
En enero de 2022, Harvey Murphy fue arrestado y encarcelado mientras intentaba renovar su licencia de conducir en un DMV local. Según una demanda de 10 millones de dólares que Murphy presentó desde entonces, un agente de “prevención de pérdidas” que trabajaba para una tienda minorista Sunglass Hut utilizó un software de reconocimiento facial para acusar a Murphy de perpetrar un robo a mano armada en una tienda en Houston, Texas. En realidad, Murphy estaba a más de 2000 millas de distancia en el momento del robo.
Según una demanda que Murphy, de 61 años, presentó contra Macy's y Sunglass Hut, “fue arrestado y encerrado en una cárcel de máxima seguridad superpoblada con criminales violentos. Mientras estaba en la cárcel tratando de demostrar su inocencia, lo golpearon, lo violaron en grupo y lo dejaron con heridas permanentes y terribles para toda la vida. Horas después de haber sido golpeado y violado en grupo, se retiraron los cargos en su contra y fue puesto en libertad”.
“Todo esto porque una empresa le dijo a la policía, basándose en inteligencia artificial, que usted era quien cometía crímenes terribles”, dice la demanda.
El robo a mano armada ocurrió el 22 de enero de 2022 en Houston, Texas. Dos hombres armados entraron en un Sunglass Hut, amenazaron a dos empleados con armas de fuego y se llevaron dinero en efectivo y gafas de sol. EssilorLuxottica es la empresa matriz propietaria de Sunglass Hut y, como muchas grandes corporaciones minoristas, a menudo emplean personas llamadas agentes de “prevención de pérdidas” que ayudan en las investigaciones criminales. Según la demanda, un agente de prevención de pérdidas de EssilorLuxottica llamado Anthony Pfleger se acercó a la policía después del robo y afirmó que sabía quién había cometido el crimen.
"Pfleger le dijo al HPD que podían detener su investigación porque encontró a su hombre", afirma la demanda. “Dijo que trabajó en conjunto con la prevención de pérdidas de Macy’s para determinar que la persona que robó violentamente el Sunglass Hut era Harvey Eugene Murphy Jr. (“Murphy”). Utilizando inteligencia artificial y software de reconocimiento facial, EssilorLuxottica y Macy's tomaron el video del robo y determinaron que Murphy era el ladrón".
También habían robado un Macy's de Houston y Pfleger trabajó con sus agentes de prevención de pérdidas para identificar a los culpables. Las cámaras en las tiendas minoristas son tan omnipresentes en Estados Unidos que a menudo ya no pensamos en ellas. Estos sistemas de cámaras observan a las personas mientras compran y, ocasionalmente, proporcionan pruebas de delitos a las autoridades. Muchos de ellos producen imágenes y vídeos de mala calidad que dificultan la identificación de las personas.
Durante los últimos diez años, las tiendas minoristas comenzaron a conectar estas cámaras a sistemas de software de reconocimiento facial. La idea es que una computadora pueda identificar automáticamente a delincuentes conocidos cuando ingresan a un establecimiento minorista y alertar a las autoridades o a los agentes de prevención de pérdidas para que rastreen los movimientos de la persona.
Pero la tecnología de reconocimiento facial es notoriamente poco confiable. Sesgos demasiado humanos están arraigados en los sistemas y, a menudo, hacen un trabajo terrible a la hora de identificar a las personas. Ha habido muchos casos de arrestos falsos basado en una mala tecnología de reconocimiento facial, que a menudo involucra a personas negras.
Nada de esto impidió que EssilorLuxottica presionara a la policía de Houston para que arrestara a Murphy. Según la demanda, Pfleger preparó a uno de los empleados de Sunglass Hut para identificar positivamente a Murphy en una serie de fotografías después de haber llamado a la policía.
Murphy era un blanco fácil para Sunglass Hut. Tiene pasado criminal y estuvo en el sistema. Ahora es un abuelo que, según la demanda, ha cambiado su vida. Según la demanda, antiguas fotografías policiales de la década de 1980 estaban disponibles públicamente y formaban parte de las bases de datos de reconocimiento facial escaneadas por los sistemas de EssilorLuxottica.
En el momento del robo, Murphy estaba en Sacramento, California. No se enteró del robo, ni de que lo habían culpado, hasta que fue al DMV a renovar su licencia de conducir. Fue arrestado y retenido sin derecho a fianza. A pesar de enviar a su abogado designado por el tribunal las pruebas que lo exoneraron, pasó horas en la cárcel.
“Unas horas antes de que Murphy saliera de la cárcel, tres delincuentes violentos lo siguieron al baño”, dice la demanda. “Lo golpearon, lo arrojaron al suelo y lo violaron brutalmente en grupo. Luego de este violento ataque, uno de los delincuentes le puso un mango en el cuello y le dijo que si denunciaba la violación a alguien, lo asesinarían. Murphy se arrastró hasta su litera y se puso de cara a la pared, rezando para que estos hombres no volvieran a atacarlo”.
Fue liberado más tarde, pero el daño ya estaba hecho. "Todo esto le sucedió a Murphy porque los demandados confiaron en una tecnología de reconocimiento facial que se sabe que es propensa a errores y defectuosa", dice la demanda.
Os Keyes, becario de Ada Lovelace y candidato a doctorado en la Universidad de Washington, calificó el caso de “trágico y nada sorprendente”.
“Éste es precisamente el tipo de situación sobre la que venimos advirtiendo desde hace años; que estos sistemas, cualquiera que sea su confiabilidad teórica, son en la práctica tan delicados y tan importantes que [no pueden arreglarse] (https://shows.acast.com/cyber/episodes/the-trans-dataset-built- without -permiso-y-almacenamiento-impropio)”, dijo Keyes a Placa base. “Lo único que rechazaría es la afirmación del abogado de Murphy de que esto le podría pasar a cualquiera; Estos sistemas son atractivos precisamente porque prometen automatizar y acelerar el “negocio como de costumbre”, lo que incluye blanquear los prejuicios policiales existentes contra las personas que ya están en el sistema, los grupos minoritarios y cualquier otra persona que no encaje. Este resultado es tan inevitable como horroroso, y debe tomarse como una señal para restringir y reconfigurar la actuación policial en general, así como la FRT en particular”.
Macy's, contactada por correo electrónico para hacer comentarios, le dijo a placa base que no hizo comentarios sobre litigios pendientes. EssilorLuxottica no respondió.