Incidents associés
En janvier 2022, Harvey Murphy a été arrêté et jeté en prison alors qu'il tentait de faire renouveler son permis de conduire dans un DMV local. Selon une poursuite de 10 millions de dollars déposée par Murphy depuis, un agent de « prévention des pertes » travaillant pour un magasin de détail Sunglass Hut a utilisé un logiciel de reconnaissance faciale pour accuser Murphy d'avoir perpétré un vol à main armée dans un magasin à Houston, au Texas. En réalité, Murphy se trouvait à plus de 2 000 milles au moment du vol.
Selon un procès que Murphy, 61 ans, a intenté contre Macy's et Sunglass Hut, « il a été arrêté et incarcéré dans une prison surpeuplée à sécurité maximale avec des criminels violents. Alors qu'il était en prison pour tenter de prouver son innocence, il a été battu, violé collectivement et laissé avec des blessures permanentes et horribles à vie. Quelques heures après avoir été battu et violé collectivement, les charges retenues contre lui ont été abandonnées et il a été libéré.
"Tout cela parce qu'une entreprise a déclaré à la police, sur la base de l'intelligence artificielle, que c'était vous qui aviez commis des crimes terribles", indique le procès.
Le vol à main armée a eu lieu le 22 janvier 2022 à Houston, au Texas. Deux hommes armés sont entrés dans un Sunglass Hut, ont menacé deux employés avec des armes à feu et sont repartis avec de l'argent et des lunettes de soleil. EssilorLuxottica est la société mère propriétaire de Sunglass Hut et, comme de nombreuses grandes entreprises de vente au détail, elle emploie souvent des personnes appelées agents de « prévention des pertes » qui participent aux enquêtes criminelles. Selon le procès, un agent de prévention des sinistres d'EssilorLuxottica, Anthony Pfleger, a contacté la police après le vol et a affirmé qu'il savait qui avait commis le crime.
"Pfleger a dit au HPD qu'ils pouvaient arrêter leur enquête parce qu'il avait trouvé leur homme", indique le procès. « Il a déclaré qu'il avait travaillé en collaboration avec le service de prévention des pertes de Macy pour déterminer que la personne qui avait violemment volé le Sunglass Hut était Harvey Eugene Murphy Jr. (« Murphy »). Grâce à l’intelligence artificielle et à un logiciel de reconnaissance faciale, EssilorLuxottica et Macy’s ont pris la vidéo du vol et ont déterminé que Murphy était le voleur. »
Un Macy's de Houston avait également été cambriolé et Pfleger a travaillé avec ses agents de prévention des pertes pour identifier les coupables. Les caméras dans les magasins de détail sont si omniprésentes en Amérique que nous n’y pensons souvent plus. Ces systèmes de caméras surveillent les gens pendant qu'ils font leurs achats et, occasionnellement, fournissent des preuves de délits aux forces de l'ordre. Beaucoup d’entre eux produisent des images et des vidéos de mauvaise qualité qui rendent difficile l’identification des personnes.
Au cours des dix dernières années, les magasins de détail ont commencé à connecter ces caméras à des systèmes logiciels de reconnaissance faciale. L’idée est qu’un ordinateur pourrait identifier automatiquement les criminels connus lorsqu’ils entrent dans un magasin et alerter les forces de l’ordre ou les agents de prévention des pertes pour suivre les mouvements de la personne.
Mais la technologie de reconnaissance faciale est notoirement peu fiable. Des préjugés bien trop humains sont ancrés dans les systèmes, et ils font souvent un travail épouvantable en matière d’identification des personnes. Il y a eu de nombreux cas de fausses arrestations basé sur une mauvaise technologie de reconnaissance faciale, impliquant souvent des Noirs.
Rien de tout cela n’a empêché EssilorLuxottica de pousser la police de Houston à arrêter Murphy. Selon le procès, Pfleger a préparé l'un des employés du Sunglass Hut à identifier positivement Murphy dans une séance de photos après avoir appelé les flics.
Murphy était une cible facile pour Sunglass Hut. Il a un passé criminel et était dans le système. Aujourd’hui, c’est un grand-père qui, selon le procès, a changé sa vie. Selon le procès, d'anciennes photos des années 1980 étaient accessibles au public et faisaient partie des bases de données de reconnaissance faciale numérisées par les systèmes d'EssilorLuxottica.
Au moment du vol, Murphy se trouvait à Sacramento, en Californie. Il n’a pas eu connaissance du vol, ni du fait qu’il en avait été blâmé, jusqu’à ce qu’il se rende au DMV pour renouveler son permis de conduire. Il a été arrêté et détenu sans caution. Bien qu’il ait envoyé à son avocat commis d’office les preuves qui l’ont disculpé, il a quand même passé des heures en prison.
"Quelques heures avant que Murphy ne soit libéré de prison, il a été suivi dans les toilettes par trois criminels violents", indique le procès. « Il a été battu, plaqué au sol et brutalement violé collectivement. Après cette violente attaque, l'un des criminels lui a tenu une tige contre le cou et lui a dit que s'il signalait le viol à quelqu'un, il serait assassiné. Murphy a rampé jusqu'à sa couchette et a fait face au mur en priant pour que ces hommes ne l'attaquent plus.
Il a été relâché plus tard, mais le mal était fait. "Tout cela est arrivé à Murphy parce que les accusés se sont appuyés sur une technologie de reconnaissance faciale qui est connue pour être sujette aux erreurs et défectueuse", indique le procès.
Os Keyes, boursier Ada Lovelace et doctorant à l’Université de Washington, a qualifié l’affaire de « tragique et totalement sans surprise ».
« C'est précisément le genre de situation contre laquelle nous mettions en garde depuis des années ; que ces systèmes, quelle que soit leur fiabilité théorique, sont en pratique si capricieux et si conséquents qu'ils ne peuvent pas être réparés (https://shows.acast.com/cyber/episodes/the-trans-dataset-built-without -permission-and-store-imprope) », a déclaré Keyes à Carte mère. « La seule chose que je repousserais, c'est l'affirmation de l'avocat de Murphy selon laquelle cela pourrait arriver à n'importe qui ; ces systèmes sont attrayants précisément parce qu’ils promettent d’automatiser et d’accélérer le « statu quo », ce qui inclut le blanchiment des préjugés policiers existants contre les personnes qui sont déjà dans le système, les groupes minoritaires et toute autre personne qui n’y rentre pas. Ce résultat est aussi inévitable qu’horrible et doit être considéré comme un signe de restriction et de reconfiguration des services de police en général ainsi que du FRT en particulier.
Contacté par courrier électronique pour commentaires, Macy's a déclaré à Carte mère qu'il ne faisait aucun commentaire sur le litige en cours. EssilorLuxottica n'a pas répondu.