Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 6149

Incidents associés

Incident 11911 Rapport
NYPD Facial Recognition System Allegedly Produced Erroneous Match That Reportedly Resulted in Wrongful Detention of Trevis Williams

Loading...
Comment l'outil de reconnaissance faciale du NYPD a envoyé le mauvais homme en prison
nytimes.com · 2025

En février, une femme a déclaré à la police qu'un livreur s'était exhibé devant elle dans un immeuble de Manhattan. Il mesurait environ 1,78 m.

Deux mois plus tard, les preuves montrent que la police a arrêté le mauvais homme. Il mesurait 1,88 m.

L'homme, Trevis Williams, roulait du Connecticut à Brooklyn le jour du crime, et les données de localisation de son téléphone le situaient à environ 19 km de là. Mais un programme de reconnaissance faciale a récupéré son image à partir de plusieurs photos d'identité judiciaire et la femme l'a identifié comme étant l'exhibitionniste.

Comme M. Williams, le coupable était noir, portait une barbe et une moustache épaisses, et les cheveux tressés. Physiquement, les deux hommes n'avaient pas grand-chose en commun. M. Williams était non seulement plus grand, mais pesait également 104 kg. La victime a déclaré que le livreur semblait peser environ 72 kg. M. Williams a tout de même passé plus de deux jours en prison en avril.

« En un clin d'œil, votre vie pourrait basculer », a déclaré M. Williams.

Les algorithmes de reconnaissance faciale peuvent surpasser des témoins oculaires humains faillibles, et les forces de l'ordre affirment que les résultats ne sont pas décisifs à eux seuls. Mais l'affaire contre M. Williams, classée sans suite en juillet, illustre les dangers d'un outil d'enquête puissant, susceptible d'induire les enquêteurs en erreur.

Des chercheurs du National Institute of Standards and Technology ont constaté après des tests répétés que la reconnaissance faciale identifie la bonne personne dans la grande majorité des cas. Or, ces recherches portaient généralement sur des images prises dans des conditions contrôlées, et non sur les images granuleuses et floues des caméras de surveillance.

À l'échelle nationale, au moins dix personnes ont été arrêtées à tort après avoir été identifiées grâce à la reconnaissance faciale, selon la presse. « Nous avons constaté ce phénomène à maintes reprises dans tout le pays », a déclaré Nathan Wessler, de l'Union américaine pour les libertés civiles. « L'un des principaux dangers de cette technologie est qu'elle se trompe souvent. »

La police de New York utilise cette technologie des milliers de fois par an, mais ne comptabilise pas ses succès et ses échecs. Qualifiant la reconnaissance faciale d'outil essentiel, un porte-parole a déclaré que la police ne s'y était jamais appuyée seule pour procéder à une arrestation, et que l'identification de M. Williams par la victime avait fourni les preuves nécessaires pour l'inculper.

D'autres services de police, à Détroit et dans l'Indiana, exigent des enquêteurs qu'ils recueillent davantage d'informations avant de procéder à une séance d'identification photographique sur un suspect identifié par reconnaissance faciale. La police de New York n'applique pas cette règle.

Lorsque les enquêteurs new-yorkais ont interrogé la victime, elle a déclaré avoir déjà vu l'homme qui l'avait exposée. Elle l'a décrit comme un employé d'Amazon qui livrait des colis dans le quartier de l'immeuble d'appartements de la 17e Rue Est où elle travaillait, nettoyant et ramassant les déchets recyclables et les ordures ménagères, selon un entretien et des documents de police.

L'homme, qui portait d'épaisses lunettes à monture noire, la mettait mal à l'aise, la fixant du regard et s'attardant dans le couloir. Le 10 février, à 16 h 30, la femme faisait le ménage lorsqu'elle leva les yeux et aperçut le reflet de l'homme dans le miroir du couloir. Il la fixait, le pantalon ouvert et les parties génitales exposées.

La femme a déclaré avoir crié et que l'homme avait pris la fuite. Le New York Times retient son identité, car elle a été victime d'un crime sexuel.

Au même moment, M. Williams, 36 ans, garait sa voiture dans le quartier de Marine Park à Brooklyn, où il retrouvait un ami. Il revenait tout juste de son travail dans le Connecticut, où il travaillait avec des adultes autistes.

Une semaine plus tôt, il avait été arrêté pour agression et photographié pour une photo d'identité judiciaire. M. Williams a déclaré s'être battu avec un homme qui fréquentait son ex-petite amie. L'affaire a été classée sans suite en mars.

Mais son image était toujours dans le système du département lorsque la police a reçu l'appel concernant l'exhibitionniste sur East 17th Street. La police a extrait la vidéo de surveillance, interrogé la femme et ratissé le secteur à la recherche d'autres témoins, selon les documents de la police.

Un enquêteur a également effectué une recherche par reconnaissance faciale.

Cela impliquait de télécharger une image de la vidéo de surveillance dans un système qui utilise des algorithmes pour restituer les contours d'un visage en points de données, puis de rechercher les visages les plus similaires statistiquement. Selon l'inspecteur général de l'agence, le département de police est censé limiter ces recherches aux personnes arrêtées à New York ou dans le New Jersey.

En fin de compte, c'est un humain qui sélectionne le meilleur candidat. L'examinateur a choisi M. Williams et a généré un rapport avertissant qu'il ne représentait qu'une « correspondance possible » et que cela ne constituait pas à lui seul un « motif probable d'arrestation ».

Sa photo a ensuite été placée parmi six photos – toutes d'hommes noirs avec des dreadlocks et une barbe – que les enquêteurs ont montrées à la victime.

Elle a choisi la photo de M. Williams, l'image n° 2, et a signé en dessous, selon les documents de police. « Je suis sûre que c'est lui », a écrit un enquêteur dans le rapport d'enquête.

Le 21 avril, la police a surpris M. Williams alors qu'il entrait dans le métro par une porte de sortie à Brooklyn et a appris qu'il était recherché pour interrogatoire dans l'épisode du 10 février. Elle l'a placé en garde à vue.

Lors de son interrogatoire, M. Williams a déclaré à la police qu'il avait commencé à effectuer des livraisons pour Amazon le 1er avril. Il a expliqué avoir travaillé dans un entrepôt d'Amazon pendant la pandémie de Covid-19 et à Atlanta, mais qu'au moment des faits, il travaillait dans le Connecticut avec des adultes autistes.

« Ce n'est pas moi, mec », a-t-il déclaré lorsque la police lui a montré les images de surveillance de l'exhibitionniste. « Je jure devant Dieu, ce n'est pas moi. »

« Bien sûr que vous allez dire que ce n'était pas vous », a répondu l'inspecteur. Il a ensuite demandé ce qui se passerait s'il consultait les relevés professionnels de M. Williams.

« Consultez-les », a répondu M. Williams. « Veuillez les vérifier. »

La police l'a inculpé le lendemain.

« La victime a formellement identifié M. Williams », a déclaré Brad Weekes, porte-parole du département de police. M. Weekes a précisé que la victime avait déclaré aux enquêteurs qu'elle était « certaine qu'il s'agissait de la même personne, et que ce n'est qu'à ce moment-là qu'une cause probable a été établie pour procéder à une arrestation ».

Il a précisé que la pièce d'identité avec photo de la victime, l'interrogatoire de M. Williams et ses antécédents professionnels chez Amazon faisaient partie de l'enquête. La police n'a pas contacté Amazon pour connaître l'identité du livreur. Une porte-parole d'Amazon, Sharyn Ghacham, a déclaré que l'entreprise aurait coopéré.

Dans un communiqué, le bureau du procureur de Manhattan a déclaré ne pas pouvoir commenter, l'affaire ayant été classée sans suite en juillet.

La police de New York utilise la reconnaissance faciale depuis 2011. Les enquêteurs effectuent chaque année des milliers de recherches qui ont abouti à des correspondances dans des affaires aussi graves que des viols et des meurtres. M. Weekes a déclaré qu'il était « factuellement inexact » d'affirmer que la police avait procédé à de fausses arrestations grâce à cette technologie.

L'Aide Juridique, l'association de défense publique qui représentait M. Williams, a déclaré avoir connaissance de cas où la mauvaise personne avait été arrêtée suite à une identification basée sur la reconnaissance faciale. En 2022, selon l'organisation, un homme a été accusé de tentative de meurtre et détenu pendant plus d'un mois. L'affaire a été classée sans suite après que l'homme a prouvé qu'il se trouvait ailleurs au moment des faits, a déclaré Legal Aid.

« Nous sommes vivement préoccupés par le fait que les cas que nous avons identifiés ne constituent que la partie émergée de l'iceberg », a déclaré Legal Aid dans une lettre envoyée lundi au Département des enquêtes de la ville, demandant à l'agence d'enquêter sur l'utilisation de cette technologie par la police.

L'Union américaine pour les libertés civiles (American Civil Liberties Union) a appelé à l'interdiction de l'utilisation de la reconnaissance faciale par la police en raison du risque d'identification erronée. Wessler, directeur adjoint du projet Discours, vie privée et technologie.

Combiner cette technologie avec les identifications par témoins oculaires, dont les recherches ont montré qu'elles sont souvent erronées,](https://pmc.ncbi.nlm.nih.gov/articles/PMC4131297/) « aggrave le problème », a déclaré Karen Newirth, avocate spécialisée dans l'identification par témoins oculaires.

En 2023, le National Institute of Standards and Technology a constaté que les principaux algorithmes de reconnaissance faciale étaient capables de produire une correspondance correcte pour 99,9 % des recherches effectuées sur une base de données de photos d'identité judiciaire de 12 millions de personnes.

Mais « la précision peut diminuer considérablement lorsque des images de mauvaise qualité ou non contrôlées sont utilisées, comme c'est souvent le cas dans les enquêtes réelles », a déclaré Michael King, expert en cette technologie qui a conseillé les forces de l'ordre fédérales sur son utilisation et étudié le rapport.

Dans l'Indiana et à Détroit, la police n'est pas autorisée à établir de correspondance faciale lors d'une séance d'identification, sauf si des preuves supplémentaires, telles que des empreintes digitales, de l'ADN ou des données de téléphone portable, relient un suspect à un crime.

Dans le cas de M. Williams, la police n'a pas mené d'enquête au-delà de la simple série de photos, a déclaré son avocate, Diane Akerman. « Le travail policier traditionnel aurait pu résoudre cette affaire, ou du moins éviter à M. Williams de vivre cette épreuve », a-t-elle ajouté.

Une analyse médico-légale des relevés téléphoniques effectuée par les avocats de M. Williams a montré qu'au moment du crime, son téléphone communiquait avec des antennes-relais autour de Brooklyn, selon des données consultées par le Times. Ses avocats étaient prêts à utiliser ces preuves au tribunal, mais l'affaire a été classée sans suite avant qu'ils ne puissent les présenter.

La victime a déclaré que l'arrestation de M. Williams l'avait apaisée.

Lorsque le Times lui a annoncé l'abandon des poursuites, cette tranquillité a disparu, a-t-elle ajouté.

M. Williams, père d'un fils de 12 ans, craignait que les accusations ne lui vaillent d'être inscrit au registre des délinquants sexuels et qu'il ne puisse pas trouver d'emploi ni aller chercher son enfant à l'école. Il se sentait humilié et en colère, et craignait que tous ceux qu'il connaissait ne découvrent ces accusations honteuses.

« Je méprise les gens qui font ce genre de choses », a-t-il déclaré.

Il a ajouté qu'il craignait toujours d'être à nouveau arrêté. « Parfois, j'ai l'impression d'avoir des crises de panique », a déclaré M. Williams.

Quant à l'affaire d'obscénité publique, la police a déclaré qu'elle était close.

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd