Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 2030

Incidents associés

Incident 3094 Rapports
Facial Recognition Trial Performed Poorly at Notting Hill Carnival

Loading...
Le procès de reconnaissance faciale de la police a conduit à une "arrestation erronée"
news.sky.com · 2017

Le procès controversé de l'équipement de reconnaissance faciale au carnaval de Notting Hill a abouti à environ 35 fausses correspondances et à une "arrestation erronée", mettant en évidence des questions sur l'utilisation de la technologie par la police.

Le système n'a produit qu'une seule correspondance précise au cours du carnaval, mais l'individu avait déjà été traité par le système judiciaire entre le moment où la police a compilé la base de données des suspects et l'a déployée.

Dans les jours qui ont précédé le Carnaval, Sky News [a révélé que la police disposait de plus de 20 millions d'images de reconnaissance faciale](http://news.sky.com/story/police-hold-more-than-20-million-facial- reconnaissance-images-11001479) sur le public britannique, dont des centaines de milliers sur des innocents.

Il y a un certain nombre de questions juridiques concernant les bases de données de la police , notamment à la suite d'une décision de la Haute Cour en 2012 qui a déclaré que la conservation de ces images était illégale.

Silkie Carlo, responsable de la politique technologique pour le groupe de défense des droits de l'homme Liberty, a observé le procès et l'a décrit comme une "opération de reconnaissance faciale d'une inexactitude inquiétante et douloureusement grossière".

Mme Carlo a expliqué que l'individu "arrêté par erreur" avait été signalé comme étant recherché par mandat pour émeute.

Cependant, entre la construction de la base de données des suspects et Carnival, l'individu avait déjà été arrêté et n'était plus recherché.

"Les responsables du projet ont considéré cela comme un succès retentissant - et non comme un échec", a écrit Mme Carlo.

Des sources indépendantes ont confirmé des détails dans un article de blog de Mme Carlo notant que cinq membres du public ont été signalés comme suspects par le système et approchés par des officiers pour prouver leur identité.

Les individus avaient des pièces d'identité sur eux, mais s'ils ne l'avaient pas fait, ils auraient pu être arrêtés à tort.

Un porte-parole du Metropolitan Police Service a expliqué à Sky News que l'individu "arrêté par erreur" n'avait pas été arrêté, ce qu'il a défini comme signifiant qu'il avait été placé en garde à vue dans un poste de police et interrogé.

Ils ont déclaré que l'individu était recherché parce qu'il était soupçonné d'atteinte à l'ordre public et "aurait été arrêté par des agents expliquant pourquoi ils étaient arrêtés" avant qu'un contrôle radio contre l'ordinateur national de la police n'établisse qu'ils avaient déjà été traités.

Le Met a déclaré: "Nous avons toujours soutenu qu'il s'agissait d'un essai continu pour tester la technologie et évaluer si elle pouvait aider la police à identifier les contrevenants connus lors d'événements importants, afin de protéger le grand public."

"Une analyse complète de ses déploiements et une consultation plus large auront lieu à l'issue du procès", a ajouté le porte-parole, bien qu'aucune date n'ait été donnée pour cela.

Des sources de Sky ont suggéré que le Met prévoyait de tester la technologie lors d'autres événements à l'avenir.

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd