Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 1956

Incidents associés

Incident 3094 Rapports
Facial Recognition Trial Performed Poorly at Notting Hill Carnival

Loading...
Utilisation par la police métropolitaine de la technologie de reconnaissance faciale au carnaval de Notting Hill, 2017
gov.uk · 2017

Ce type de technologie biométrique (technologie de reconnaissance faciale) a le potentiel d'être un outil de lutte contre la criminalité très utile, mais nous n'en sommes pas encore là. Il doit être correctement testé et évalué s'il veut être efficace et il devra être manipulé avec soin par la police et le gouvernement si l'on veut que le public lui fasse confiance.

Messages clé

  1. L'utilisation d'une telle technologie présente un avantage public s'il peut être démontré qu'elle aide à prévenir les problèmes rencontrés lors des carnavals précédents en aidant la police à attraper les contrevenants ou à prévenir le crime.
  2. Les tests d'appariement facial pour repérer des individus dans de grandes foules ont jusqu'à présent eu un très faible succès - d'où le procès de la police métropolitaine. C'est bien qu'ils aient rendu public leur essai, mais ils doivent procéder à une évaluation appropriée et publier les résultats.
  3. La police détient déjà plus de 20 millions d'images faciales, mais il n'existe pas encore de système de police unique et partagé pour stocker et rechercher les images détenues par la police, ni d'évaluation de son exactitude et de son utilité.
  4. Les forces de police doivent travailler ensemble pour convenir d'un système unique de reconnaissance faciale qui a fait ses preuves sur le terrain et le gouvernement doit créer un cadre législatif pour son utilisation, avec une surveillance indépendante pour fournir une assurance publique, comme il l'a fait pour ADN et empreintes digitales.
  5. L'ancien commissaire à la biométrie a fait des remarques similaires à celles d'autres, comme le Comité spécial des sciences et de la technologie, et nous n'avons pas encore vu ce que le gouvernement propose, car sa stratégie sur la biométrie a été retardée pendant un certain temps.

Explication plus large

  1. La police détient déjà plus de 20 millions d'images faciales dans la base de données nationale de la police et dans des systèmes de forces distincts. L'inspecteur de la police de Sa Majesté (Écosse) a récemment commenté défavorablement cette situation, car cela signifie que différentes normes sont appliquées à travers le Royaume-Uni. La plupart de ces images faciales sont des images de garde à vue. Les tribunaux ont jugé en 2012 que ces avoirs étaient illégaux et le ministère de l'Intérieur a répondu à ce jugement en 2017. J'ai [commenté cette réponse ailleurs] (https://www.gov.uk/government/news/response-to-the -examen-par-le-bureau-a-domicile-de-la-conservation-et-de-l'utilisation-des-images-de-garde).
  2. L'intérêt actuel de la police pour l'appariement facial est passé des images de garde à vue à la question de savoir si elles peuvent être utilisées pour identifier les délinquants individuels dans les lieux publics. La capacité de le faire n'a pas encore été prouvée, car les tests dans de telles situations ont montré des taux de correspondance très faibles, contrairement aux taux de correspondance dans des environnements contrôlés.
  3. La police mène un certain nombre d'essais pour voir si la recherche faciale et la technologie d'appariement peuvent être utilisées efficacement dans les lieux publics bondés. De telles expériences devraient être correctement conçues et évaluées, impliquant de préférence des experts externes, et les résultats publiés. La police devrait également évaluer son utilisation des images faciales en général afin de démontrer qu'elles ont un objectif utile et rentable, sur la base d'une qualité d'appariement adéquate. Ils doivent également expliquer comment ils vont gérer les fausses correspondances potentielles.
  4. Il existe peu de recherches dans ce domaine et la plupart ont été menées aux États-Unis. Les évaluations devraient porter non seulement sur le comportement des algorithmes d'appariement, mais aussi sur leur fonctionnement dans l'ensemble du système de justice pénale et sur la manière dont la prise de décision humaine dans ces systèmes affecte l'exactitude des taux d'appariement.
  5. Les systèmes d'appariement facial se sont considérablement améliorés récemment et l'utilisation explorée par la police métropolitaine pourrait, à un moment donné, atteindre une qualité acceptable pour une utilisation opérationnelle, mais cela reste actuellement à démontrer.
  6. L'utilisation d'images faciales, en particulier dans les lieux publics, est très intrusive pour la liberté individuelle, notamment parce que les images peuvent être capturées à l'insu du sujet. L'avantage public de l'utilisation d'une telle technologie intrusive doit l'emporter sur l'ingérence dans la vie privée des individus. Un équilibre aussi difficile entre l'intérêt public et la vie privée des individus ne devrait pas être décidé par la police, mais plutôt par le Parlement par le biais d'un débat et d'une législation éclairés. Comme c'est actuellement le cas pour l'ADN et les empreintes digitales, la législation devrait inclure une surveillance indépendante pour rassurer le public sur la protection adéquate de sa vie privée.
Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd