Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 2161

Incidents associés

Incident 36810 Rapports
Facial Recognition Smart Phone App "Blue Wolf" Monitored Palestinians in West Bank

Loading...
La reconnaissance faciale permet aux Palestiniens de franchir rapidement les postes de contrôle israéliens, mais suscite des inquiétudes
npr.org · 2019

Cela prend quelques secondes : les Palestiniens placent des cartes d'identité électroniques sur un capteur, fixent l'ouverture d'une petite caméra noire, puis passent devant des panneaux qui s'ouvrent en éventail pour les laisser passer.

Israël modernise ses points de contrôle de Cisjordanie avec une technologie de reconnaissance faciale pour vérifier l'identité des Palestiniens lorsqu'ils entrent en Israël. Le nouveau système, qui a commencé à être déployé à la fin de l'année dernière, facilite leur passage avec des temps d'attente plus courts – mais suscite des critiques sur le rôle que joue la technologie controversée dans le contrôle militaire d'Israël sur les Palestiniens.

"Israël connaît toutes les informations vous concernant", a déclaré Rina Khoury, étudiante à l'université palestinienne, alors qu'elle traversait un poste de contrôle près de Jérusalem ce mois-ci.

Certaines villes américaines ont interdit l'utilisation de la technologie de reconnaissance faciale par crainte que les forces de l'ordre puissent suivre le public – et les préjugés humains qui s'infiltrent dans la technologie pourraient conduire à une identification erronée des suspects. Mais il est de plus en plus adopté par la police et les aéroports aux États-Unis et dans le monde, notamment en Chine, où les experts disent qu'il est utilisé pour [suivre et cibler] (https://www.npr.org/2019/07/18 /743211959/comment-les-américains-certains-sciemment-certains-ont-inconsciemment-aidé-la-surveillance-de-la-chine-à-se-développer) sa minorité musulmane ouïghoure.

D'ici quelques mois, un logiciel de reconnaissance faciale sera installé à tous les points de passage de Cisjordanie desservant les Palestiniens, ont déclaré des responsables israéliens de la défense à NPR. Un tel contrôle n'est pas utilisé aux différents points de contrôle de Cisjordanie que les Israéliens traversent en voiture.

Des Palestiniens se tiennent devant une porte biométrique lorsqu'ils entrent en Israël au point de passage de Qalandia à Jérusalem.

Sébastien Scheiner/AP

Les points de contrôle militaires font partie d'un système plus large réglementant l'entrée des Palestiniens dans les zones israéliennes et même dans certaines zones à prédominance palestinienne comme Jérusalem-Est. Les Palestiniens ont besoin de permis militaires spéciaux pour passer.

Israël affirme que des points de contrôle sont nécessaires pour protéger les Israéliens des attaquants potentiels, après une période d'attentats-suicides au début des années 2000, tandis que les Palestiniens les considèrent comme une atteinte dégradante à leur liberté de mouvement et un symbole du contrôle d'Israël sur leur vie.

Le logiciel de reconnaissance faciale utilisé pour identifier les Palestiniens aux points de contrôle a été développé par la société de technologie israélienne [AnyVision] (applewebdata://10d27241-26c7-4393-938b-db9642a25e4c/anyvision.co), a confirmé un porte-parole de la société à NPR. TheMarker, un journal d'affaires israélien, premier [identifié](https://www.haaretz.com/israel-news/business/.premium-this-israeli-face-recognition-startup-is-secretly-tracking-palestinians- 1.7500359) l'implication de l'entreprise le mois dernier.

AnyVision a publié une déclaration s'engageant à une utilisation éthique de la reconnaissance faciale et défendant la l'utilisation de la technologie aux "passages frontaliers", affirmant qu'elle est similaire à ce qui est utilisé dans certains aéroports pour vérifier l'identité des voyageurs. Un porte-parole de la société a déclaré à NPR que la déclaration faisait référence aux points de passage en Cisjordanie.

Une [présentation] AnyVision (http://www.anyvision.co/admin/wp-content/uploads/2019/02/AnyVision-General.pdf) indique que sa technologie a un taux d'identification de 99,9 % et est utilisée dans un aéroport sans nom il a appelé "l'un des aéroports les plus sûrs au monde".

TheMarker a également rapporté que la technologie d'AnyVision est déployée dans toute la Cisjordanie dans le cadre d'un programme séparé, "beaucoup plus confidentiel", pour suivre les "agresseurs palestiniens potentiels". AnyVision et les responsables de la défense israélienne ne le confirmeront pas à NPR.

Le fonds de capital-risque de Microsoft, M12, est un investisseur dans AnyVision. "AnyVision a accepté de se conformer aux [principes] de reconnaissance faciale de Microsoft (https://blogs.microsoft.com/wp-content/uploads/prod/sites/5/2018/12/MSFT-Principles-on-Facial-Recognition.pdf ) et cet engagement est soutenu par des mécanismes de vérification dont nous discutons avec eux", a déclaré le fonds de capital-risque de Microsoft dans un communiqué à NPR.

AnyVision n'a pas voulu identifier ses clients mais a déclaré que sa technologie est installée sur des centaines de sites dans plus de 40 pays.

"Je n'opère pas en Chine. Je ne vends pas non plus en Afrique ou en Russie. Nous ne vendons des systèmes qu'aux pays démocratiques dotés de gouvernements appropriés", a déclaré le PDG d'AnyVision, Eylon Etshtein, à TheMarker.

La société a déclaré qu'elle reconsidérait maintenant un poste de directeur des ventes, il est advertising pour Hong Kong, où les manifestants pro-démocratie ont caché leur visage pour se protéger de la technologie de reconnaissance faciale qui y est utilisée. "Conformément à nos protocoles éthiques, nous réévaluons si le poste de directeur des ventes convient pour le moment", a déclaré AnyVision dans un communiqué à NPR, ajoutant que sa technologie n'est pas utilisée à Hong Kong et que la société n'a pas employés là-bas.

AnyVision commercialise sa technologie auprès des banques et des forces de l'ordre, selon un agent commercial de la société basé en Europe. Elle opère dans une quarantaine de pays.

Suite au reportage des médias israéliens sur la technologie d'AnyVision en Cisjordanie, l'agent commercial a déclaré qu'il avait répondu aux demandes des forces de l'ordre de certains pays scandinaves qui envisageaient d'acheter la technologie d'AnyVision et s'inquiétaient de la manière dont elle pourrait être utilisée en Cisjordanie.

"Cela ne sonne pas bien", a déclaré l'agent à NPR, faisant référence à des rapports sur l'utilisation de la technologie en Cisjordanie et s'exprimant sous couvert d'anonymat pour discuter de la question sensible. "Les clients ont demandé ce que nous faisions."

TSG IT Advanced Systems, une société de technologie de sécurité basée à Tel-Aviv, a déclaré dans une [interview](https://www.israeldefense.co.il/en/node /32613) avec un site Internet d'informations sur la défense israélienne qu'il avait développé une technologie pour le ministère israélien de la Défense, en utilisant des images de caméras des routes de Cisjordanie pour localiser une voiture en fonction de sa plaque d'immatriculation, de son modèle et de sa couleur. "Nous avons ajouté une capacité de reconnaissance faciale au système", a déclaré le PDG de la société, Michael Zinderman.

Les critiques soutiennent que les entreprises technologiques israéliennes bénéficient de l'implication militaire de leur pays dans les territoires palestiniens.

"La Cisjordanie et la bande de Gaza étaient dans le passé un laboratoire pour utiliser les armes nouvellement développées par Israël", a déclaré Nadeem Nashif, un militant palestinien des droits numériques. "Ces dernières années, il s'agit davantage de technologies de surveillance qui [sont] testées et vendues plus tard à d'autres pays."

Avec la technologie de reconnaissance faciale, plus elle traite d'images, plus ses algorithmes s'améliorent. Le traitement des images des quelque 100 000 travailleurs journaliers palestiniens qui traversent quotidiennement les points de contrôle pourrait s'avérer utile pour améliorer la technologie. AnyVision a déclaré à NPR qu'il "n'utilise pas les informations/données des clients".

Les Palestiniens qui demandent un permis pour entrer en Israël doivent d'abord se faire photographier et prendre leurs empreintes digitales dans un bureau militaire israélien. Leurs photos sont stockées dans une base de données biométriques et sont reliées à des cartes d'identité électroniques qu'ils scannent au point de contrôle. Le logiciel de reconnaissance faciale au point de contrôle fait correspondre leur visage à leurs photos dans la base de données biométrique d'Israël.

Les Palestiniens entrant en Israël à des fins "humanitaires" - soins médicaux, mariages, funérailles - ne sont pas soumis à la procédure, ont déclaré des responsables.

Le nombre de Palestiniens dans la base de données biométriques augmente rapidement. Sur les quelque 2,7 millions de Palestiniens vivant en Cisjordanie, les responsables de la défense israélienne ont déclaré qu'environ 450 000 possédaient des cartes d'identité électroniques et avaient leurs photos stockées dans la base de données biométriques, contre un [rapporté](https://www.haaretz.com/ israel-news/.premium-renovated-checkpoints-mean-palestinians-no-longer-feel-like-cow-led-to-slaughter-1.7283924) 383 000 en mai.

Israël construit également une base de données biométrique de ses propres citoyens et utilise la technologie de reconnaissance faciale à son aéroport international pour identifier les voyageurs israéliens au contrôle des passeports.

La technologie, disent les critiques, aide à enraciner l'occupation militaire israélienne de la Cisjordanie, qui en est maintenant à sa 52e année. "Toutes les technologies de démarrage autour du maintien de l'ordre et de la surveillance nous permettent de maintenir ce qui devrait être une situation insoutenable d'occupation militaire", a déclaré Jessica Montell du groupe israélien de défense des droits de l'homme HaMoked.

Mais les responsables israéliens et de nombreux journaliers palestiniens louent le nouveau système de points de contrôle pour son efficacité. Baptisé "Speed Gate", il "permet à la population palestinienne de traverser en très peu de temps", a déclaré le responsable de la défense, Elisha Hanukayev.

Pendant des années, les Palestiniens ont dû se frayer un chemin à travers la foule pour être contrôlés par des soldats. "Nous avions l'habitude de passer deux bonnes heures ici... le chaos", a déclaré Imad Khalil, ouvrier du bâtiment, à un poste de contrôle modernisé. "Aujourd'hui nous arrivons et nous passons immédiatement."

Omer Laviv de Mer Security and Communications Systems, une société israélienne qui commercialise la technologie AnyVision auprès des forces de l'ordre du monde entier, a déclaré que la technologie de reconnaissance faciale est à quelques décennies de pouvoir localiser un suspect en scannant les foules en temps réel, mais pourrait être utilisée pour faire correspondre la photo d'un suspect spécifique avec des images enregistrées à partir d'un endroit spécifique.

"Les préoccupations de sécurité priment sur la vie privée", a déclaré Laviv.

Les défenseurs de la technologie disent que son utilisation en Cisjordanie ne devrait pas surprendre.

"Israël [a] des ennemis", a déclaré Shabtai Shoval de la société israélienne de technologie de sécurité Suspect Detection Systems. "La vie privée... n'est pas vraiment un problème en Cisjordanie. Parce que c'est nous ou les autorités palestiniennes, tout le monde surveille tout le monde, parce que tout le monde a peur de tout le monde."

Les services de sécurité de l'Autorité palestinienne surveillent les comptes des réseaux sociaux palestiniens et ont [prétendument](https://www.npr.org/sections/parallels/2018/02/07/583963891/palestinian-authority-faces-blowback-over-allegations- of-cia-backed-wiretapping) a collaboré avec la CIA pour espionner les conversations téléphoniques de hauts responsables palestiniens, mais un responsable palestinien a déclaré à NPR que les autorités palestiniennes ne disposaient pas de technologies de reconnaissance faciale.

La société de Shoval a développé un appareil qui mesure les réponses thermiques des visages qui détectent les changements de température indiquant une émotion accrue qui pourrait indiquer d'éventuels suspects cherchant à commettre une attaque.

L'appareil a été utilisé dans une gare de Moscou et à un poste frontière dans un pays asiatique que Shoval a refusé d'identifier. Mais il a dit qu'il avait eu du mal à le vendre aux "pays démocratiques", comme il l'a dit, arguant que les pays occidentaux sont plus lents à adapter de telles technologies de dépistage intrusives.

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd