Incidents associés
AU COURS DE LA DÉCENNIE qui a suivi les attentats du 11 septembre, le département de police de la ville de New York a décidé de mettre des millions de New-Yorkais sous surveillance constante. Avertissant des menaces terroristes, le département a créé un plan pour tapisser les rues du centre-ville de Manhattan avec des milliers de caméras et avait, en 2008, centralisé ses opérations de vidéosurveillance dans un seul centre de commandement. Deux ans plus tard, le NYPD a annoncé que le centre de commandement, connu sous le nom de Lower Manhattan Security Coordination Center, avait intégré un logiciel d'analyse vidéo de pointe dans certaines caméras de la ville. Le logiciel d'analyse vidéo a capturé des images fixes d'individus capturés sur des séquences de télévision en circuit fermé et a automatiquement étiqueté les images avec des étiquettes physiques, telles que la couleur des vêtements, permettant à la police de rechercher rapidement dans des heures de vidéo des images d'individus correspondant à une description d'intérêt. À l'époque, le logiciel commençait également à générer des alertes pour les colis sans surveillance, les voitures accélérant une rue dans la mauvaise direction ou les personnes entrant dans des zones réglementées. Au fil des ans, le NYPD n'a partagé que de petites mises à jour occasionnelles sur les progrès du programme. Dans une interview accordée à Scientific American en 2011, par exemple, l'inspecteur Salvatore DiPace, alors commandant de la Lower Manhattan Security Initiative, a déclaré que le service de police testait si le logiciel pouvait encadrer les images des visages des gens lorsqu'ils passaient devant les caméras du métro et ensuite éliminer à travers les images pour divers « traits du visage » non spécifiés. Alors que la technologie de reconnaissance faciale, qui mesure les visages individuels à plus de 16 000 points pour des comparaisons fines avec d'autres images faciales, a attiré un examen juridique et une attention médiatique importants, ce logiciel d'identification d'objets a largement échappé à l'attention. La manière exacte dont cette technologie a été développée et les fonctionnalités particulières que le logiciel a été conçu pour cataloguer n'ont jamais été révélées publiquement par le NYPD. Aujourd'hui, grâce à des documents d'entreprise confidentiels et à des entretiens avec de nombreux technologues impliqués dans le développement du logiciel, The Intercept et l'Investigative Fund ont appris qu'IBM avait commencé à développer cette technologie d'identification d'objets en utilisant un accès secret aux images de la caméra du NYPD. Avec l'accès aux images de milliers de New-Yorkais inconscients offertes par les responsables du NYPD, dès 2012, IBM créait de nouvelles fonctionnalités de recherche qui permettaient à d'autres services de police de rechercher des images de caméras pour des images de personnes par couleur de cheveux, poils du visage et teint de peau. . IBM a refusé de commenter son utilisation des images du NYPD pour développer le logiciel. Cependant, dans une réponse par e-mail aux questions, le NYPD a déclaré à The Intercept que "la vidéo, de temps en temps, était fournie à IBM pour s'assurer que le produit qu'ils développaient fonctionnerait dans l'environnement urbain surpeuplé de New York et nous aiderait à protéger la ville. . Il n'y a rien dans l'accord du NYPD avec IBM qui interdit le partage de données avec IBM à des fins de développement de système. De plus, tous les fournisseurs qui concluent des accords contractuels avec le NYPD ont l'obligation absolue de garder confidentielles toutes les données fournies par le NYPD pendant la durée de l'accord, après l'achèvement de l'accord et en cas de résiliation de l'accord. Dans un e-mail à The Intercept, le NYPD a confirmé que certains responsables de la lutte contre le terrorisme avaient accès à une version pré-publiée du programme d'IBM, qui comprenait des capacités de recherche de couleur de peau, dès l'été 2012. Le porte-parole du NYPD, Peter Donald, a déclaré que les caractéristiques de recherche étaient utilisé uniquement à des fins d'évaluation et que les agents ont reçu pour instruction de ne pas inclure la fonction de recherche de teint dans leur évaluation. Le département a finalement décidé de ne pas intégrer le programme d'analyse dans son architecture de surveillance plus large et a supprimé progressivement le programme IBM en 2016. Après avoir testé ces fonctionnalités de recherche corporelle avec le NYPD, IBM a publié certaines de ces fonctionnalités dans une version de produit de 2013. Les versions ultérieures du logiciel d'IBM ont conservé et étendu ces capacités de recherche corporelle. (IBM n'a pas répondu à une question sur la disponibilité actuelle de ses programmes d'analyse vidéo.) Interrogé sur le secret de cette collaboration, le NYPD a déclaré que "divers dirigeants élus et parties prenantes" ont été informés des efforts du département "pour assurer la sécurité de cette ville". ", ajoutant que le partage de l'accès à la caméra avec IBM était nécessaire pour que le système fonctionne. IBM n'a pas répondu à une question sur les raisons pour lesquelles l'entreprise n'a pas rendu cette collaboration publique. Donald a déclaré qu'IBM avait donné au département des licences pour appliquer le système à 512 caméras, mais a déclaré que les analyses avaient été testées sur "moins de cinquante". Il a ajouté que le personnel d'IBM avait accès à certaines caméras dans le seul but de configurer le système du NYPD, et que le département avait mis en place des garanties pour protéger les données, y compris « des accords de non-divulgation pour chaque personne accédant au système ; accords de non-divulgation pour les entreprises pour lesquelles les vendeurs travaillaient ; et vérification des antécédents. Les défenseurs des libertés civiles soutiennent que les New-Yorkais auraient dû être informés de l'utilisation potentielle de leurs données physiques pour le développement d'une technologie de surveillance par une entreprise privée. Les révélations surviennent alors qu'un projet de loi du conseil municipal qui exigerait la transparence du NYPD sur les acquisitions de surveillance continue de languir, en partie à cause de l'opposition ouverte du maire de New York, Bill de Blasio, et du NYPD. Un coup d'œil rare à l'intérieur du centre de sécurité du Lower Manhattan du département de police de New York, où les flics surveillent les caméras de surveillance, les capteurs environnementaux et les lecteurs de plaques d'immatriculation 24 heures sur 24. Le maire Michael Bloomberg et le commissaire de police Ray Kelly ont annoncé que des caméras de métro sont également surveillées dans le centre – officiellement appelé le centre de coordination de la sécurité du Lower Manhattan. Inspiré du «Ring of Steel» de Londres, le NYPD a ouvert son centre de coordination en 2008. Aujourd'hui, les flics surveillent les flux de plus de 1159 caméras de vidéosurveillance, ce nombre passant à 3 000 à mesure que le programme se développe. (Photo de Timothy Fadek/Corbis via Getty Images) À l'intérieur du centre de sécurité du Lower Manhattan du département de police de New York le 20 septembre 2010, où les flics surveillent 24 heures sur 24 les caméras de surveillance, les capteurs environnementaux et les lecteurs de plaques d'immatriculation. Photo : Timothy Fadek/Corbis via Getty Images Skin Tone Search Technology, Raffiné sur les New-Yorkais Les premières percées d'IBM dans la technologie de reconnaissance d'objets ont été envisagées pour des technologies telles que les voitures autonomes ou la reconnaissance d'images sur Internet, a déclaré Rick Kjeldsen, un ancien chercheur d'IBM. Mais après le 11 septembre, Kjeldsen et plusieurs de ses collègues ont réalisé que leur programme était bien adapté à la surveillance antiterroriste. « Après le 11 septembre, les sources de financement et l'intérêt des clients se sont vraiment tournés vers la sécurité », a déclaré Kjeldsen, qui a déclaré avoir travaillé sur le programme NYPD d'environ 2009 à 2013. « Même si cela n'avait pas été notre objectif jusqu'à cela point, c'est là que la demande était. Le premier grand projet de vidéosurveillance urbaine d'IBM était avec le service de police de Chicago et a commencé vers 2005, selon Kjeldsen. Le département a laissé IBM expérimenter la technologie dans le centre-ville de Chicago jusqu'en 2013, mais la collaboration n'a pas été considérée comme un véritable partenariat commercial. «Chicago a toujours été connu comme, ce n'est pas un vrai – ces gars ne sont pas un vrai client. C'est une sorte de développement, une collaboration avec Chicago », a déclaré Kjeldsen. « Alors qu'à New York, ces gars-là étaient un client. Et ils avaient des attentes en conséquence. Le NYPD a acquis le logiciel d'analyse vidéo d'IBM dans le cadre du Domain Awareness System, un projet partagé du service de police et de Microsoft qui a centralisé un vaste réseau de capteurs de surveillance dans le bas et le centre de Manhattan - y compris des caméras, des lecteurs de plaques d'immatriculation et des détecteurs de rayonnement - dans un tableau de bord unifié. IBM est entré en scène en tant que sous-traitant de Vexcel, filiale de Microsoft, en 2007, dans le cadre d'un projet d'une valeur de 60,7 millions de dollars sur six ans, selon les documents internes d'IBM. À New York, la menace terroriste "était un argument de vente facile", a rappelé Jonathan Connell, un chercheur d'IBM qui a travaillé sur l'installation initiale d'analyse vidéo du NYPD. "Vous dites:" Regardez ce que les terroristes ont fait avant, ils pourraient revenir, alors vous nous donnez de l'argent et nous mettrons une caméra là-bas. Un ancien technologue du NYPD qui a contribué à la conception de la Lower Manhattan Security Initiative, demandant à parler en arrière-plan en invoquant des craintes de représailles professionnelles, a confirmé le rôle d'IBM en tant que "fournisseur stratégique". "Dans notre examen des fournisseurs d'analyse vidéo à l'époque, ils étaient bien en avance sur tout le monde selon mon estimation personnelle", a déclaré le technologue. Selon les documents de planification internes d'IBM, le NYPD a commencé à intégrer le produit de surveillance d'IBM en mars 2010 pour le Lower Manhattan Security Coordination Center, un centre de commandement antiterroriste lancé par le commissaire de police Ray Kelly en 2008. Lors d'une visite de « 60 minutes » du centre de commandement à En 2011, Jessica Tisch, alors directrice de la politique et de la planification de la lutte contre le terrorisme du NYPD, a montré le logiciel sur des écrans larges brillants, démontrant comment il pouvait afficher des images et des clips vidéo de personnes en chemises rouges. Tisch n'a pas mentionné le partenariat avec IBM. Pendant le mandat de Kelly en tant que commissaire de police, le NYPD a travaillé discrètement avec IBM alors que la société testait sa technologie de reconnaissance d'objets sur un certain nombre de caméras du NYPD et du métro, selon les documents d'IBM. "Nous avions vraiment besoin de pouvoir tester l'algorithme", a déclaré Kjeldsen, qui a expliqué que le logiciel devrait traiter d'énormes quantités d'images diverses afin d'apprendre à s'adapter aux différents éclairages, ombres et autres facteurs environnementaux dans sa vue. "Nous utilisions presque la vidéo pour les deux choses à l'époque, l'apportant au laboratoire pour résoudre les problèmes que nous rencontrions ou pour expérimenter de nouvelles technologies", a déclaré Kjeldsen. À l'époque, le département espérait que l'analyse vidéo améliorerait la capacité des analystes à identifier des objets et des personnes suspects en temps réel dans des zones sensibles, selon Conor McCourt, un sergent antiterroriste à la retraite du NYPD qui a déclaré avoir utilisé le programme d'IBM dans ses premières étapes. "Disons que vous avez un sac suspect dans le centre-ville de Manhattan, en tant que personne travaillant dans le centre de commandement", a déclaré McCourt. "Il se peut que l'analyse ait vu l'objet assis là pendant cinq minutes et dise:" Regardez, il y a un objet assis là. "" Les opérateurs pourraient alors rembobiner la vidéo ou regarder d'autres caméras à proximité, a-t-il expliqué, pour obtenir quelques possibilités quant à qui avait laissé l'objet derrière. Au fil des ans, les employés d'IBM ont déclaré qu'ils ont commencé à s'inquiéter davantage en travaillant avec le NYPD pour permettre au programme d'identifier les caractéristiques démographiques. En 2012, selon les documents internes d'IBM, les chercheurs testaient le logiciel d'analyse vidéo sur les corps et les visages des New-Yorkais, capturant et archivant leurs données physiques lorsqu'ils marchaient en public ou traversaient les tourniquets du métro. Avec ces images rapprochées, IBM a affiné sa capacité à rechercher des personnes filmées en fonction d'une variété de caractéristiques jusque-là non divulguées, telles que l'âge, le sexe, la couleur des cheveux (appelée "couleur de la tête"), la présence de poils sur le visage - et la peau. Ton. Les documents font référence à des réunions entre le personnel du NYPD et des chercheurs d'IBM pour examiner le développement des fouilles d'identification corporelle menées aux caméras des tourniquets du métro. "Nous étions certainement inquiets de savoir où cela allait", se souvient Kjeldsen. "Il y avait quelques-uns d'entre nous qui parlaient toujours de cela, vous savez, 'Si cela s'améliore, cela pourrait être un problème.'" Selon le NYPD, le personnel de lutte contre le terrorisme n'a accédé aux fonctionnalités de recherche corporelle d'IBM qu'à des fins d'évaluation, et ils n'étaient accessibles qu'à une poignée de membres du personnel antiterroriste. "Alors que des outils dotés de capacités de recherche raciale ou de couleur de peau ont été proposés au NYPD, ils ont été explicitement refusés par le NYPD", a déclaré Donald, porte-parole du NYPD. "Lorsque de tels outils étaient fournis avec une version de test du produit, les testeurs n'avaient pour instruction que de tester d'autres fonctionnalités (vêtements, lunettes, etc.), mais pas de tester ou d'utiliser la fonction de couleur de peau. Ce n'est pas parce qu'il y aurait eu quelque chose d'illégal ou même d'inapproprié à tester ou à utiliser ces outils pour rechercher dans la zone d'un crime une image d'un suspect qui correspondait à une description donnée par une victime ou un témoin. C'était spécifiquement pour éviter même la suggestion ou l'apparence de tout type de profilage racial technologique. Le NYPD a mis fin à son utilisation du programme d'analyse vidéo d'IBM en 2016, a déclaré Donald. Donald a reconnu qu'à un moment donné en 2016 ou au début de 2017, IBM a approché le NYPD avec une version améliorée du programme d'analyse vidéo qui pourrait rechercher des personnes par origine ethnique. "Le Département a explicitement rejeté ce produit", a-t-il dit, "sur la base de l'inclusion de ce nouveau paramètre de recherche." En 2017, IBM a lancé Intelligent Video Analytics 2.0, un produit doté d'une capacité de surveillance par caméra corporelle qui permet aux utilisateurs de détecter les personnes capturées sur la caméra par des balises «ethniques», telles que «Asiatique», «Noir» et «Blanc». Kjeldsen, l'ancien chercheur d'IBM qui a aidé à développer l'analyse du teint de la peau de l'entreprise avec l'accès à la caméra du NYPD, a déclaré que l'affirmation du département selon laquelle le NYPD avait simplement testé et rejeté les fonctionnalités de recherche corporelle était trompeuse. "Nous ne l'aurions pas exploré si le NYPD nous avait dit:" Nous ne voulons pas faire ça "", a-t-il déclaré. "Aucune entreprise ne va dépenser de l'argent là où il n'y a pas d'intérêt pour les clients." Kjeldsen a également ajouté que la décision du NYPD d'autoriser IBM à accéder à ses caméras était cruciale pour le développement des fonctionnalités de recherche de teint, notant que pendant cette période, New York a servi de «zone de test principale» à l'entreprise, fournissant à l'entreprise un considérable diversité environnementale pour le raffinement des logiciels. "Plus vous pouvez utiliser de situations différentes pour développer votre logiciel, mieux ce sera", a déclaré Kjeldsen. "Cela concerne évidemment les personnes, les tons de peau, tout ce que vous pourriez être en mesure de classer les individus, et cela vaut également pour les vêtements." La coopération du NYPD avec IBM a depuis servi d'argument de vente pour le produit à la California State University, Northridge. Là-bas, la chef de la police du campus, Anne Glavin, a déclaré que la société de technologie IXP l'avait aidée à vendre le produit d'identification d'objets d'IBM en citant le travail du NYPD avec l'entreprise. «Ils ont parlé de ce que cela a fait pour New York. IBM était très derrière cela, donc c'était évidemment d'un grand intérêt pour nous », a déclaré Glavin. Un coup d'œil rare à l'intérieur du centre de sécurité du Lower Manhattan du département de police de New York, où les flics surveillent les caméras de surveillance, les capteurs environnementaux et les lecteurs de plaques d'immatriculation 24 heures sur 24. Le maire Michael Bloomberg et le commissaire de police Ray Kelly ont annoncé que des caméras de métro sont également surveillées dans le centre – officiellement appelé le centre de coordination de la sécurité du Lower Manhattan. Inspiré du «Ring of Steel» de Londres, le NYPD a ouvert son centre de coordination en 2008. Aujourd'hui, les flics surveillent les flux de plus de 1159 caméras de vidéosurveillance, ce nombre passant à 3 000 à mesure que le programme se développe. (Photo de Timothy Fadek/Corbis via Getty Images)Un moniteur montrant des images de surveillance d'une rue de New York le 20 septembre 2010, vues à l'intérieur du centre de sécurité du Lower Manhattan du département de police de New York. Photo : Timothy Fadek/Corbis via Getty Images Police au jour le jour, préoccupations relatives aux libertés civiles Le programme d'analyse vidéo NYPD-IBM a été initialement envisagé comme un outil de lutte contre le terrorisme à utiliser dans le centre-ville et le bas de Manhattan, selon Kjeldsen. Cependant, le programme a été intégré au cours de sa phase de test dans des dizaines de caméras à travers la ville. Selon l'ancien technologue du NYPD, cela aurait pu être intégré dans les enquêtes criminelles quotidiennes. "Tous les bureaux du département pourraient en faire usage", a déclaré l'ancien technologue, aidant potentiellement les détectives à enquêter sur tout, des crimes sexuels aux cas de fraude. Kjeldsen a parlé de caméras placées aux entrées des bâtiments et à proximité des entrées de parking pour surveiller les flâneurs suspects et les sacs abandonnés. Donald, le porte-parole du NYPD, a déclaré que l'accès au programme était limité à un petit nombre de responsables de la lutte contre le terrorisme, ajoutant : "Nous n'avons connaissance d'aucun cas où l'analyse vidéo a été un facteur dans une arrestation ou des poursuites". La police du campus de la California State University, Northridge, qui a adopté le logiciel d'IBM, a déclaré que les fonctions de recherche corporelle ont été utiles dans les enquêtes criminelles. Interrogé pour savoir si les agents ont déployé la capacité du logiciel à filtrer les images pour la couleur des vêtements, la couleur des cheveux et le teint des suspects, le capitaine Scott VanScoy de la California State University, Northridge, a répondu par l'affirmative, racontant une histoire sur la façon dont les détectives universitaires ont pu utiliser de telles fonctionnalités pour filtrer rapidement à travers leurs caméras et trouver deux suspects dans une affaire d'agression sexuelle. Inscrivez-vous à notre newsletter Reportage original. Journalisme sans peur. Livré chez vous. Je suis dans "Nous avons pu repérer où ils se trouvaient à différents endroits plus tôt dans la soirée et mettre en place une histoire, ce qui nous fait gagner beaucoup de temps", a déclaré Vanscoy. "Au moment où nous avons fait les interviews, nous connaissions déjà l'histoire et ils ne savaient pas que nous l'avions su." Glavin, le chef de la police du campus, a ajouté que des caméras de surveillance utilisant le logiciel d'IBM avaient été placées stratégiquement sur le campus pour capturer les menaces potentielles à la sécurité, telles que les vols de voitures ou les manifestations étudiantes. "Nous avons donc tracé une vidéosurveillance dans cette zone et un chemin de voyage vers notre bâtiment administratif principal, qui est parfois l'endroit où les gens marchent pour faire connaître leurs préoccupations et ils aiment se tenir à l'extérieur de ce bâtiment", a déclaré Glavin. "Ce n'est pas que nous soyons un grand campus de protestation, nous ne sommes certainement pas un Berkeley, mais il était logique de commencer à construire le système de caméra extérieur là-bas." Les défenseurs des libertés civiles se disent alarmés par le secret du NYPD en aidant à développer un programme avec la capacité potentielle de profilage racial de masse. La technologie d'identification construite par IBM pourrait facilement être utilisée à mauvais escient après une attaque terroriste majeure, a fait valoir Rachel Levinson-Waldman, avocate principale du programme Liberté et sécurité nationale du Brennan Center. "Que l'agresseur soit musulman ou non, la présomption est souvent qu'il l'est", a-t-elle déclaré. «Il est facile d'imaginer que les forces de l'ordre sautent à une conclusion sur l'identité ethnique et religieuse d'un suspect, se rendent à la hâte dans la base de données des vidéos stockées et la recherchent à la recherche de toute personne répondant à cette description physique, puis appellent les gens pour un interrogatoire à ce sujet. base." IBM n'a pas commenté les questions sur l'utilisation potentielle de son logiciel pour le profilage racial. Cependant, la société a envoyé un commentaire à The Intercept soulignant qu'elle était "l'une des premières entreprises au monde à adopter un ensemble de principes de confiance et de transparence pour les nouvelles technologies, y compris les systèmes d'IA". La déclaration a poursuivi en expliquant qu'IBM "met à la disposition d'autres entreprises un ensemble de données d'annotations pour plus d'un million d'images pour aider à résoudre l'un des plus gros problèmes de l'analyse faciale - le manque de données diverses pour former les systèmes d'IA". Peu de lois régissent clairement la reconnaissance d'objets ou les autres formes d'intelligence artificielle incorporées dans la vidéosurveillance, selon Clare Garvie, juriste au Georgetown Law's Center on Privacy and Technology. "Toute forme de suivi de localisation en temps réel peut déclencher une enquête du quatrième amendement", a déclaré Garvie, citant une affaire de la Cour suprême de 2012, United States v. Jones, qui impliquait que la police surveillait la trajectoire d'une voiture sans mandat et avait abouti à cinq juges suggérant que les individus pourraient raisonnablement s'attendre à ce que leur vie privée soit respectée dans leurs déplacements publics. En outre, a-t-elle ajouté, toute forme de « surveillance basée sur l'identité » peut compromettre le droit des personnes à s'exprimer et à s'associer en public dans l'anonymat. Garvie a noté que si la technologie de reconnaissance faciale a été fortement critiquée pour le risque de fausses correspondances, ce risque est encore plus élevé pour un système d'analyse "suivi d'une personne par d'autres caractéristiques, comme la couleur de ses vêtements et sa taille", qui ne sont pas uniques. les caractéristiques. L'ancien technologue du NYPD a reconnu que les systèmes d'analyse vidéo peuvent faire des erreurs et a noté une étude dans laquelle le logiciel avait du mal à caractériser les personnes de couleur : "Ce n'est jamais à 100 %". Mais l'identification par le programme de suspects potentiels n'était, a-t-il noté, que la première étape d'une chaîne d'événements qui repose fortement sur l'expertise humaine. "Les opérateurs technologiques remettent les données au détective", a déclaré le technologue. «Vous utilisez toutes vos bases de données pour rechercher des suspects potentiels et vous les donnez à un témoin pour qu'il les examine. … Il s'agit de trouver un moyen de raccourcir le temps nécessaire pour attraper les mauvaises personnes. Selon Jerome Greco, avocat spécialisé en criminalistique numérique à la Legal Aid Society, la plus grande organisation de défenseurs publics de New York, les programmes d'identification d'objets pourraient également attirer injustement les gens vers la suspicion de la police simplement en raison de caractéristiques physiques génériques. "J'imagine un scénario où une vague description, comme un jeune homme noir en sweat à capuche, est introduite dans le système, et l'algorithme non divulgué du logiciel identifie une personne dans une vidéo marchant à quelques pâtés de maisons de la scène d'un incident", a déclaré Greco. . "La police trouve une excuse pour l'arrêter et, après l'arrêt, un officier dit que l'individu correspond à une description de l'incident précédent." Tout d'un coup, a poursuivi Greco, "un homme qui se promenait dans son propre quartier" pourrait être accusé d'un crime grave sans que lui ou son avocat ne sache jamais "que tout découle d'un programme secret qu'il ne peut pas contester". Bien que la technologie puisse être utilisée pour un travail approprié d'application de la loi, Kjeldsen a déclaré que ce qui le dérangeait le plus dans son projet était le secret que lui et ses collègues devaient maintenir. "Nous ne pouvions certainement pas parler des caméras que nous utilisions, des capacités que nous mettions sur les caméras", a déclaré Kjeldsen. "Ils voulaient contrôler la perception et la sensibilisation du public au LMSI" - l'Initiative de sécurité du Lower Manhattan - "nous avons donc toujours dû être prudents même sur cette partie, que nous sommes impliqués, avec qui nous étions impliqués, et ce que nous faisaient." (IBM n'a pas répondu à une question demandant à ses employés de ne pas parler publiquement de son travail avec le NYPD.) La façon dont le NYPD a aidé IBM à développer cette technologie sans le consentement du public crée un dangereux précédent, a expliqué Kjeldsen. « Y a-t-il certaines activités qui ne concernent personne quoi qu'il arrive ? » Il a demandé. « Y a-t-il certains endroits sur les limites des espaces publics qui ont une attente d'intimité ? Et puis, comment construire des outils pour faire respecter cela ? C'est là que nous avons besoin de la conversation. C'est exactement pourquoi la connaissance de cela devrait devenir plus largement disponible – afin que nous puissions comprendre cela.