Problème 2310
Lors d'une série de réunions Zoom peu remarquées cet automne, la ville d'Oakland, en Californie, s'est attaquée à une question dont les conséquences pourraient façonner l'avenir de la police américaine : les flics devraient-ils pouvoir tuer des gens avec des robots armés de fusils de chasse ?
Les allers-retours entre le département de police d'Oakland et un organe de surveillance civil se sont conclus par l'abandon par la police de ses efforts en faveur d'un langage officiel qui lui aurait permis de tuer des humains avec des robots dans certaines circonstances. C'était une concession au comité civil, qui a poussé à interdire l'armement des robots avec des armes à feu – mais une concession seulement pour le moment.
Le département a déclaré qu'il continuerait à rechercher des options létales. Lorsqu'on lui a demandé si le département de police d'Oakland continuerait à plaider en faveur d'un langage qui autoriserait les robots tueurs dans certaines circonstances d'urgence, le lieutenant Omar Daza-Quiroz, qui représentait le département lors des discussions sur la politique d'utilisation autorisée des robots, a déclaré à The Intercept : "Oui , nous examinons cela et faisons plus de recherches en ce moment.
La controverse a commencé lors de la réunion du 21 septembre d'un sous-comité de la commission de police d'Oakland, un conseil de surveillance civile traitant des règles qui devraient régir l'utilisation de l'arsenal d'équipements de police de qualité militaire de la ville. Selon la loi de l'État de Californie, la police doit demander l'approbation d'un organe directeur local, comme un conseil municipal, pour déterminer les utilisations autorisées d'équipements militaires ou d'armes telles que des grenades assourdissantes et des drones. Une grande partie de la réunion de septembre s'est concentrée sur les éléments de base de la police américaine moderne, les commissaires débattant des utilisations autorisées des grenades flash, des gaz lacrymogènes et d'autres équipements désormais standard avec des représentants du département de police d'Oakland.
Environ deux heures après le début de la réunion, cependant, la conversation s'est déplacée vers l'écurie de robots de la police d'Oakland et leurs accessoires. L'un de ces accessoires est le "perturbateur non électrique actionné par percussion" en forme de pistolet, un outil préféré des escadrons anti-bombes chez eux [et en temps de guerre](https://asc.army.mil/docs/pubs/alt/2005/1_JanFeb/articles /33_TARDEC_Helps_to_Keep_EOC_Soldiers_Safe_200501.pdf). Le disrupteur PAN se fixe à un robot et dirige une force explosive - généralement une cartouche de fusil à blanc ou de l'eau sous pression - sur les bombes suspectes tandis que les opérateurs humains restent à une distance de sécurité. Imaginez un canon de fusil de chasse fixé à un Roomba de 800 livres sur des chenilles de char.
Tout en décrivant les précautions de sécurité prises lors de l'utilisation du perturbateur PAN, Daza-Quiroz a déclaré au sous-comité que le département veille tout particulièrement à s'assurer qu'il s'agit bien d'une balle à blanc chargée dans le pistolet du robot. Cela a conduit Jennifer Tu, clairement perplexe, membre de l'American Friends Service Committee et membre du sous-comité de la commission de police d'Oakland sur la police militarisée, à demander : « Une balle réelle peut-elle entrer physiquement et que se passe-t-il si une balle réelle entre ? ”
"Ouais, physiquement, un tour en direct peut entrer", a répondu Daza-Quiroz. "Absolument. Et vous recevriez un coup de fusil de chasse.
Après un bref silence, le commissaire Jesse Hsieh a posé la question suivante : "Le département prévoit-il d'utiliser une balle réelle dans le robot perturbateur PAN ?"
La réponse a été immédiatement provocatrice. "Non", a déclaré Daza-Quiroz, avant de passer rapidement à des scénarios hypothétiques dans lesquels, oui, un tel robot armé d'un fusil de chasse pourrait être utile à la police. «Je veux dire, est-il possible que nous ayons un tireur actif dans un endroit où nous ne pouvons pas nous rendre? Et il est fortifié dans une maison ? Ou nous essayons d'atteindre une personne..."
Il est vite devenu clair que le département de police d'Oakland disait ce que presque toutes les agences de sécurité disent lorsqu'elles demandent au public de lui faire confiance avec un nouveau pouvoir alarmant : nous ne l'utiliserons qu'en cas d'urgence, mais nous devons décider de ce qui est une urgence.
La question de savoir si les robots conçus à l'origine pour désamorcer les bombes devraient être convertis en armes télécommandées touche à plusieurs sujets au centre des débats nationaux : la police utilisant la force létale, la militarisation de la vie américaine et, surtout, les robots tueurs. Les détracteurs des robots-flics armés notent que l'idée de drones Predator regardant Manifeste pour la justice raciale américaine peut avoir semblé tout aussi tiré par les cheveux dans les années qui ont précédé cela a commencé à se produire. "Ce n'est pas que nous ne voulons pas débattre de la manière d'utiliser ces outils en toute sécurité", a déclaré Liz O'Sullivan, PDG de la startup d'audit des biais d'IA Parity et membre du Comité international pour le contrôle des bras robotiques. "C'est une question de savoir, si nous les utilisons du tout, quel sera l'impact sur la démocratie?"
Certains observateurs disent que le plan robotique de la police d'Oakland se contredit. "Il est présenté comme un facilitateur de désescalade, mais ils veulent le garder ouvert comme une arme mortelle potentielle", a tweeté Jaime Omar Yassin, un journaliste indépendant d'Oakland qui a documenté les réunions de la commission, (https://twitter. com/hyphy_republic/status/1573158598494064641). Comme pour tout jouet de haute technologie, la tentation d'utiliser une technologie de pointe peut dépasser les barrières institutionnelles mises en place par la police. Matthew Guariglia, analyste politique à l'Electronic Frontier Foundation, a déclaré : « La facilité d'utilisation des armes ainsi que la dangereuse jurisprudence justifiant l'utilisation occasionnelle d'armes rendent la police moins susceptible de tenter de désamorcer les situations.
"Cela réduit à bien des égards l'obstacle psychologique pour commettre cette violence alors qu'il ne s'agit que d'un bouton sur une télécommande."
Tu espère qu'en réprimant les robots fusils de chasse avant leur apparition, Oakland et les villes du pays pourront éviter les débats sur les limites des pouvoirs de la police qui ne surviennent qu'après l'abus de ces pouvoirs. Elle a souligné l'interdiction par la police d'Oakland d'utiliser des tuyaux d'incendie, un rappel amer des abus dans la police américaine d'un passé pas si lointain. "Nous avons actuellement une opportunité d'empêcher le procès qui forcera la politique à être réécrite", a déclaré Tu. "Nous avons la possibilité de prévenir la situation, le préjudice, le traumatisme qui se produirait pour qu'une action en justice doive être engagée."
Les sceptiques de la police robotisée, y compris Tu, disent que ces débats doivent avoir lieu aujourd'hui pour anticiper les abus de demain, en particulier en raison de la distance littérale et figurative que le meurtre robotique permet. Guariglia a déclaré: "Cela réduit à bien des égards l'obstacle psychologique pour commettre cette violence alors qu'il ne s'agit que d'un bouton sur une télécommande."
Alors que l'audience de la commission d'Oakland se poursuivait, Daza-Quiroz a invoqué un [incident de 2016 à Dallas] controversé (https://theintercept.com/2016/07/08/how-the-dallas-police-used-an-improvised-killer -robot-pour-abattre-le-sniper/). La police avait attaché une bombe C-4 à un robot appartenant à la ville et l'avait utilisée pour faire exploser un tireur d'élite qui avait tué cinq policiers lors d'un rassemblement au centre-ville. Il est largement considéré comme le premier exemple de meurtre policier robotisé du pays. Alors que la police a généralement annoncé l'ingéniosité de la réponse, d'autres [l'ont critiquée comme une exécution sommaire par un robot](https://www.washingtonpost.com/national/dallas-police-used-a-robot-to-kill-what-does -that-mean-for-the-future-of-police-robots/2016/07/20/32ee114e-4a84-11e6-bdb9-701687974517_story.html). Dans un e-mail à The Intercept, Daza-Quiroz a déclaré que le département envisageait d'armer le perturbateur PAN sur le robot Northrop Grumman Remotec Andros Mark 5-A1 de 280 000 $ du département – le même modèle utilisé de manière si controversée à Dallas.
Daza-Quiroz a noté que le département n'avait jamais tenté de charger une balle réelle dans le pistolet PAN de peur de rompre l'attachement de 3 000 $. Pourtant, lorsque Tu a demandé si la commission pouvait ajouter un langage politique interdisant d'armer le robot avec des cartouches mortelles de fusil de chasse de calibre 12, la vision du département en matière de police robotique est devenue plus claire. "Je ne veux pas ajouter une utilisation interdite", a répondu Daza-Quiroz, "parce que et si nous en avions besoin pour une situation plus tard?"
Daza-Quiroz a expliqué qu'un hypothétique robot armé mortellement serait toujours soumis à la politique de recours à la force du ministère. Le lieutenant Joseph Turner du département de police d'Oakland, soulignant la nécessité de garder des options extrêmes sur la table pour des circonstances extrêmes, a exhorté la commission à autoriser un tel robot tueur en cas d '«exigences». Il a dit: "Je suis sûr que ces officiers ce jour-là au Texas n'avaient pas prévu qu'ils allaient lancer une bombe à l'aide d'un robot."
Les assurances du département de police d'Oakland selon lesquelles un robot armé d'un fusil de chasse serait soumis à la politique départementale de recours à la force n'ont pas semblé satisfaire les critiques. Le messager n'avait pas non plus un dossier qui inspire confiance. Un rapport East Bay Express 2013 sur Daza-Quiroz et le meurtre par un autre officier d'un homme non armé d'Oakland a été retrouvé qu'il avait fait l'objet de plus de 70 plaintes pour force excessive. (Un procès incité un règlement à six chiffres de la ville et du jury jugé pour les policiers dans un autre ; les policiers n'ont jamais été inculpés d'un crime, et un arbitre infirmé le chef de la police décision de sanctionner les policiers. La porte-parole de la police, Candace Keas, a refusé de commenter les dizaines de plaintes pour force excessive.)
À la suite de la fusillade, qui a provoqué des protestations, le [East Bay Times a rapporté] (https://www.eastbaytimes.com/2013/03/21/recording-oakland-officer-who-shot-an-unarmed-man -dit-il-voulait-être-mortel/) qu'un enquêteur interne a demandé à Daza-Quiroz pourquoi il n'avait pas utilisé son Taser à la place. Il a répondu: "Je voulais devenir mortel."
"Vous avez un marteau, tout ressemble à un clou."
La préoccupation est donc moins que la police utilise un robot fusil de chasse dans «certains événements catastrophiques, à haut risque, à haut risque et faisant de nombreuses victimes» – comme le dit actuellement le langage politique provisoire privilégié par le département – mais qu'un tel robot serait être déployé lorsque la police veut simplement devenir mortelle. Les caprices de ce qui constitue précisément un événement "à haut risque" ou qui détermine la signification de "menace élevée" donnent trop de latitude à la police, a déclaré Tu à The Intercept dans une interview. "Ce n'est pas un terme technique, il n'y a pas de définition", a-t-elle déclaré. "Ça ne veut rien dire." Lorsqu'on lui a demandé par e-mail des définitions précises de ces termes, Daza-Quiroz a déclaré: "Les incidents à haut risque et à forte menace peuvent varier en portée et en nature et font partie des aspects les plus difficiles de l'application de la loi."
Les critiques disent qu'un langage aussi ambigu signifie que la police d'Oakland pourrait utiliser un robot pour tuer quelqu'un chaque fois qu'elle déciderait qu'elle a besoin d'un robot pour tuer quelqu'un. La politique a des analogues dans le travail policier plus courant : après avoir tiré sur des personnes non armées, les agents [offrent fréquemment des justifications post-hoc] (https://theintercept.com/2022/08/13/chicago-police-killing-bodycam-harith-augustus /) qu'ils sentaient que leur vie était en danger.
"Chaque fois que quelqu'un a un outil, il va l'utiliser davantage", a déclaré Tu. « Vous avez un marteau, tout ressemble à un clou. Et plus la police, en général, a du matériel militaire, a plus d'armes, plus ces armes sont utilisées.
Après des semaines de querelles, la commission et le service de police se sont mis d'accord sur un langage interdisant toute utilisation offensive de robots contre des personnes, à l'exception de la livraison de gaz poivré. L'accord sera soumis à l'examen du conseil municipal le 18 octobre.
Tu soupçonne que le compromis soudain sur la politique des robots tueurs ne s'explique pas par un changement d'avis, mais plutôt par le simple fait que si le débat avait continué plus longtemps, le ministère aurait raté la date limite de soumission d'une politique — et risquait de perdre le capacité à exploiter légalement ses robots.
Rien n'empêche le département de police d'Oakland, comme Daza-Quiroz l'a dit, de continuer à faire pression pour un meurtre sanctionné par la loi à l'aide d'un perturbateur PAN. Quelle que soit l'évolution de la politique d'Oakland à long terme, le problème de la police robotique restera probablement. "Je suis sûr que Dallas [police] n'était pas le seul à avoir envisagé la force létale avec son robot avant de le faire, et la police d'Oakland n'est pas la seule à y penser encore plus maintenant", a déclaré Tu. L'interception. "Ils sont juste les seuls à y avoir pensé à voix haute avec un comité."
Selon Daza-Quiroz, le département est toujours tourné vers l'avenir. "Nous n'armerons pas de sitôt des robots avec des obus mortels, et si, et quand ce moment viendra, chaque événement sera évalué avant un tel déploiement", a-t-il déclaré. Lorsqu'on lui a demandé s'il y avait d'autres situations au-delà d'un tireur d'élite de style Dallas dans lesquelles la police pourrait vouloir tuer avec un robot, Daza-Quiroz a ajouté : « Absolument, il y a beaucoup plus de scénarios.
Avec des milliers de robots Andros exploités par des centaines de services de police à travers le pays, ceux qui sont préoccupés par la perspective de robots fusils de chasse dans les rues d'Oakland ou ailleurs se réfèrent à ce qu'ils disent être un antécédent clair avec d'autres matériels militarisés : le fluage de mission.
"On ne parle pas vraiment d'un terrain glissant. Cela ressemble plus à un manuel de jeu bien exécuté pour normaliser la militarisation.
Une fois qu'une technologie est réalisable et autorisée, elle a tendance à s'attarder. Tout comme les drones, les [camions] à l'épreuve des mines(https://www.theguardian.com /us-news/2020/aug/02/california-sheriffs-department-mrap-armored-vehicles-trump) et [appareils Stingray](https://www.aclu.org/news/privacy-technology/ice- and-cbp-are-secretly-tracking-us-using-stingrays-were-suing) a dérivé des champs de bataille du Moyen-Orient vers [villes américaines] (https://theintercept.com/2021/09/20/ndaa-military-equipment -police-1033/), les critiques de la proposition de perturbateur PAN affirment que les affirmations de la police d'Oakland selon lesquelles les robots mortels ne seraient utilisés que dans une urgence publique sur un million ne sont pas confirmées par l'histoire. Le passé récent est jonché d'exemples de technologies initialement destinées à la guerre rassemblées à la place contre, disons, un discours protégé par la Constitution, comme [ce qui arrivait fréquemment](https://www.npr.org/2020/07/01/885942130/militarization-of -police-signifie-que-les-manifestants-affrontent-des-armes-conçues-pour-la-guerre) lors des manifestations de George Floyd.
« En faisant ce travail depuis quelques années, on se rend compte qu'on ne parle pas vraiment d'un terrain glissant. Cela ressemble plus à un manuel de jeu bien exécuté pour normaliser la militarisation », a déclaré O’Sullivan, de Parity. Il n'y a aucune raison de penser que le disrupteur PAN sera différent : "On peut imaginer des applications de cet outil particulier qui peuvent sembler raisonnables, mais avec très peu de modifications, ou même simplement différents types de munitions, ces outils peuvent facilement être transformés en armes contre la démocratie. contestation."