Incidents associés
Points clés:
- L'entreprise a surpris son propre comité d'éthique en annonçant la proposition d'avoir des drones armés de Taser dans les écoles
- Le directeur général a déclaré qu'il était déçu que les membres du conseil d'administration aient démissionné avant de discuter de leurs objections
- Le comité d'éthique a déclaré qu'il avait déjà voté contre une proposition de drone de police armé de Taser
Le fabricant de Taser, Axon Enterprise, a déclaré qu'il interrompait les travaux sur un projet visant à équiper les drones de pistolets paralysants pour lutter contre les tirs de masse, une perspective qu'un membre de son comité d'éthique de l'IA a déclaré provoquer un exode massif du panel.
La fusillade du 24 mai dans une école à Uvalde, Texas qui a tué 21 personnes a incité Axon à annoncer la semaine dernière qu'il travaillait sur un drone qui pourrait être actionné à distance par les premiers intervenants pour tirer un taser sur une cible jusqu'à 12 mètres de distance.
Il a déclaré que les drones pourraient voler dans les écoles et "aider à prévenir le prochain Uvalde, Sandy Hook ou Columbine".
Cependant, le comité d'éthique de l'entreprise s'est fermement opposé au projet, publiant une déclaration qualifiant l'idée d '"expansion notable" des plans contre lesquels il avait déjà voté.
Le membre du comité d'éthique, Wael Abd-Almageed, a déclaré dimanche à Reuters que lui et huit collègues démissionnaient du panel de 12 membres, dans une rare réprimande publique de l'un des groupes de surveillance que certaines entreprises ont mis en place ces dernières années.
Plus tard, le fondateur et directeur général Rick Smith a annoncé que le projet était suspendu.
"À la lumière des commentaires, nous suspendons les travaux sur ce projet et nous nous recentrons pour nous engager davantage avec les principales parties prenantes afin d'explorer pleinement la meilleure voie à suivre", a-t-il déclaré dans un communiqué.
Il a déclaré qu'il était malheureux que certains membres du comité consultatif sur l'éthique aient "choisi de se retirer de l'engagement direct sur ces questions avant que nous ayons entendu ou eu l'occasion de répondre à leurs questions techniques".
La police a été critiquée pour ne pas avoir réagi assez rapidement lorsqu'un homme armé est entré dans la Robb Elementary School à Uvalde, au Texas. (AP : William Luther/The San Antonio Express-News)
La fusillade d'Uvalde a provoqué une annonce publique
Axon, qui a développé le Taser et les vend aux côtés des caméras corporelles de la police, a lancé l'année dernière l'idée d'un nouveau produit de drone de police à son comité d'éthique de l'intelligence artificielle, un groupe d'experts très respectés en technologie, police et confidentialité.
Certains d'entre eux ont exprimé des réserves quant à l'armement des drones dans les communautés de couleur sur-policées.
Mais ils ne s'attendaient pas à ce qu'Axon annonce jeudi dernier qu'elle souhaitait envoyer ces drones équipés de Taser dans les salles de classe pour empêcher les tirs de masse en immobilisant un tireur intrus.
Dans une interview avec l'Associated Press à l'époque, M. Smith a déclaré qu'il se sentait obligé de rendre l'idée publique après la fusillade de masse à Uvalde, se disant "catastrophiquement déçu" de la réponse de la police qui n'est pas intervenue pour tuer le suspect. pendant plus d'une heure.
Il a également qualifié les plans d'armement des enseignants de "malavisés" et a déclaré qu'il souhaitait aligner un "éventail de voix beaucoup plus large".
Mais il a souligné vendredi qu'aucun produit n'avait été lancé et que tout lancement potentiel serait imminent.
L'idée, a-t-il estimé, devait être partagée en raison de la conversation publique sur les moyens efficaces pour la police d'affronter en toute sécurité les agresseurs et sur la manière dont les écoles pourraient accroître la sécurité.
"C'est une idée qui devrait entrer dans la conscience du public pendant que nos esprits y sont ouverts et j'ai senti que si j'attendais encore six mois, le monde va changer et les gens vont oublier cette douleur et nous allons voir un changement dans les sentiments où les gens vont se concentrer beaucoup plus sur ce qui pourrait mal tourner, plutôt que sur la douleur de ce problème que nous devons résoudre », a-t-il déclaré.
Le cours de l'action d'Axon a augmenté avec la nouvelle, mais l'annonce a provoqué la colère des membres du comité d'éthique.
"Cette idée particulière est folle", a déclaré Barry Friedman, professeur de droit à l'Université de New York.
"Les drones ne peuvent pas voler à travers des portes fermées. Les propriétés physiques de l'univers sont toujours valables. Donc, à moins que vous n'ayez un drone dans chaque salle de classe en Amérique, ce qui semble insensé, l'idée ne fonctionnera tout simplement pas."
Le professeur Friedman a déclaré qu'il s'agissait d'une "idée dangereuse et fantastique" qui allait bien au-delà de la proposition d'un drone de police équipé d'un taser dont les membres du conseil - dont certains étaient d'anciens ou d'actuels policiers - avaient débattu ces derniers mois.
"Nous avons supplié l'entreprise de ne pas le faire", a déclaré le professeur Friedman à propos de l'annonce de l'entreprise.
"C'était inutile et honteux."
L'idée du produit avait été lancée chez Axon depuis au moins 2019 et l'entreprise avait travaillé pour essayer de déterminer si un drone avec un Taser était même une idée réalisable.
Au cours de l'année dernière, la société a créé des rendus artistiques générés par ordinateur pour simuler la conception d'un produit et a effectué un test interne pour voir si des fléchettes Taser - qui transmettent une secousse électrique immobilisante - pouvaient être tirées à partir d'un drone volant, a déclaré M. Smith.
Il a ajouté qu'il avait discuté de la possibilité de développer un tel produit avec le comité d'éthique.
Les membres du conseil d'administration qui se sont entretenus avec l'Associated Press ont déclaré avoir été surpris par la proposition de drone scolaire – dont ils n'ont été informés que plus tôt la semaine dernière – et ont concocté une déclaration unanime de préoccupation décrivant la décision d'Axon comme "profondément regrettable".
La société a tweeté la dissidence du conseil d'administration peu de temps après sa propre annonce jeudi.
Certains membres du conseil s'attendaient à des démissions, le professeur de droit Ryan Calo affirmant qu'il "ne serait pas surpris".
"Je pense que tous les membres du conseil doivent décider s'ils veulent rester impliqués", a-t-il déclaré.
Les professeurs Friedman et Calo ont tous deux décrit le processus de la semaine dernière comme un revirement brutal de la relation respectueuse que les dirigeants d'Axon entretenaient avec le conseil d'administration ces dernières années sur des sujets controversés tels que la reconnaissance faciale – qu'Axon a décidé de ne pas utiliser dans ses caméras corporelles – et les lecteurs de plaques d'immatriculation automatisés. .
"Parfois, l'entreprise suit nos conseils et parfois non", a déclaré le professeur Friedman.
"Ce qui est important, c'est que cela se produise après une discussion et une coordination réfléchies. Cela a été jeté par la fenêtre ici."
La semaine dernière, M. Smith a déclaré que la société en était encore aux toutes premières phases de développement de produits et continuerait de consulter le comité d'éthique, ainsi que les responsables de l'application des lois, les dirigeants communautaires et les responsables scolaires.
Il a reconnu à l'époque que l'entreprise pourrait décider plus tard que l'idée n'était pas réalisable et l'abandonner, mais a déclaré qu'il n'avait pas ignoré le conseil d'administration, qui était censé fournir des conseils.
Vendredi, dans une discussion "Ask Me Anything" sur le forum en ligne Reddit, M. Smith a reconnu que "les drones dans les écoles peuvent sembler fous", mais a ensuite répondu à des questions détaillées à leur sujet.
Ils pourraient traverser les bouches d'aération de l'école, a-t-il dit, et se percher sur les portes et les murs près des plafonds.
Il a dit que cela pourrait être une "bonne chose" si un homme armé essayait d'en abattre un, car cela les empêcherait d'essayer de tuer des gens.