Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 2095

Incidents associés

Incident 3493 Rapports
Evolv AI Weapons Detection System Allegedly Misrepresents Accuracy, Leading to School Security Gaps

Loading...
« Le jour le moins sûr » : le déploiement de scanners IA de détection d'armes à feu dans les écoles a été un « groupe », montrent les e-mails
vice.com · 2022

Le 22 mars, Jennifer Dean, directrice de l'école secondaire Mallard Creek à Charlotte, en Caroline du Nord, a envoyé un e-mail aux membres de son personnel pour les informer de l'installation d'un nouveau système de sécurité. Fabriqué par une société basée au Massachusetts appelée Evolv Technology, le système prétend utiliser l'intelligence artificielle pour détecter les armes à feu et autres armes dissimulées en scannant les personnes lorsqu'elles entrent dans un bâtiment. "Je suis enthousiasmé par le nouvel équipement et notre processus de numérisation, qui deviendra une autre couche de soutien à la sécurité pour notre école", a écrit Dean dans un e-mail annonçant l'installation des scanners à Mallard Creek High. "Nous avons l'opportunité unique, grâce à l'utilisation de ces scanners, de détecter de manière proactive les armes chaque jour et de dissuader les gens d'apporter des armes sur notre campus." Evolv a été particulièrement optimiste dans la commercialisation de sa nouvelle technologie. Son PDG a fait plusieurs apparitions dans les médias à la suite des fusillades meurtrières à Uvalde, au Texas, et à Buffalo, dans l'État de New York, dans lesquelles il [impliquait que son système aurait pu empêcher les tragédies] (https://www.washingtonpost.com/ technologie/2022/05/20/evolv-metal-detectors-gun-detection/). Les écoles ont joué un rôle clé parmi ses clients, qui comprennent également des stades sportifs et d'autres grandes salles à travers le pays. L'e-mail du directeur, l'un des quelque 2 000 envoyés à Motherboard dans le cadre d'une demande d'enregistrement public auprès du district scolaire, correspondait à ce que dit Evolv Technology à propos de son système de sécurité. Sur son site Web, la société décrit la technologie comme un "système de contrôle des armes basé sur l'IA" qui permettra aux gens de "passer rapidement les points de contrôle de sécurité à un rythme fluide, en sachant ils sont bien protégés partout à l'intérieur de votre salle. L'entreprise se vante à plusieurs reprises de son système "sans file d'attente" ne nécessite "pas d'arrêt", de vidage des poches ou de retrait du contenu des sacs, et qu'il faut moins de personnel de sécurité que avec des détecteurs de métaux traditionnels. Il n'existe actuellement aucune recherche évaluée par des pairs montrant que la détection des armes à feu par IA est efficace pour prévenir les tirs, et Evolv a fourni peu de preuves à l'appui des affirmations sur l'efficacité de son système à atteindre ces objectifs. Les écoles ont également rencontré des problèmes avec les [scanners confondant les ordinateurs portables et autres objets du quotidien avec des armes à feu](https://www.vice.com/en/article/4awe7m/chromebooks-or-handguns-sensors-nyc-mayor-wants-to -installer-sur-le-métro-peut-avoir-du-difficulté-à-dire-la-différence). Mais les documents obtenus par Motherboard fournissent un aperçu plus détaillé de la manière dont les scanners Evolv sont réellement déployés et des problèmes auxquels ils sont réellement confrontés. Sur le terrain, la réalité du déploiement des scanners Evolv est très différente de ce que suggèrent les supports marketing. Certains administrateurs d'école signalent que les scanners ont provoqué le «chaos» - ne parvenant pas à détecter les armes de poing courantes aux réglages de sensibilité couramment utilisés, confondant les articles scolaires de tous les jours avec des armes mortelles et ne tenant pas la promesse de l'entreprise d'une sécurité scolaire sans friction. "Aujourd'hui était probablement le jour le moins sûr", une directrice a observé que des scanners de jour étaient déployés dans son école, car les machines déclenchaient de fausses alarmes et nécessitaient des recherches manuelles sur "presque tous les enfants pendant qu'ils traversaient", monopolisant l'attention des agents de sécurité qui autrement surveillerait les couloirs et les autres entrées. Le Charlotte Mecklenburg School District (CMS) a acheté les scanners Evolv parce qu'il avait un problème d'arme à feu. Vingt-trois armes ont été trouvées parmi ses [180 campus](https://www.cms.k12.nc.us/ communications/aboutus/Pages/default.aspx) avec plus de 140 000 élèves au cours des quatre premiers mois de l'année scolaire avant l'achat des scanners. Les scanners Evolv étaient l'une des mesures identifiées par le groupe de travail sur la sécurité et le bien-être des élèves du district, selon un e-mail du 2 janvier du chef de la police du district scolaire, Melissa Mangum. Le district scolaire a rapidement accepté de payer 4,9 millions de dollars pour un abonnement au service afin d'installer des scanners dans ses 21 lycées pour une période de quatre ans. Le district scolaire s'est vanté publiquement que les scanners étaient un succès parce que le nombre d'armes trouvées sur le campus est tombé à sept de janvier à juin. Cependant, ce nombre était déjà en baisse. En réalité, c'était loin d'être une réussite aussi retentissante, selon les e-mails obtenus par Motherboard via la demande de documents publics. Parmi les résultats : * Il n'y a aucune preuve dans les milliers de courriels que le district ait jamais demandé plus d'informations sur le fonctionnement réel des scanners, et les administrateurs ont ignoré les preuves qu'ils ne détectent pas les armes avec une fiabilité parfaite. Par exemple, avant la signature du contrat, un autre district scolaire a informé CMS qu'il était en mesure de faire passer un pistolet Glock à travers les machines sans détection au réglage de sensibilité qu'ils utilisent quotidiennement. * Le personnel de marketing et de vente d'Evolv a été régulièrement mis en boucle dans des fils de discussion sur la façon de répondre aux demandes des médias et aux préoccupations du personnel ” (comme en abrégé pour “clusterfuck”). "Actuellement, la réalité est que les" armes d'instruction de masse "déclenchent presque tous les enfants lorsqu'ils traversent", a déclaré le directeur. * Des experts en sécurité consultés par le district après le déploiement bâclé ont averti le système scolaire qu'il n'y avait "aucune magie dans aucun de ces" correctifs proposés et que la chose la plus simple à faire serait de dire aux élèves de "s'y rendre plus tôt". * Les preuves statistiques que les scanners d'Evolv ont rendu les écoles plus sûres sont faibles. Au cours de l'année scolaire 2021-2022, 30 armes à feu ont été trouvées sur les campus de l'école par des moyens autres que les scanners Evolv, contre une détectée par les scanners. Une baisse des armes à feu trouvées sur le campus a commencé des mois avant la mise en œuvre des scanners Evolv, suggérant que d'autres mesures telles qu'un système de pourboire anonyme via une application pour smartphone étaient plus efficaces. * Après la fusillade d'Uvalde, plusieurs parents inquiets ont envoyé un e-mail au district scolaire pour demander ce qui était fait pour assurer la sécurité des enfants. Le président du conseil scolaire a répondu en disant aux parents: "Un scanner corporel n'aurait pas arrêté ce qui s'est passé à l'école d'Uvalde (ou Marjorie Stoneman Douglas HS, ou Sandy Hook Elementary)." Mais dans un modèle d'e-mail conçu plus tard pour répondre à de telles demandes, l'équipe de communication du district n'a pas inclus ce fait et a plutôt répertorié les scanners corporels comme mesure préventive contre les fusillades de masse. Les experts en sécurité pensent généralement que les scanners corporels et les détecteurs de métaux n'empêchent pas les tirs de masse, un fait qu'Evolv a reconnu lorsqu'on lui a demandé directement. Un porte-parole du district scolaire de Charlotte Mecklenburg a contesté que les scanners aient été un théâtre de sécurité coûteux. "Le personnel et les étudiants ont réagi à l'installation des scanners corporels de manière extrêmement positive", a déclaré Cassie Fambro, porte-parole de CMS. "Les étudiants et le personnel déclarent se sentir plus en sécurité, non seulement à cause des scanners seuls, mais à cause de l'approche multicouche de la sécurité qui comprend, mais sans s'y limiter, les portes extérieures verrouillées, les systèmes de caméras, les systèmes d'entrée avec caméra/haut-parleur, [et\ ] le système de signalement de Say Something Anonymous. Après que Motherboard ait envoyé à Evolv une liste détaillée de questions pour cette histoire, la directrice du marketing d'Evolv, Dana Loof, a répondu par une déclaration écrite : « En tant que politique, nous ne commentons pas la mise en œuvre d'Evolv par nos clients, ni leurs protocoles de sécurité. De nombreux facteurs entrent en jeu dans la sécurité physique, c'est-à-dire le maintien des armes hors des endroits où elles ne devraient pas se trouver, notamment la technologie, les personnes et les processus, qui doivent tous travailler ensemble pour atténuer efficacement une menace. Les systèmes avancés de détection d'armes sont une expérience complètement nouvelle pour la plupart des écoles qui les déploient et présentent des défis de sécurité uniques. Pour nous assurer qu'ils disposent de toutes les informations nécessaires pour créer un environnement plus sûr, nous sommes totalement transparents avec nos clients et les professionnels de la sécurité en ce qui concerne notre système : comment fonctionne la technologie, quelles peuvent être les limites et ce dont ils doivent rendre compte. pour. Nos clients testent nos produits et discutent avec d'autres clients, dont beaucoup sont indépendants, avant de prendre la décision d'aller de l'avant. » Evolv et CMS ont tous deux refusé de discuter des détails du fonctionnement du système de sécurité, des paramètres de sensibilité qu'il utilise et des objets qui peuvent et ne peuvent pas passer à travers différents paramètres. Fambro a refusé de le faire par « excès de prudence pour la sécurité des élèves ». Le porte-parole d'Evolv est allé encore plus loin, affirmant sans explication que le simple fait de rendre compte des scanners ou de leur fonctionnement met en danger les étudiants. "Notre note pour vous, en tant que journaliste faisant votre travail : en communiquant publiquement des informations détaillées sur les paramètres de sensibilité, les protocoles et les processus, vous exposez les étudiants et les éducateurs à des risques et des vies en danger", a déclaré Dana Loof, directrice du marketing d'Evolv, dans un communiqué envoyé à Motherboard. . Dans l'ensemble, les e-mails et les rapports supplémentaires de Motherboard montrent des difficultés de croissance importantes pour une entreprise qui s'est rapidement développée dans des lieux majeurs à travers le pays tels que les stades de la NFL, les musées et les salles de concert de classe mondiale, ainsi que des lieux publics tels que les hôpitaux et les écoles. Malgré la noble rhétorique publique d'Evolv, les e-mails et les documents d'accompagnement révèlent une tension fondamentale dans la stratégie d'Evolv entre la sécurité et la commodité, une tension dont il n'est pas clair qu'elle sera jamais complètement résolue ou peut même s'améliorer. "Ces e-mails révèlent à quel point Evolv est trompeur et trompeur", a déclaré Donald Maye, chercheur en sécurité au sein de la société IPVM, qui enquête activement sur les systèmes d'Evolv depuis des mois. "Comment je vois les choses : le marketing d'Evolv brosse un tableau qui se heurte fondamentalement à la réalité sur le terrain." Le 24 janvier, un agent d'achat du district scolaire s'est entretenu avec un agent des services aux étudiants du district scolaire de Spartanburg, en Caroline du Sud, qui utilise les scanners Evolv depuis 2019, cherchant à en savoir plus sur les scanners Evolv. La référence n'était pas exactement brillante. Répondant à la question "Pensez-vous qu'ils sont efficaces pour identifier les armes à feu et les couteaux, et le cas échéant les bombes potentielles ?", l'acheteur a indiqué que Spartansburg "n'a trouvé aucune arme avec leurs systèmes. Il déclare que ce n'est pas infaillible, mais estime que c'est suffisamment dissuasif pour empêcher les étudiants de tenter de les faire entrer. Cependant, lors d'un test, le district scolaire a dû augmenter le réglage de sensibilité des machines "au niveau D" ("A" étant le moins sensible et "F" étant le plus) afin de détecter un pistolet Glock. Initialement, le district utilisait le paramètre B, "mais utilise maintenant C". En d'autres termes, le district scolaire utilise un paramètre sur les machines qui n'a pas détecté l'une des armes de poing les plus courantes dans le pays. Il est possible que les scanners n'aient jamais trouvé d'armes de poing parce qu'ils ont agi comme moyen de dissuasion ou parce qu'aucun élève n'en a apporté pendant cette période, mais il est également possible qu'ils n'en aient jamais trouvé parce que le district scolaire utilisait un paramètre qui ne les détecterait pas. "Quand ils ont une alerte de sécurité, ils auront le niveau jusqu'à D", indique le document, bien qu'il ne soit pas expliqué ce qu'est une alerte de sécurité ni comment elle est déclenchée. La raison pour laquelle Spartansburg utiliserait un réglage de sensibilité inférieur à celui requis pour détecter une arme de poing commune est expliquée dans la question suivante : "Recevez-vous des alertes de gêne pour des éléments tels que des clés et des téléphones ?" La réponse, en un mot, était oui. Bien que les téléphones et les clés - des menaces pour les détecteurs de métaux traditionnels - ne déclenchent pas les scanners Evolv, Spartansburg a signalé que «les classeurs à 3 anneaux le frappent beaucoup. Les ordinateurs portables vont frapper. L'école a également signalé qu'environ 25 % des élèves doivent être fouillés manuellement à l'aide du paramètre "C", celui qui ne détecte pas un pistolet Glock. Augmenter le réglage de la sensibilité nécessiterait la recherche manuelle d'encore plus d'élèves. Cette information - qui semblerait à tout le moins soulever des questions sur le marketing et les déclarations publiques d'Evolv - a été transmise à Brian Schultz, directeur des opérations des écoles Mangum et Charlotte Mecklenburg. Il n'est pas clair d'après les e-mails si quelqu'un d'autre en a été informé, mais Schultz, Mangum et cinq directeurs d'écoles secondaires CMS se sont rendus à Spartanburg le 2 février pour voir les scanners en action, bien qu'à ce moment-là, le contrat d'achat des scanners était déjà en cours de finalisation. Fambro, le porte-parole du CMS, a refusé de discuter du réglage de sensibilité utilisé par le district, mais a déclaré: "Nous avons été pleinement informés que les systèmes alerteront sur des objets qui ne sont pas des armes à feu tels que des bouteilles d'eau, des étuis à lunettes, des parapluies, certains classeurs à 3 anneaux , et certains Chromebooks et ordinateurs portables" et était prêt à accepter cet "inconvénient à court terme pour accroître la sécurité de l'école". En fait, le district scolaire travaillait sur ses messages sur la qualité des scanners avant même d'avoir reçu les commentaires de Spartanburg. Onze jours auparavant, Schultz avait envoyé un e-mail au vendeur d'Evolv, Kyle Correll, et mis en copie le service des communications du district pour élaborer une stratégie de relations publiques autour du déploiement. "Alors que nous nous rapprochons de l'achat des systèmes Evolv Express", a écrit Schultz, "je veux être sûr que nous sommes prêts à répondre aux questions potentielles du personnel, de la communauté et des médias que nous recevrons potentiellement." Il a demandé "des informations supplémentaires concernant d'autres districts (Spartanburg et plus) et organisations (Panthers, Disney, etc.)" - faisant référence aux Panthers de la Caroline, qui utilisent des scanners Evolv dans son stade et, selon Correll, le chef Mangum a un "grand relation » avec deux de leurs agents de sécurité. Schultz a ensuite spécifiquement écrit que l'école demandait les informations à Evolv "afin que l'équipe des communications puisse commencer à développer notre propre messagerie basée sur la mise en œuvre, l'utilisation et le succès de la technologie / du système mis en œuvre dans divers endroits du pays". "Ravi de vous rencontrer également", a répondu le vendeur Evolv une heure et demie plus tard. "J'ai également tagué notre directeur du marketing client qui a été impliqué dans le succès et le contenu des clients. Nous vous fournirons toutes les informations nécessaires pour vous aider de votre côté. Dans les futurs documents présentés au conseil scolaire et aux parents, l'école a utilisé les informations fournies par Evolv, et non les commentaires qu'elle a reçus de Spartanburg elle-même. Malgré les signaux d'alarme suggérant que la technologie pourrait ne pas fonctionner comme promis, le district a finalisé l'achat de scanners pour 21 écoles, les déployant par phases, en commençant par sept lycées en mars. Dans les médias, CMS a déclaré qu'il avait tiré les leçons du déploiement de la phase I et que le système avait été un succès. "Notre équipe est très confiante que les leçons que nous apprenons dans le cadre de la mise en œuvre de la phase un nous aideront à nous guider dans le déploiement futur de cette initiative," [said](https://www.wcnc.com/article/news/education /cms-body-scanners-high-schools-next-phase/275-4ebe3914-672d-4726-9cf7-af22140f4d40) Surintendant Earnest Winston début avril. Mais un mois plus tard, il était clair que cela ne s'était pas produit. les scanners étaient un groupe aujourd'hui », a écrit le directeur de l'école secondaire Ardrey Kell, Jamie Brooks, à deux directeurs adjoints et au chef de la police, Mangum, le 2 mai. déclenchaient presque constamment les scanners : > Il a fallu que les 10 personnes parviennent à gérer le chaos à une entrée (elles sont censées être éventuellement à d'autres entrées)… nous n'avons pas la main-d'œuvre pour cela. un autre CSA [sécurité scolaire] pour aider à fouiller ces sacs. Actuellement, la réalité est que "les armes de l'instruction de masse » a déclenché presque tous les enfants lors de leur passage. Si vous avez plusieurs classeurs ou cahiers à spirale dans votre sac alors celui-ci s'allume et il faut chercher. La solution qui m'a été donnée était littéralement de demander aux enfants de ne pas apporter autant de classeurs. Sérieusement? Encore une fois… les armes d'instruction de masse à [Ardrey Kell] vont semer le chaos tous les jours :) Aujourd'hui était probablement la journée la moins sûre à AK car toutes les mains étaient aux portes d'entrée au lieu de surveiller les enfants dans tout le bâtiment. Brian Schultz était ici aujourd'hui, il en a donc été le témoin direct. Dans sa réponse, Mangum a confirmé que d'autres écoles ont également rencontré "les problèmes d'ordinateurs portables" et qu'elles "examinent et testeront d'autres composants susceptibles d'améliorer le processus de numérisation avec les ordinateurs portables et les ordinateurs portables", bien que l'on ne sache pas à quoi cela faisait référence. à et aucun processus ou composant de ce type n'est mentionné à nouveau dans d'autres e-mails. Une semaine plus tard, Sean Strain, membre du conseil scolaire, a envoyé un e-mail au surintendant par intérim Hugh Hattabaugh pour lui demander "une mise à jour sur le déploiement des scanners", en renvoyant à une publication Facebook montrant des files d'attente massives à l'extérieur de Providence High School. "Voici à quoi cela ressemblait à Providence ce matin - et apparemment tous les matins - avec les nouveaux protocoles en place", a écrit Strain. "De nombreux rapports d'alerte sur les classeurs, ce qui soulève la question de savoir si les scanners peuvent être ajustés pour s'adapter et toujours détecter de manière fiable des objets métalliques plus gros/plus épais tels que des armes à feu et des couteaux." C'était une observation astucieuse de Strain, car il avait exactement l'intuition du compromis que les écoles de Spartanburg ont expérimenté avec leurs propres tests : augmenter la sensibilité pour détecter de manière fiable les armes à feu confond également les articles scolaires de tous les jours comme des armes, mais baisser la sensibilité pour fournir la commodité Evolv marchés car son principal avantage par rapport aux détecteurs de métaux traditionnels passe à côté de menaces réelles. C'est aussi un compromis que Maye à IPVM a également documenté. Le [manuel] d'Evolv (https://s.ipvm.com/uploads/embedded_file/3ad32de84edf2f6010f6af912dd8887ce104b49be42290e4d73222052a824263/f76a4be7-7ee1-47d0-89d5-5269e5f0bb1f.pdf) demande aux clients d'ajuster le bon équilibre entre l'alarme intempestive et la sensibilité réelle détection d'armes, une instruction qui concède fondamentalement que le système ne peut pas détecter de manière fiable les armes et avoir un niveau tolérable d'alarmes intempestives, posant à peu près le même compromis que les détecteurs de métaux traditionnels. "Toutes les visites et les commentaires de l'équipe Evolv indiquent qu'il faut environ 2 semaines complètes pour une mise en œuvre complète", a répondu Schultz à Strain, un calendrier qui correspond à la perception générale selon laquelle les clients et les visiteurs s'adaptent aux limites d'Evolv et non l'inverse. Ce n'était pas seulement la propre équipe d'Evolv qui disait cela, mais aussi des experts extérieurs. Le 26 mai, Greg Abbott, directeur des solutions de sécurité chez Paragon Systems, a offert des conseils sur la façon de gérer les longues files d'attente dans le cadre d'une discussion avec le groupe de travail sur la sécurité du Charlotte Executive Leadership Council. "Il n'y a rien de magique dans tout cela", a averti Abbott, après avoir parlé à des équipes d'Universal Studios et du Staples Center de Los Angeles. Les recommandations : « Avoir des enseignants ou du personnel agissant en qualité de service à la clientèle » pour communiquer le processus, « Créer des visuels pour démontrer le processus », « Créer une entrée séparée pour le personnel » (il ne savait apparemment pas que le personnel n'avait pas à passer par les scanners) et, la solution « impopulaire mais la plus simple », dire aux élèves de « s'y rendre plus tôt ». Dans sa réponse par e-mail au directeur d'Ardrey Kell, Mangum a également reconnu la nécessité d'embaucher plus de personnel de sécurité pour aider aux recherches, exactement le contraire de ce que promet Evolv dans son argumentaire de vente. 53 agents de sécurité ont été approuvés par le conseil et ils prévoyaient d'en ajouter d'autres, mais ils voulaient "de manière réaliste, un autre CSA ne sera probablement pas disponible pour [Ardrey Kell High School] jusqu'à la nouvelle année scolaire". Cette reconnaissance du fait que les scanners nécessitent plus de personnes pour être mis en œuvre sape l'une des principales promesses marketing d'Evolv. Evolv a défendu son système en disant à Motherboard que les clients participants au programme Evolv Insights, qui, selon la société, représente environ 30% de ses utilisateurs, ont collectivement détecté 30 000 armes à feu et 27 000 couteaux au cours des six premiers mois de 2022, des statistiques qu'il a aussi cité dans les communiqués de presse. En gros, cela équivaudrait à environ 90 armes trouvées par scanner, une statistique surprenante étant donné que de nombreux clients d'Evolv sont des musées, des lieux de divertissement et de sport, des parcs à thème et d'autres lieux majeurs qui ont depuis longtemps effectué des contrôles de sécurité approfondis et que les clients sont bien conscients des armes à feu. ne sont pas autorisés à l'intérieur. Interrogé sur les problèmes liés à la mise en place du système Evolv, Fambro a déclaré que l'e-mail du 2 mai datait du premier jour où l'école a utilisé les nouveaux scanners, et qu'ensuite "les élèves et le personnel ont amélioré l'efficacité du processus alors que les représentants d'Evolv continuaient à travailler avec l'école personnel pour réduire le nombre de recherches à la suite d'alertes. La carte mère a ensuite demandé si une partie de ce processus réduisait le paramètre de sensibilité et, dans l'affirmative, à quel paramètre de sensibilité CMS l'avait modifié. Fambro a refusé de commenter, invoquant des problèmes de sécurité des étudiants. Mais elle a dit que l'école avait acheté un scanner supplémentaire pour "améliorer l'efficacité de s'assurer que nos élèves peuvent arriver en classe à l'heure et prêts à apprendre". "Ce que j'ai observé et vécu dans les autres écoles, nous devons nous adapter à toutes les circonstances jusqu'à ce que nous trouvions la meilleure solution", a déclaré le chef Mangum à Brooks dans un e-mail le 2 mai. "Je sais que cela peut être frustrant, mais comme nous l'avons vu dans [une autre école] aujourd'hui (arme à feu découverte lors du scan), le système fonctionne. » Le cas auquel Mangum a fait référence était la seule fois où un scanner Evolv dans une école CMS a détecté une arme à feu dans l'une des 21 écoles à ce jour, et a été répété à plusieurs reprises comme preuve que, comme l'a dit Mangum, "le système fonctionne". Cet incident a été évoqué à plusieurs reprises par le PDG d'Evolv, Peter George, notamment lors d'[un appel aux résultats](https://seekingalpha.com/article/4510419-evolv-technologies-holdings-inc-evlv-ceo-peter-george-on -q1-2022-results-earnings-call) le 11 mai. "Notre plate-forme Evolv Express a pu identifier un étudiant qui a tenté d'entrer à la Berry Academy of Technology du district avec une arme de poing entièrement chargée", a déclaré George. "L'étudiant a été arrêté et arrêté et, heureusement, une tragédie potentielle a été évitée." Et dans un [communiqué de presse] du 11 août (https://www.evolvtechnology.com/resources/press-releases/evolv-technology-stops-over-30000-guns-from-entering), la société a déclaré : « Dans le Au cours des seuls derniers mois, deux incidents ont eu lieu où les systèmes Evolv Express ont empêché une arme chargée d'entrer dans un hôpital et une école où, dans chaque cas, on croyait qu'il y avait intention de faire du mal et les forces de l'ordre ont été engagées. Motherboard a demandé à Evolv s'il faisait référence à l'incident survenu chez CMS, mais Evolv n'a pas répondu à cette question. La carte mère n'a trouvé aucun incident signalé publiquement par d'autres districts scolaires de détecteurs Evolv impliqués dans la découverte d'une arme à feu sur un campus scolaire. Les commentaires de l'entreprise impliquent clairement que l'élève entrait dans l'école pour commettre une fusillade de masse et que la technologie d'Evolv l'a arrêté. Mais ce n'est pas ce que le département de police de Charlotte Mecklenburg a dit à Motherboard. "Il n'y a aucune information suggérant que l'étudiant prévoyait d'utiliser l'arme à feu ou a proféré des menaces", a déclaré un porte-parole du département à Motherboard. George est fréquemment interrogé après des fusillades de masse, et dans chaque interview, il suit la ligne entre ce qui implique clairement qu'Evolv peut aider à prévenir les fusillades de masse sans jamais le dire. "Est-ce que notre système aurait pu l'arrêter ?" George a dit [Washington Post](https://www.washingtonpost.com /technologie/2022/05/20/evolv-metal-detectors-gun-detection/) suite à la fusillade du supermarché Buffalo. "Je ne sais pas. Mais je pense que nous pourrions démocratiser la sécurité afin que quelqu'un qui prévoit de blesser les gens ne puisse pas facilement se rendre dans un endroit sans méfiance. Et après Uvalde, George a dit quelque chose de similaire lors d'une conférence d'investisseurs : « Beaucoup de gens m'a posé la question après ce qui s'est passé à Uvalde, aurions-nous arrêté cela ? La réponse est que lorsque quelqu'un passe par notre système et qu'il a une arme dissimulée ou une arme ouverte, nous allons la trouver, point final. Nous ne le manquerons pas. Ceci, bien sûr, n'est pas nécessairement vrai, comme l'ont montré les propres tests de Spartanburg lorsqu'ils ont pu passer à travers les scanners avec un pistolet Glock sans être détectés. Les e-mails obtenus par Motherboard évoquent également un incident survenu au lycée Julius L. Chambers au cours duquel [un élève a posté une photo de lui tenant une arme à feu dans les toilettes de l'école](https://www.wsoctv.com/news/local/student -discipliné-lié-photo-pistolet-salle-de-bain-du-lycée-cms-dit/CZSMAXGJFBB45ACJJQYC4FTCPQ/). Publiquement, le district scolaire a déclaré "il n'y a pas preuve qu'une arme à feu est passée devant un détecteur d'armes » parce que la date de la photo était inconnue, un argument Fambro, le porte-parole du CMS, dit que le district se tient prêt. Mais, en privé dans des e-mails au personnel des communications, le chef Mangum a déclaré que l'incident « s'est produit env. 2 semaines avant la publication de la photo » en mai 2022, des mois après l'installation des systèmes d'Evolv à l'école. Fambro a dit qu'elle l'avait fait "simplement parce que c'est ce que l'étudiant en question a rapporté". Le rapport de police indique la date et l'heure de l'incident entre le 2 mai à 7 h 30 et le 19 mai à 15 h 45. La police n'a pas répondu à une enquête de la carte mère demandant spécifiquement si des métadonnées de la photo indiquaient quand elle avait été prise. Maye, d'IPVM, dit qu'il est également inexact d'impliquer les scanners d'Evolv - [ou tout autre type de système de détection d'armes à feu] (https://ipvm.com/reports/uvalde-mass-shooting-surveillance-video-analyzed?code= fgasdtgf )—peut jouer un rôle dans l'arrêt des tirs de masse pour la simple et évidente raison que les scanners Evolv dans les écoles CMS sont destinés à détecter les armes dissimulées. Quiconque entre dans une école avec des armes à feu avec l'intention de commettre un meurtre de masse ne se soucie pas de savoir si quelqu'un sait qu'il a des armes ou non. Le tireur d'Uvalde a été détecté par des responsables de l'école avant d'entrer dans le bâtiment ; le tireur a commencé à tirer avec son arme avant même d'entrer dans l'école. C'est également un point que le concurrent d'Evolv, PatriotOne, a clairement indiqué dans ses propres supports marketing. "Par exemple, un scanner d'armes à l'entrée peut détecter des personnes apportant des armes dans un bâtiment, mais il est inefficace contre un individu avec une intention malveillante et spécifique - cet attaquant traversera un système de numérisation d'entrée", écrit-il dans [a blog poste spécifiquement sur la sécurité scolaire] (https://patriot1tech.com/magazine/3-questions-to-ask-as-you-invest-in-security-technology-for-your-school/?utm_content=218318726&utm_medium=social&utm_source= linkin&hss_channel=lcp-15205179 ). Après les nombreuses déclarations publiques de George, Maye a demandé directement à Evolv si l'entreprise pensait que son produit pouvait empêcher les fusillades de masse. Un porte-parole a répondu, "Nous n'avons jamais déclaré qu'Evolv aurait pu faire une différence à Uvalde." Suite à la fusillade d'Uvalde, CMS a reçu un certain nombre de courriels de parents inquiets. Une typique, d'une mère de deux élèves du primaire, s'est dite préoccupée par « le manque de sécurité dans nos écoles primaires. Je sais que des détecteurs de métaux sont installés dans les lycées, cependant, avec les récentes nouvelles horribles, il est évident que ces tirs ne se limitent pas aux lycées. Je vous supplie tous d'envisager de les installer dans TOUTES les écoles CMS. » La présidente du conseil scolaire, Elyse Dashew, a répondu à cette note en admettant que les scanners Evolv n'auraient pas empêché les récentes fusillades de masse. "En ce qui concerne votre question sur les scanners corporels dans nos lycées, ils viennent d'être installés et jusqu'à présent, ils semblent bien fonctionner", a écrit Dashew. "Un scanner corporel n'aurait pas arrêté ce qui s'est passé à l'école d'Uvalde, cependant (ou Marjorie Stoneman Douglas HS, ou Sandy Hook Elementary)." Mais l'équipe de communication du district scolaire a adopté une approche différente. Un jour plus tard, il a créé son propre modèle pour "la réponse que je fournis aux citoyens qui envoient des e-mails concernant les problèmes de sécurité à l'école", comme l'a écrit Schultz. Le modèle contient une liste de 13 "efforts" en place. L'un d'eux est "Scanners corporels dans nos grands lycées polyvalents". Le modèle n'inclut aucune clause de non-responsabilité - comme dans l'e-mail de Dashew ou l'aveu même d'Evolv - indiquant que les scanners corporels et les détecteurs de métaux n'empêchent pas les tirs de masse. Interrogé à ce sujet par Motherboard, Fambro a déclaré: «Bien que nous ne puissions pas parler de ces tragédies spécifiques et de ce qui s'est passé dans ces écoles respectives, nous pouvons attester de l'engagement de CMS à faire tout ce qui est en notre pouvoir pour protéger nos 141 0000 étudiants en utilisant une variété d'outils, de procédures et de protocoles. Le système Evolv est conçu pour identifier les armes dissimulées sur les personnes entrant dans nos écoles. Cependant, les couches de mesures de sécurité que nous avons sont en place pour protéger le personnel et les étudiants contre de nombreux types de menaces différents. Au cours des semaines entourant l'année scolaire 2021-2022, il y avait d'autres signes que la technologie d'Evolv n'était pas aussi transparente que promis. Le 7 juin, l'une des tablettes sur lesquelles les résultats de l'analyse sont affichés est tombée et s'est cassée. Evolv facture aux clients un abonnement annuel plutôt que de permettre aux clients d'acheter les scanners directement. Cet abonnement, comme CMS l'a appris, n'inclut pas le coût de remplacement des tablettes. Il a facturé 2 100 $ à CMS pour un nouveau, soit le double du coût d'un iPad Pro haut de gamme. La société a également déclaré qu'elle devait s'arrêter à chaque école individuellement pour programmer une mise à jour logicielle manuellement plutôt que via Internet, comme la plupart des mises à jour logicielles sont publiées. Motherboard a interrogé Evolv sur ces deux incidents, mais la réponse d'Evolv ne les a pas abordés. CMS avait des problèmes de fiabilité répétés avec les scanners qui ne fonctionnaient pas. Le 4 mai, un directeur adjoint de Rocky River High School a envoyé un e-mail à Schultz pour l'informer que « deux matins distincts », leur scanner Evolv ne pouvait pas fonctionner correctement en raison d'une série de messages d'erreur. Le 17 mai, le directeur du North Mecklenburg High School a également envoyé un e-mail à Schultz avec des informations similaires selon lesquelles l'un de leurs scanners ne fonctionnait pas. « Nous utilisons notre seul scanner à l'auditorium. Nous ne sommes pas en mesure de faire passer tous nos élèves par cette seule entrée de scanner », a écrit le directeur. Evolv a dû remplacer une pièce sur le scanner et un technicien l'a réparée deux jours plus tard. Malgré ces problèmes, le district scolaire a fermement défendu l'achat dans des déclarations publiques et auprès de Motherboard. Contrairement aux plaintes formulées dans les e-mails, Schultz et les membres de l'équipe de communication du district ont parfois fait tout leur possible pour souligner l'efficacité supposée du scanner. «Ils fonctionnent comme un outil préventif ainsi qu'un outil prohibitif; les étudiants et le personnel savent que les scanners fonctionnent », a déclaré Schultz dans une déclaration préparée en réponse à une enquête des médias. "Les scanners ont été utilisés avec succès mais sont encore nouveaux dans toutes les écoles." En rassemblant «quelques points de discussion» pour le surintendant par intérim, un membre du personnel des communications a écrit: «Le dernier pistolet à Harding a été trouvé dans un sac de livre d'étudiant par un administrateur - savons-nous si l'étudiant a abandonné le sac de livre pour éviter passer par le scanner? J'essaie de faire valoir que les scanners fonctionnent et que les étudiants en sont conscients, si je peux sincèrement établir ce lien. Le 10 juin, Mangum a répondu "LE DERNIER QUE VOUS AVEZ CORRECT, L'ÉLÈVE A GAUCHE LE SAC À LIVRES AVEC UN PISTOLET À L'INTÉRIEUR À UN ENDROIT PRÈS DU SCANNER, EST PASSÉ À TRAVERS LE SCANNER ET EST RETOURNÉ POUR OBTENIR LE SAC À LIVRES MAIS L'ADMINISTRATEUR L'A OBTENU EN PREMIER (A ÉVITÉ LE SCANNER VOLONTAIREMENT AVEC LE SAC À LIVRES)" Mais Maye dit que cette instance a peu ou rien à voir avec Evolv ou sa technologie. "Un humain a détecté le pistolet, pas la technologie d'Evolv", a déclaré Maye à Motherboard. "Dans ce cas, si le détecteur de métaux d'Evolv avait été débranché, cela aurait été le même résultat." Il n'y a aucune mention dans les points de discussion du district scolaire du surintendant des moments où les scanners n'ont pas fonctionné, de l'élève qui est entré dans les toilettes de l'école avec une arme à feu malgré la présence des scanners, des difficultés techniques avec les scanners, ou les problèmes de file d'attente/d'entrée. Néanmoins, le district scolaire a non seulement décidé de continuer à utiliser les scanners, mais d'étendre leur utilisation. Cette année scolaire à venir, CMS utilisera les scanners Evolv dans tous les collèges, y compris les campus de la maternelle à la 8e année [pour un coût supplémentaire de 9,9 millions de dollars pour un abonnement de quatre ans] (https://www.wcnc.com/article/news /education/cms-spends-presque-10-millions-body-scanners-middle-high-schools/275-e5cdebd3-cac5-4c10-82b3-1838c56892b2). "Semblable au déploiement du lycée au cours de la dernière année scolaire", a déclaré Kondra Rattley, responsable de l'équité et de la performance scolaire, dans un e-mail du 7 juillet, "cet effort démontre notre engagement à fournir un environnement scolaire sécurisé où les élèves peuvent s'épanouir sur le plan scolaire, social et émotionnellement.”Les documents répondant à la demande de documents publics de Motherboard peuvent être trouvés ici.

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd