Incidents associés
Nous allons continuer à faire tuer des enfants en Amérique. Nous n'arrêterons jamais de jeter de l'argent dans la direction du problème, mais pas directement au problème. Rien n'est plus sûr. Il obtient simplement plus de postes budgétaires.
Le problème des fusillades dans les écoles est uniquement américain. Les solutions proposées - et l'industrie qui a vu le jour pour résoudre le problème - ne font que créer une offre. Il faut arrêter les fusillades dans les écoles. Nous ne pensons tout simplement pas que le problème soit la disponibilité facile des armes à feu.
Il existe donc un marché – un marché qui a été rempli par des entités publiques et privées. Certaines entités publiques pensent que la formation et l'expertise sont la solution et passent leur temps à [terroriser les étudiants et les enseignants](https://www.techdirt.com/2019/03/25/sheriff-decides-best-way-to-prep-teachers -school-shootings-is-to-effray-injure-them/) dans l'espoir qu'ils réagiront avec un peu moins de terreur lorsqu'une fusillade réelle se produira. Ces mêmes entités dépensent également des fonds publics pour former les forces de l'ordre à réagir rapidement aux fusillades signalées, pour constater [des résultats moins qu'idéaux](https://www.techdirt.com/2022/07/26/irrational-fear-of-undocumented -les-immigrés-ont-peut-être-contribué-à-la-réponse-bâclée-à-la-fusillade-de-l-école-d-uvalde/) lorsque cette formation est mise à profit.
Plus d'argent public achète une technologie qui est censée tenir le problème à distance. Les élèves sont régulièrement soumis à une surveillance 24h/24 qui est bien plus que des caméras dans les écoles. Cela comprend également la surveillance des médias sociaux, un accès sans entrave aux dossiers de santé mentale des étudiants et [l'exploitation des failles](https://www.techdirt.com/2020/11/23/florida-sheriffs-pre-crime-software-says- d-les-étudiants-victimes-de-la-violence-domestique-sont-des-criminels-potentiels/) dans les lois sur la vie privée des étudiants.
La technologie ne résout pas le problème. Les écoles utilisent ShotSpotter-esque tech pour détecter les coups de feu. D'autres utilisent des micros pour "détecter l'agression" - quelque chose qui se manifeste [comme de faux positifs](https://www.techdirt.com/2019/07/02/schools-are-using-aggression-detecting-mics-that-are -set-off-coughing-slamming-locker-doors-to-head-off-next-school-shooting/) pour les portes de casier claquées, la toux et - dans des tests effectués par des chercheurs - des clips du comédien Gilbert Gottfried.
Maintenant, une entreprise intègre l'IA dans le mélange, promettant une solution de haute technologie à la violence armée dans les écoles. Evolv commercialise de manière agressive son "système de dépistage des armes basé sur l'IA" auprès des écoles. Les écoles, malheureusement, ont dépensé de l'argent pour cette technologie non éprouvée. La société a des rédacteurs assez décents. Cependant, il n'a [pas beaucoup de preuves scientifiques disponibles](https://www.vice.com/en/article/5d3dw5/the-least-safe-day-rollout-of-gun-detecting-ai-scanners -in-schools-has-been-a-cluster-emails-show#:~:text=there%20is%20actually%20no%20peer-reviewed%20research%20montring%20that%20ai%20gun%20detection%20is%20effective% 20à%20prévenir%20fusillades%2C%20et%20évoluer%20a%20offert%20peu%20preuves%20soutenant%20des%20allégations%20de%20son%20système%E2%80%99s%20efficacité%20en%20réalisant%20ces%20objectifs.) pour étayer ses affirmations sur la détection d'armes.
[Joseph Cox a des reçus de documents publics pour Motherboard] (https://www.vice.com/en/article/5d3dw5/the-least-safe-day-rollout-of-gun-detecting-ai-scanners-in-schools -a-été-un-cluster-emails-show). Son rapport montre que le compromis entre confidentialité et sécurité ne fonctionne pas. Les étudiants perdent définitivement toute intimité qui leur reste lorsqu'ils entrent dans des écoles utilisant les systèmes Evolv. Ce qu'ils n'obtiennent pas en retour, c'est une sécurité supplémentaire. Les e-mails des administrateurs des écoles où Evolv est installé décrivent les déploiements de la technologie comme des échecs catastrophiques.
Sur le terrain, la réalité du déploiement des scanners Evolv est très différente de ce que suggèrent les supports marketing. Certains administrateurs d'école signalent que les scanners ont provoqué le «chaos» - ne parvenant pas à détecter les armes de poing courantes aux réglages de sensibilité couramment utilisés, confondant les articles scolaires de tous les jours avec des armes mortelles et ne tenant pas la promesse de l'entreprise d'une sécurité scolaire sans friction.
"Aujourd'hui était probablement le jour le moins sûr", une directrice a observé que des scanners de jour étaient déployés dans son école, car les machines déclenchaient de fausses alarmes et nécessitaient des recherches manuelles sur "presque tous les enfants lorsqu'ils traversaient", monopolisant l'attention de la sécurité agents qui surveilleraient autrement les couloirs et autres entrées.
Le déploiement dans le district scolaire de Charlotte Mecklenburg était une réponse à la découverte de vingt-trois armes à feu sur ses 180 campus au cours des quatre premiers mois de l'année scolaire 2021. Le district a affirmé qu'Evolv avait joué un rôle déterminant dans la réduction de ce nombre à seulement sept armes pendant le reste de l'année. Mais ceux qui se trouvaient réellement dans les écoles ont vu autre chose - un échec qu'un directeur a qualifié de "cluster \ [fuck ]".
L'achat et le déploiement ont eu lieu malgré les inquiétudes notées des administrateurs de district, qui ont informé Evolv qu'ils avaient pu apporter un pistolet dans une école avec la machine réglée sur la sensibilité par défaut. Les promesses de numérisation pratique « sans ligne » se sont immédiatement révélées fausses. La seule suggestion des experts en sécurité était que les étudiants arrivent plus tôt. Alors que le système échouait encore et encore, Evolv était en quelque sorte toujours inclus dans les chaînes de courrier électronique du district alors que les éducateurs et les administrateurs cherchaient des conseils sur la façon de répondre aux préoccupations du personnel et aux questions des médias.
Evolv ne semble pas beaucoup aimer les médias, surtout lorsque son IA est remise en question. En réponse aux demandes de Motherboard concernant les multiples échecs détaillés dans les e-mails du district, Evolv a suggéré que le site mettait les étudiants en danger simplement en publiant cet article.
_"Notre note pour vous, en tant que journaliste faisant votre travail : en communiquant publiquement des informations détaillées sur les paramètres de sensibilité, les protocoles et les processus, vous exposez les étudiants et les éducateurs à des risques et des vies en danger", a déclaré Dana Loof, directrice du marketing d'Evolv, dans un communiqué envoyé à la carte mère. _
Mais ce signalement ne rend pas les étudiants moins en sécurité. Il semble que l'IA d'Evolv fasse la majeure partie de ce travail elle-même.
_Bien que les téléphones et les clés (menaces pour les détecteurs de métaux traditionnels) ne déclenchent pas les scanners Evolv, Spartansburg a signalé que « les classeurs à 3 anneaux le frappent beaucoup. Les ordinateurs portables vont frapper. L'école a également signalé qu'environ 25 % des élèves doivent être fouillés manuellement à l'aide du paramètre "C", celui qui ne détecte pas un pistolet Glock. Augmenter le réglage de la sensibilité nécessiterait la recherche manuelle d'encore plus d'élèves. _
Le système crée de nouveaux problèmes, comme le détaille le courriel d'un directeur de lycée :
Actuellement, la réalité est que les « armes d'instruction de masse » déclenchent presque tous les enfants lorsqu'ils traversent. Si vous avez plusieurs classeurs ou cahiers à spirale dans votre sac alors celui-ci s'allume et il faut chercher. La solution qui m'a été donnée était littéralement de demander aux enfants de ne pas apporter autant de classeurs. Sérieusement?
Les faux positifs signifient attacher plus de sécurité au personnel avec des fouilles aux entrées, laissant les couloirs et les bureaux sans personnel. Et s'il y a des faux positifs, il y a forcément des faux négatifs, surtout lorsque les écoles baissent les paramètres de sensibilité après trop de faux positifs.
Et ce n'est pas comme si ces problèmes n'étaient pas bien documentés. La carte mère renvoie aux rapports IPVM sur l'IA de détection d'armes d'Evolv qui utilisaient des manuels d'instructions Evolv précédemment accessibles au public. Cependant, Evolv [a extrait ces documents de son site](https://ipvm.com/reports/evolv-sensitivity?code=wskdgsd#:~:text=shortly%20after%20this%20email%2C%20the%20web%20page %20où%20ipvm%20trouvé%20les deux%20manuels%20n'étaient%20plus%20plus%20publiquement%20disponibles%20et%20nécessitaient%20un%20mot de passe%20pour%20l'accès.) en réponse aux questions de l'IVPM, encore une fois [suggérant tout rapport sur la technologie d'Evolv en danger le public](https://ipvm.com/reports/evolv-sensitivity?code=wskdgsd#:~:text=publishing%20a%20blueprint%20of%20any%20security%20screening%20technology%20is%20irresponsible%20and%20makes %20le%20public%20moins%20sûr.%20ce%20est%20pourquoi%20nous%20ne%20pas%20pour%20soutenir%20les%20efforts%20d'ipvm%20pour%20divulguer%20des%20informations%20sur%20évoluer%20express%20(ou%20d'autres%20%20sécurité 20détection%20systèmes)%2C%20et%20pourquoi%20ne%20fonctionneront%20pas%20avec%20ipvm.).
Ce ne sont pas les actions d'une entreprise qui a confiance en son propre produit. Mais sa volonté de cacher des informations aux journalistes ne l'a pas empêché de se présenter comme une solution de détection d'armes pour de multiples lieux publics, y compris les écoles. La réalité de l'IA d'Evolv semble être loin derrière l'image plus rose peinte par ses arguments de vente. Continuer à nier la réalité de la situation va faire tuer des étudiants.