Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 2095

Incidentes Asociados

Incidente 3493 Reportes
Evolv AI Weapons Detection System Allegedly Misrepresents Accuracy, Leading to School Security Gaps

Loading...
'El día menos seguro': el lanzamiento de escáneres de IA para la detección de armas en las escuelas ha sido un 'grupo', muestran los correos electrónicos
vice.com · 2022

El 22 de marzo, Jennifer Dean, directora de Mallard Creek High School en Charlotte, Carolina del Norte, envió un correo electrónico a miembros de su personal para informarles sobre la instalación de un nuevo sistema de seguridad. Fabricado por una empresa con sede en Massachusetts llamada Evolv Technology, el sistema afirma usar inteligencia artificial para detectar pistolas y otras armas ocultas al escanear a las personas cuando ingresan a un edificio. “Estoy entusiasmado con el nuevo equipo y nuestro proceso de escaneo, que se convertirá en otra capa de apoyo de seguridad para nuestra escuela”, escribió Dean en un correo electrónico anunciando la instalación de los escáneres en Mallard Creek High. “Tenemos la oportunidad única, mediante el uso de estos escáneres, de detectar armas de manera proactiva todos los días y disuadir a las personas de traer armas a nuestro campus”. Evolv ha sido especialmente optimista en la comercialización de su nueva tecnología. Su director ejecutivo ha hecho múltiples apariciones en los medios tras los tiroteos mortales en Uvalde, Texas, y Buffalo, Nueva York, en las que [dio a entender que su sistema podría haber evitado las tragedias] (https://www.washingtonpost.com/ tecnología/2022/05/20/evolv-metal-detectors-gun-detection/). Las escuelas han sido clave entre sus clientes, que también incluyen estadios deportivos y otros lugares grandes en todo el país. El correo electrónico del director, uno de los casi 2000 enviados a Motherboard como parte de una solicitud de registros públicos con el distrito escolar, se alineó con lo que dice Evolv Technology sobre su sistema de seguridad. En su [sitio web] (https://www.evolvtechnology.com/), la empresa describe la tecnología como un "sistema de detección de armas basado en inteligencia artificial" que permitirá a las personas "moverse rápidamente a través de los puntos de control de seguridad a un ritmo fluido, sabiendo están bien protegidos en todas partes dentro de su lugar”. La compañía también se jacta repetidamente de que su sistema "sin línea" requiere "no detenerse", vaciar los bolsillos o retirar el contenido de las bolsas, y que se necesita menos personal de seguridad que con detectores de metales tradicionales. Actualmente no hay investigaciones revisadas por pares que demuestren que la detección de armas de IA sea efectiva para prevenir tiroteos, y Evolv ha ofrecido poca evidencia que respalde las afirmaciones de la efectividad de su sistema para cumplir con estos objetivos. Las escuelas también han tenido problemas con los [escáneres que confunden las computadoras portátiles y otros artículos cotidianos con armas](https://www.vice.com/en/article/4awe7m/chromebooks-or-handguns-sensors-nyc-mayor-wants-to -install-on-subway-canstruggle-to-not-the-diference). Pero los documentos obtenidos por Motherboard brindan una visión más detallada de cómo se implementan realmente los escáneres Evolv y los problemas que realmente enfrentan. Sobre el terreno, la realidad de implementar escáneres Evolv es muy diferente de lo que sugieren los materiales de marketing. Algunos administradores escolares informan que los escáneres han causado un "caos": no detectar armas de fuego comunes en los ajustes de sensibilidad de uso común, confundir artículos escolares cotidianos con armas mortales y no cumplir con la promesa de la compañía de una seguridad escolar sin fricciones. “Hoy fue probablemente el día menos seguro”, observó una directora el día en que se desplegaron escáneres en su escuela, porque las máquinas activaban falsas alarmas y requerían registros manuales en “casi todos los niños mientras caminaban”, monopolizando la atención de los oficiales de seguridad que de lo contrario estaría monitoreando los pasillos y otras entradas. El distrito escolar de Charlotte Mecklenburg (CMS) compró los escáneres Evolv porque tenía un problema con las armas. Se encontraron veintitrés armas entre sus [180 campus](https://www.cms.k12.nc.us/ comunicaciones/aboutus/Pages/default.aspx) con más de 140.000 estudiantes en los primeros cuatro meses del año escolar antes de que se compraran los escáneres. Los escáneres Evolv fueron una de las medidas identificadas por el grupo de trabajo de Seguridad y Bienestar Estudiantil del distrito, según un correo electrónico del 2 de enero de la jefa de policía del distrito escolar, Melissa Mangum. El distrito escolar rápidamente acordó pagar $4.9 millones por una suscripción de servicio para colocar escáneres en sus 21 escuelas secundarias por un período de cuatro años. El distrito escolar se jactó públicamente de que los escáneres fueron un éxito porque la cantidad de armas encontradas en campus se redujo a siete de enero a junio. Sin embargo, ese número ya había estado cayendo. En realidad, estuvo lejos de ser una historia de éxito tan rotundo, según los correos electrónicos obtenidos por Motherboard a través de la solicitud de registros públicos. Entre los hallazgos: * No hay evidencia en los miles de correos electrónicos que el distrito alguna vez buscó más información sobre cómo funcionan realmente los escáneres, y los administradores ignoraron la evidencia de que no detectan armas con perfecta confiabilidad. Por ejemplo, antes de que se firmara el contrato, otro distrito escolar informó a CMS que pudieron pasar una pistola Glock a través de las máquinas sin detección en la configuración de sensibilidad que usan a diario. * El personal de marketing y ventas de Evolv recibía regularmente hilos de correo electrónico sobre cómo responder a las consultas de los medios y las inquietudes del personal ” (como abreviatura de “clusterfuck”). “Actualmente, la realidad es que las ‘armas de instrucción masiva’ dispararon a casi todos los niños mientras caminaban”, dijo el director. * Los expertos en seguridad consultados por el distrito después de la implementación fallida advirtieron al sistema escolar que "ninguna de estas" soluciones propuestas tiene magia y que lo más fácil sería decirles a los estudiantes que "lleguen antes". * La evidencia estadística de que los escáneres de Evolv hicieron que las escuelas fueran más seguras es débil. Durante el año escolar 2021-22, se encontraron 30 armas en los campus de la escuela por medios distintos a los escáneres Evolv, en comparación con una detectada por los escáneres. Una disminución en las armas encontradas en el campus comenzó meses antes de que se implementaran los escáneres Evolv, lo que sugiere que otras medidas, como un sistema de denuncia anónima a través de una aplicación de teléfono inteligente, fueron más efectivas. * Después del tiroteo en Uvalde, varios padres preocupados enviaron un correo electrónico al distrito escolar para preguntar qué se está haciendo para mantener seguros a los niños. El presidente de la junta de educación respondió y les dijo a los padres: "Un escáner corporal no habría detenido lo que sucedió en la escuela en Uvalde (o Marjorie Stoneman Douglas HS, o Sandy Hook Elementary)". Pero en una plantilla de correo electrónico diseñada posteriormente para responder a tales consultas, el equipo de comunicaciones del distrito no incluyó este hecho y, en cambio, enumeró los escáneres corporales como una medida preventiva contra tiroteos masivos. Los expertos en seguridad creen ampliamente que los escáneres corporales y los detectores de metales no previenen los tiroteos masivos, un hecho que Evolv reconoció cuando se le preguntó directamente. Un portavoz del distrito escolar de Charlotte Mecklenburg cuestionó que los escáneres hayan sido un teatro de seguridad costoso. “El personal y los estudiantes han respondido a la instalación de los escáneres corporales de manera abrumadoramente positiva”, dijo Cassie Fambro, vocera de CMS. “Los estudiantes y el personal informan que se sienten más seguros, no solo por los escáneres, sino por el enfoque de múltiples niveles de seguridad que incluye, entre otros, puertas exteriores cerradas con llave, sistemas de cámaras, sistemas de entrada con cámara/altavoz, [y\ ] el sistema de denuncias Say Something Anonymous”. Después de que Motherboard enviara a Evolv una lista detallada de preguntas para esta historia, la directora de marketing de Evolv, Dana Loof, respondió con una declaración escrita: “Como política, no comentamos sobre la implementación de Evolv por parte de nuestros clientes, ni sobre sus protocolos de seguridad. Hay muchos factores que intervienen en la seguridad física, es decir, mantener las armas fuera de lugares donde no deberían estar, incluida la tecnología, las personas y los procesos, que deben trabajar juntos para ser efectivos en la mitigación de una amenaza. Los sistemas avanzados de detección de armas son una experiencia completamente nueva para la mayoría de las escuelas que los implementan y presentan desafíos de seguridad únicos. Para asegurarnos de que tengan toda la información necesaria para crear un entorno más seguro, somos completamente transparentes con nuestros clientes y profesionales de seguridad cuando se trata de nuestro sistema: cómo funciona la tecnología, cuáles pueden ser las limitaciones y qué deben tener en cuenta. por. Nuestros clientes prueban nuestros productos y hablan con otros clientes, muchos de ellos de forma independiente, antes de tomar la decisión de seguir adelante”. Tanto Evolv como CMS se negaron a discutir los detalles sobre cómo funciona el sistema de seguridad, la configuración de sensibilidad que usa y qué objetos pueden y no pueden pasar en varias configuraciones. Fambro se negó a hacerlo por “mucha precaución para la seguridad de los estudiantes”. El vocero de Evolv fue aún más lejos y afirmó sin dar explicaciones que simplemente informar sobre los escáneres o cómo funcionan pone en peligro a los estudiantes. “Nuestra nota para usted, como reportero que hace su trabajo: comunicar públicamente información detallada sobre configuraciones, protocolos y procesos sensibles pone en riesgo a los estudiantes y educadores y pone en peligro vidas”, dijo la directora de marketing de Evolv, Dana Loof, en un comunicado enviado a Motherboard. . En general, los correos electrónicos y los informes adicionales de Motherboard muestran importantes problemas de crecimiento para una empresa que se ha expandido rápidamente a lugares importantes en todo el país, como estadios de la NFL, museos de clase mundial y salas de conciertos, así como lugares públicos como hospitales y escuelas. A pesar de la elevada retórica pública de Evolv, los correos electrónicos y los documentos que los acompañan revelan una tensión fundamental en la estrategia de Evolv entre la seguridad y la comodidad, una tensión que no está claro que alguna vez se resuelva por completo o que incluso pueda mejorar. “Estos correos electrónicos revelan cuán engañoso y engañoso es Evolv”, fue la opinión de Donald Maye, un investigador de seguridad de la firma IPVM que ha estado investigando activamente los sistemas de Evolv durante meses. "Cómo lo veo es: el marketing de Evolv pinta una imagen que choca fundamentalmente con la realidad sobre el terreno". El 24 de enero, un agente de compras del distrito escolar habló con un oficial de servicios estudiantiles en el distrito escolar de Spartanburg, SC, que ha utilizado escáneres Evolv desde 2019, buscando obtener más información sobre los escáneres Evolv. La referencia no era exactamente brillante. Respondiendo a la pregunta de "¿Cree que estos son efectivos para identificar armas de fuego y cuchillos y, si corresponde, posibles bombas?", El agente de compras registró que Spartansburg "no ha encontrado ninguna arma con sus sistemas". Afirma que no es infalible, pero siente que es un elemento disuasorio suficiente para evitar que los estudiantes intenten traerlos”. Sin embargo, en una prueba, el distrito escolar tuvo que aumentar la configuración de sensibilidad en las máquinas "al nivel D" ("A" es el menos sensible y "F" el más) para detectar una pistola Glock. Inicialmente, el distrito había estado usando el ajuste B, “pero ahora está usando el C”. En otras palabras, el distrito escolar está utilizando una configuración en las máquinas que no detectó una de las pistolas más comunes del país. Es posible que los escáneres nunca hayan encontrado pistolas porque actuaron como elemento disuasorio o porque ningún estudiante trajo una durante este período, pero también es posible que nunca las encontraran porque el distrito escolar estaba usando un entorno que no las detectaría. “Cuando tengan una alerta de seguridad, tendrán el nivel hasta D”, dice el documento, aunque no se explica qué es una alerta de seguridad ni cómo se activa. La razón por la que Spartansburg usaría una configuración de sensibilidad más baja que la requerida para detectar un arma de fuego común se explica en la siguiente pregunta: "¿Estás recibiendo alertas de molestias por artículos como llaves y teléfonos?" La respuesta, en una palabra, fue sí. Aunque los teléfonos y las llaves, amenazas para los detectores de metales tradicionales, no activan los escáneres Evolv, Spartansburg informó que “las carpetas de 3 anillas lo golpean mucho. Las computadoras portátiles golpearán”. La escuela también informó que alrededor del 25 por ciento de los estudiantes deben ser buscados manualmente usando la configuración "C", la que no detecta una pistola Glock. Subir la configuración de sensibilidad requeriría buscar manualmente a más estudiantes. Esta información, que al menos parecería plantear preguntas sobre el marketing y las declaraciones públicas de Evolv, se transmitió al director de operaciones de las escuelas de Mangum y Charlotte Mecklenburg, Brian Schultz. No está claro a partir de los correos electrónicos si alguien más estaba al tanto, pero Schultz, Mangum y cinco directores de las escuelas secundarias de CMS visitaron Spartanburg el 2 de febrero para ver los escáneres en acción, aunque para entonces el contrato para comprar los escáneres estaba cerrado. ya se está ultimando. Fambro, el portavoz de CMS, se negó a discutir qué configuración de sensibilidad usa el distrito, pero dijo: “nos informaron completamente que los sistemas alertarán sobre objetos que no son armas de fuego, como botellas de agua, estuches para anteojos, paraguas, algunas carpetas de 3 anillos , y algunos Chromebooks y computadoras portátiles” y estaba dispuesto a aceptar este “inconveniente a corto plazo para aumentar la seguridad escolar”. De hecho, el distrito escolar estaba trabajando en su mensaje sobre cuán buenos son los escáneres incluso antes de recibir los comentarios de Spartanburg. Once días antes, Schultz le envió un correo electrónico al vendedor de Evolv, Kyle Correll, y envió un cc al departamento de comunicaciones del distrito sobre la elaboración de una estrategia de relaciones públicas en torno al lanzamiento. "A medida que nos acercamos a la compra de los sistemas Evolv Express", escribió Schultz, "quiero estar seguro de que estamos preparados con las posibles preguntas del personal, la comunidad y los medios que potencialmente recibiremos". Pidió “información adicional sobre otros distritos (Spartanburg y más) y organizaciones (Panthers, Disney, etc.)”, refiriéndose a los Carolina Panthers, que usan escáneres Evolv en su estadio y, según Correll, el Jefe Mangum tiene un “gran relación” con dos de sus oficiales de seguridad. Schultz luego escribió específicamente que la escuela estaba solicitando la información de Evolv “para que el equipo de comunicaciones pueda comenzar a desarrollar nuestro propio mensaje basado en la implementación, el uso y el éxito de la tecnología/sistema implementado en varios lugares del país”. “También fue un placer conocerte”, respondió el vendedor de Evolv una hora y media después. “También etiqueté a nuestro Director de marketing de clientes que ha estado involucrado con el éxito y el contenido del cliente. Le daremos toda la información necesaria para ayudarle en su final.” En los materiales futuros presentados a la junta escolar ya los padres, la escuela utilizó la información proporcionada por Evolv, no los comentarios que recibió del mismo Spartanburg. A pesar de las señales de alerta que sugieren que la tecnología puede no funcionar como se prometió, el distrito completó la compra de escáneres para 21 escuelas, implementándolos en fases, comenzando con siete escuelas secundarias en marzo. En los medios, CMS dijo que aprendió de las lecciones del lanzamiento de la Fase I y que el sistema fue un éxito. "Nuestro equipo confía en que las lecciones que aprendamos como parte de la implementación de la fase uno nos ayudarán a guiarnos con el futuro lanzamiento de esta iniciativa", [dijo](https://www.wcnc.com/article/news/education /cms-body-scanners-high-schools-next-phase/275-4ebe3914-672d-4726-9cf7-af22140f4d40) Superintendente Earnest Winston a principios de abril. Pero un mes después, estaba claro que eso no había sucedido. los escáneres eran un grupo hoy”, escribió el director de la escuela secundaria Ardrey Kell, Jamie Brooks, a dos subdirectores y al jefe de policía Mangum el 2 de mayo. El resto del correo electrónico detalla cómo varios artículos relacionados con la escuela, que Brooks llama “armas de instrucción masiva”, encendían los escáneres casi constantemente: > Se necesitaron las 10 personas para estar cerca de manejar el caos en una entrada (se supone que eventualmente estarán en otras entradas)... no tenemos la mano de obra para esto. otro CSA [seguridad escolar] para ayudar a buscar estas bolsas. Actualmente, la realidad es que 'armas de instrucción en masa’ hace estallar a casi todos los niños mientras caminan. Si tiene varias carpetas o cuadernos de espiral en su bolso, se ilumina y debemos buscar. La solución que me dieron fue literalmente pedirles a los niños que no trajeran tantas carpetas. ¿En serio? Entonces, de nuevo... las armas de instrucción masiva en [Ardrey Kell] van a causar caos todos los días :) Hoy fue probablemente el día menos seguro en AK ya que todas las manos estaban en las puertas delanteras en lugar de monitorear a los niños en todo el edificio. Brian Schultz estuvo aquí hoy, así que lo presenció de primera mano. En su respuesta, Mangum confirmó que otras escuelas también experimentaron "problemas con las computadoras portátiles" y que están "revisando y probando otros componentes que pueden mejorar el proceso de escaneo con las computadoras portátiles y las computadoras portátiles", aunque no está claro a qué se refería esto. y ningún proceso o componente se vuelve a mencionar en otros correos electrónicos. Una semana después, el miembro de la junta escolar Sean Strain envió un correo electrónico al superintendente interino Hugh Hattabaugh pidiendo "una actualización sobre el despliegue de los escáneres", con un enlace a una publicación de Facebook que mostraba filas masivas fuera de Providence High School. “Así es como se veía en Providence esta mañana, y aparentemente todas las mañanas, con los nuevos protocolos implementados”, escribió Strain. “Muchos informes de alertas sobre carpetas, lo que plantea la pregunta de si los escáneres se pueden ajustar para adaptarse y aún así detectar de manera confiable objetos metálicos más grandes/más gruesos, como pistolas y cuchillos”. Esta fue una observación astuta de Strain, ya que intuyó exactamente la compensación que las escuelas de Spartanburg experimentaron con sus propias pruebas: aumentar la sensibilidad para detectar armas de manera confiable también confunde los artículos escolares cotidianos con armas, pero reducir la sensibilidad para brindar la conveniencia que comercializa Evolv. ya que su principal ventaja sobre los detectores de metales tradicionales pasa por alto las amenazas reales. También es [una compensación que Maye en IPVM también ha documentado] (https://ipvm.com/reports/evolv-sensitivity?code=wskdgsd). El [manual] (https://s.ipvm.com/uploads/embedded_file/3ad32de84edf2f6010f6af912dd8887ce104b49be42290e4d73222052a824263/f76a4be7-7ee1-47d0-89d5-5269e5f0bb1f.pdf) de Evolv instruye a los clientes para encontrar el equilibrio real entre la alarma y la sensibilidad para ajustar la sensibilidad. detección de armas, una instrucción que fundamentalmente reconoce que el sistema no puede detectar armas de manera confiable y tener un nivel tolerable de alarmas molestas, lo que plantea una compensación muy similar a la de los detectores de metales tradicionales. “Todas las visitas y los aportes del equipo de Evolv indican que la implementación completa demora alrededor de 2 semanas completas”, respondió Schultz a Strain, una línea de tiempo que coincide con la percepción general de que los clientes y visitantes se ajustan a las limitaciones de Evolv y no al revés. No era solo el propio equipo de Evolv el que decía esto, sino también expertos externos. El 26 de mayo, Greg Abbott, director de soluciones de seguridad en Paragon Systems, ofreció consejos sobre cómo lidiar con las largas filas como parte de una discusión con el grupo de trabajo de seguridad del consejo de liderazgo ejecutivo de Charlotte. “No hay magia en ninguno de estos”, advirtió Abbott, después de haber hablado con los equipos de Universal Studios y el Staples Center en Los Ángeles. Las recomendaciones: "Tener maestros o personal que actúe en calidad de servicio al cliente" para comunicar el proceso, "Crear imágenes para demostrar el proceso", "Crear una entrada separada para el personal" (aparentemente no sabía que el personal no tiene que pasar por los escáneres) y, la solución "impopular pero más fácil", decirles a los estudiantes que "lleguen antes". En su respuesta por correo electrónico al director de Ardrey Kell, Mangum también reconoció la necesidad de contratar más personal de seguridad para ayudar con las búsquedas, exactamente lo contrario de lo que Evolv promete en su argumento de venta. La junta aprobó 53 guardias de seguridad y planearon agregar más, pero querían "siendo realistas, probablemente no habrá otro CSA disponible para [Ardrey Kell High School] hasta el nuevo año escolar". Este reconocimiento de que los escáneres requieren más personas para implementarlos socava una de las promesas clave de marketing de Evolv. Evolv defendió su sistema diciéndole a Motherboard que los clientes participantes en el programa Evolv Insights, que según la compañía representan alrededor del 30 por ciento de sus usuarios, han detectado colectivamente 30,000 pistolas y 27,000 cuchillos durante los primeros seis meses de 2022, estadísticas que tiene [también citado en comunicados de prensa] (https://www.evolvtechnology.com/resources/press-releases/evolv-technology-stops-over-30000-guns-from-entering). En términos generales, esto equivaldría a aproximadamente 90 armas encontradas por escáner, una estadística sorprendente considerando que muchos de los clientes de Evolv son museos, lugares de entretenimiento y deportivos, parques temáticos y otros lugares importantes que han realizado controles de seguridad exhaustivos durante mucho tiempo y los clientes conocen muy bien las armas. no están permitidos dentro. Cuando se le preguntó acerca de los problemas para implementar el sistema Evolv, Fambro dijo que el correo electrónico del 2 de mayo fue desde el primer día en que la escuela usó los nuevos escáneres y que luego “los estudiantes y el personal mejoraron la efectividad del proceso a medida que los representantes de Evolv continuaron trabajando con la escuela. personal para reducir el número de búsquedas como resultado de alertas”. Luego, Motherboard preguntó si parte de este proceso estaba reduciendo la configuración de sensibilidad y, de ser así, a qué configuración de sensibilidad la cambió CMS. Fambro se negó a comentar, citando preocupaciones de seguridad de los estudiantes. Pero sí dijo que la escuela compró un escáner adicional para “mejorar la eficiencia de garantizar que nuestros estudiantes puedan llegar a clase a tiempo y listos para aprender”. “Lo que he observado y experimentado en las otras escuelas debemos ajustarlo a cada circunstancia hasta que encontremos la mejor solución”, dijo el jefe Mangum a Brooks en un correo electrónico el 2 de mayo. “Sé que puede ser frustrante, pero como vimos en [otra escuela] hoy (arma de fuego descubierta durante el escaneo), el sistema funciona”. El caso al que se refirió Mangum fue la única vez que un escáner Evolv en una escuela de CMS detectó un arma en cualquiera de las 21 escuelas hasta la fecha, y se ha presentado repetidamente como evidencia de que, como dijo Mangum, “el sistema funciona”. Este incidente ha sido mencionado repetidamente por el CEO de Evolv, Peter George, incluso durante [una llamada de ganancias] (https://seekingalpha.com/article/4510419-evolv-technologies-holdings-inc-evlv-ceo-peter-george-on -q1-2022-results-earnings-call) el 11 de mayo. “Nuestra plataforma Evolv Express pudo identificar a un estudiante que intentó ingresar a la Academia de Tecnología Berry del Distrito con una pistola completamente cargada”, dijo George. “El estudiante fue detenido y arrestado y afortunadamente se evitó una posible tragedia”. Y en un [comunicado de prensa] del 11 de agosto (https://www.evolvtechnology.com/resources/press-releases/evolv-technology-stops-over-30000-guns-from-entering), la compañía dijo: “En el Solo en los últimos meses, se produjeron dos incidentes en los que los sistemas Evolv Express impidieron que un arma cargada ingresara a un hospital y una escuela donde, en cada caso, se creía que había intención de hacer daño y se involucró a la policía”. Motherboard le preguntó a Evolv si se referían al incidente en CMS, pero Evolv no respondió a esa pregunta. Motherboard no pudo encontrar ningún incidente informado públicamente de otros distritos escolares de detectores Evolv involucrados en el hallazgo de un arma en un campus escolar. Los comentarios de la empresa implican claramente que el estudiante estaba ingresando a la escuela para cometer un tiroteo masivo y la tecnología de Evolv lo detuvo. Pero eso no es lo que le dijo el Departamento de Policía de Charlotte Mecklenburg a Motherboard. “No hay información que sugiera que el estudiante planeó usar el arma de fuego o hizo alguna amenaza”, dijo un portavoz del departamento a Motherboard. George es un entrevistado frecuente después de los tiroteos masivos, y en cada entrevista se cruza en la línea entre insinuar claramente que Evolv puede ayudar a prevenir tiroteos masivos sin siquiera decirlo. “¿Podría nuestro sistema haberlo detenido?” George le dijo al [Washington Post](https://www.washingtonpost.com /technology/2022/05/20/evolv-metal-detectors-gun-detection/) tras el tiroteo en el supermercado Buffalo. "No sé. Pero creo que podríamos democratizar la seguridad para que alguien que planee lastimar a la gente no pueda entrar fácilmente en un lugar desprevenido”. Y después de Uvalde, George dijo algo similar en una conferencia de inversores: “Mucha gente me hizo la pregunta después de lo que pasó en Uvalde, ¿habríamos parado eso? La respuesta es cuando alguien revisa nuestro sistema y tiene un arma oculta o un arma abierta, la encontraremos y punto. No nos lo perderemos.” Esto, por supuesto, no es necesariamente cierto, como lo demostraron las propias pruebas de Spartanburg cuando pudieron pasar a través de los escáneres con una pistola Glock sin ser detectados. Los correos electrónicos obtenidos por Motherboard también hablan de un incidente en la escuela secundaria Julius L. Chambers en el que [un estudiante publicó una foto de sí mismo sosteniendo un arma dentro de un baño de la escuela] (https://www.wsoctv.com/news/local/student -disciplinado-atado-foto-pistola-secundaria-baño-cms-dice/CZSMAXGJFBB45ACJJQYC4FTCPQ/). Públicamente, el distrito escolar dijo “no hay evidencia de que cualquier arma pasó por un detector de armas” porque se desconocía la fecha de la foto, un argumento que Fambro, el portavoz de CMS, dice que el distrito mantiene. Pero, en privado en correos electrónicos al personal de comunicaciones, el Jefe Mangum declaró que el incidente “ocurrió aproximadamente. 2 semanas antes de que se publicara la imagen” en mayo de 2022, meses después de que se instalaran los sistemas de Evolv en la escuela. Fambro dijo que lo hizo “simplemente porque eso es lo que informó el estudiante en cuestión”. El informe policial enumera la fecha y la hora del incidente entre el 2 de mayo a las 7:30 a. m. y el 19 de mayo a las 3:45 p. m. La policía no respondió a una consulta de Motherboard preguntando específicamente si algún metadato de la foto indicaba cuándo se tomó. Maye, de IPVM, dice que tampoco es correcto implicar los escáneres de Evolv—[o cualquier otro tipo de sistema de detección de armas](https://ipvm.com/reports/uvalde-mass-shooting-surveillance-video-analyzed?code= fgasdtgf): pueden desempeñar un papel en detener tiroteos masivos por la razón simple y obvia de que los escáneres Evolv en las escuelas de CMS son para detectar armas ocultas. A cualquiera que ingrese a una escuela con armas con la intención de cometer un asesinato en masa no le importa si alguien sabe que tiene armas o no. El tirador de Uvalde [fue detectado por funcionarios de la escuela] (https://www.texastribune.org/2022/05/27/uvalde-texas-school-shooting-timeline/) antes de que ingresara al edificio; el tirador comenzó a disparar su arma incluso antes de entrar a la escuela. También es un punto que el competidor de Evolv, PatriotOne, ha declarado claramente en sus propios materiales de marketing. “Por ejemplo, un escáner de armas en la entrada puede detectar personas que ingresan armas a un edificio, pero es ineficaz contra una persona con intenciones maliciosas y específicas: este atacante atravesará un sistema de escaneo de entrada”, escribió en [un blog publicación específica sobre seguridad escolar](https://patriot1tech.com/magazine/3-preguntas-para-hacer-mientras-invierte-en-tecnología-de-seguridad-para-su-escuela/?utm_content=218318726&utm_medium=social&utm_source= Linkedin&hss_channel=lcp-15205179). Después de las muchas declaraciones públicas de George, Maye le preguntó directamente a Evolv si la compañía cree que su producto puede prevenir tiroteos masivos. Un vocero respondió, “Nunca hemos dicho que Evolv podría haber marcado una diferencia en Uvalde”. Luego del tiroteo en Uvalde, CMS recibió varios correos electrónicos de padres preocupados. Uno típico, de una madre de dos estudiantes de primaria, expresó su preocupación por “la falta de seguridad en nuestras escuelas primarias. Soy consciente de que se están instalando detectores de metales en las escuelas secundarias, sin embargo, con las horribles noticias recientes, es más que evidente que estos tiroteos no se limitan a las escuelas secundarias. Les ruego a todos que consideren instalarlos en TODAS las escuelas de CMS”. La presidenta de la junta de educación, Elyse Dashew, respondió a esta nota admitiendo que los escáneres Evolv no habrían evitado los tiroteos masivos recientes. “Con respecto a su pregunta sobre los escáneres corporales en nuestras escuelas secundarias, estos se instalaron recientemente y hasta ahora parecen estar funcionando bien”, escribió Dashew. “Sin embargo, un escáner corporal no habría detenido lo que sucedió en la escuela en Uvalde (o Marjorie Stoneman Douglas HS, o Sandy Hook Elementary)”. Pero el equipo de comunicaciones del distrito escolar adoptó un enfoque diferente. Un día después, creó su propia plantilla para “la respuesta que estoy brindando a los ciudadanos que envían correos electrónicos sobre temas de seguridad escolar”, como escribió Schultz. La plantilla tiene una lista de 13 "esfuerzos" en su lugar. Uno de ellos es "Escáneres corporales en nuestras grandes escuelas secundarias integrales". La plantilla no incluye ningún descargo de responsabilidad, como en el correo electrónico de Dashew o la propia admisión de Evolv, que dice que los escáneres corporales y los detectores de metales no previenen tiroteos masivos. Cuando Motherboard le preguntó sobre esto, Fambro dijo: “Si bien no podemos hablar sobre esas tragedias específicas y lo que ocurrió en esas respectivas escuelas, podemos dar fe del compromiso de CMS de hacer todo lo que esté a nuestro alcance para proteger a nuestros 141,0000 estudiantes usando una variedad de herramientas, procedimientos y protocolos. El sistema Evolv está diseñado para identificar armas ocultas en personas que ingresan a nuestras escuelas. Sin embargo, las capas de medidas de seguridad que tenemos están implementadas para proteger al personal y a los estudiantes de muchos tipos diferentes de amenazas”. En las semanas que completaron el año escolar académico 2021-2022, hubo otras señales de que la tecnología de Evolv no era tan perfecta como se prometía. El 7 de junio, una de las tabletas donde se muestran los resultados del escaneo se cayó y se rompió. Evolv factura a los clientes con una suscripción anual en lugar de permitir que los clientes compren los escáneres directamente. Esa suscripción, como supo CMS, no incluye el costo de reemplazar las tabletas. Le cobró a CMS $ 2100 por uno nuevo, el doble del costo de un iPad Pro de primera línea. La compañía también dijo que tenía que pasar por cada escuela individualmente para programar una actualización de software manualmente en lugar de hacerlo a través de Internet, como se emiten la mayoría de las actualizaciones de software. Motherboard le preguntó a Evolv sobre estos dos incidentes, pero la respuesta de Evolv no los abordó. CMS tuvo repetidos problemas de confiabilidad con los escáneres que no funcionaban. El 4 de mayo, un subdirector de la escuela secundaria Rocky River le envió un correo electrónico a Schultz para informarle que en "dos mañanas separadas" su escáner Evolv no podía funcionar correctamente debido a una serie de mensajes de error. El 17 de mayo, el director de North Mecklenburg High School también envió un correo electrónico a Schultz con noticias similares de que uno de sus escáneres no funcionaba. “Estamos operando nuestro único escáner en el auditorio. No podemos acomodar el movimiento de todos nuestros estudiantes a través de esa única entrada de escáner”, escribió el director. Evolv tuvo que reemplazar una pieza en el escáner y un técnico lo arregló dos días después. A pesar de estos problemas, el distrito escolar defendió firmemente la compra en declaraciones públicas y ante Motherboard. En contraste con las quejas hechas en los correos electrónicos, Schultz y los miembros del equipo de comunicaciones del distrito a veces se esforzaron por enfatizar la supuesta efectividad del escáner. “Funcionan como una herramienta preventiva así como una herramienta prohibitiva; los estudiantes y el personal saben que los escáneres funcionan”, dijo Schultz en una declaración preparada en respuesta a una consulta de los medios. “Los escáneres se han utilizado con éxito, pero todavía son nuevos para todas las escuelas”. Al reunir “algunos puntos de conversación” para el superintendente interino, un miembro del personal de comunicaciones escribió: “Un administrador encontró la última arma en Harding en la mochila de un estudiante. ¿Sabemos si el estudiante se deshizo de la mochila para evitar pasando por el escaner? Estoy tratando de señalar que los escáneres funcionan y que los estudiantes son conscientes de eso, si puedo hacer esa conexión con sinceridad”. El 10 de junio, Mangum respondió: "EL ÚLTIMO ES CORRECTO, EL ESTUDIANTE DEJÓ LA BOLSA DE LIBROS CON UNA ARMA DENTRO EN UN LUGAR CERCA DEL ESCÁNER, PASÓ POR EL ESCÁNER Y REGRESÓ PARA OBTENER LA BOLSA DE LIBROS, PERO EL ADMINISTRADOR LA OBTUVO PRIMERO (EVITÓ EL ESCÁNER A PROPÓSITO CON LA BOLSA DE LIBROS)". Pero Maye dice que esta instancia tiene poco o nada que ver con Evolv o su tecnología. “Un humano detectó el arma, no la tecnología de Evolv”, dijo Maye a Motherboard. “En este caso, si el detector de metales de Evolv se hubiera desenchufado, habría sido el mismo resultado”. No hay ninguna mención en los temas de conversación del distrito escolar para el superintendente de las veces que los escáneres no han funcionado, del estudiante que entró al baño de la escuela con un arma a pesar de que los escáneres estaban en su lugar, las dificultades técnicas con los escáneres o los problemas de línea larga/entrada. Sin embargo, el distrito escolar no solo decidió continuar usando los escáneres, sino expandir su uso. El próximo año escolar, CMS utilizará escáneres Evolv en todas las escuelas intermedias, incluidos los campus de jardín de infantes a octavo grado [a un costo adicional de $ 9.9 millones por una suscripción de cuatro años] (https://www.wcnc.com/article/news /educación/cms-gasta-casi-10-millones-de-escáneres-corporales-escuelas-medias-secundarias/275-e5cdebd3-cac5-4c10-82b3-1838c56892b2). “Al igual que la implementación de la escuela secundaria durante el último año escolar”, dijo Kondra Rattley, Directora de Equidad y Rendimiento Escolar, en un correo electrónico del 7 de julio, “este esfuerzo demuestra nuestro compromiso de brindar un entorno escolar seguro donde los estudiantes puedan prosperar académica, social y socialmente. emocionalmente”.Los documentos que responden a la solicitud de registros públicos de Motherboard se pueden encontrar aquí.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd