Incidentes Asociados
La policía acudió a la escuela secundaria de Florida minutos después de recibir la alerta la semana pasada: las cámaras de seguridad detectaron a un hombre en el edificio, vestido de camuflaje con un "arma sospechosa apuntando al pasillo, sujetado en posición de rifle al hombro".
La escuela Oviedo se declaró en estado de cierre. Un agente registró las aulas, pero no pudo encontrar a la persona ni oír ningún alboroto, según un informe policial.
Los despachadores añadieron otro detalle. Tras una revisión más detallada de la imagen enviada a la policía, le informaron al agente que el presunto rifle podría haber sido un instrumento de banda.
El agente se dirigió a donde se escondían los estudiantes en el salón de la banda. Encontró al culpable —un estudiante con un disfraz militar para un día de disfraces— y el "arma sospechosa": un clarinete.
La metedura de pata se produjo porque un sistema de vigilancia con inteligencia artificial, utilizado por la Escuela Intermedia Lawton Chiles, marcó erróneamente el clarinete como un arma, según ZeroEyes, la empresa de seguridad que gestiona el sistema y tiene contrato con el distrito escolar de Lawton Chiles.
Al igual que un número creciente de distritos escolares en todo el país, las Escuelas Públicas del Condado de Seminole han recurrido a la vigilancia con inteligencia artificial para reforzar la seguridad del campus. ZeroEyes vende un sistema de detección de amenazas que escanea las grabaciones de videovigilancia en busca de indicios de armas o contrabando y alerta a las fuerzas del orden cuando las detectan. El interés por este tipo de sistemas ha aumentado en una época de frecuentes tiroteos escolares de alto perfil, como el ataque en la Universidad de Brown el sábado, que mató a dos estudiantes y dejó nueve heridos. Algunos expertos en seguridad y privacidad escolar afirmaron que el reciente incidente en la escuela secundaria de Florida forma parte de una tendencia en la que los sistemas de detección de amenazas utilizados por las escuelas fallan, lo que genera sospechas y estrés indebidos en los estudiantes.
"Se trata de tecnologías no probadas que se promocionan como una fuente de gran certeza y seguridad", declaró David Riedman, fundador de la Base de Datos de Tiroteos Escolares K-12. Riedman fue contratado por ZeroEyes como director de investigación del sector en septiembre de 2023, y su empleo finalizó ese mismo año, según ZeroEyes y Riedman.
ZeroEyes afirmó que empleados capacitados revisan las alertas antes de enviarlas y que su software puede marcar la diferencia vital en la prevención de tiroteos masivos al alertar a las fuerzas del orden sobre la presencia de armas en el campus en cuestión de segundos. En Lawton Chiles, el estudiante detectado por ZeroEyes sostenía su instrumento musical como si fuera un rifle, según declaró el cofundador Sam Alaimo a The Washington Post.
"No creemos haber cometido un error, ni la escuela tampoco", afirmó Alaimo. "Era mejor enviar a la policía que no hacerlo". Las Escuelas Públicas del Condado de Seminole se negaron a comentar sobre el incidente del martes, pero proporcionaron una copia de la carta que enviaron a los padres de los estudiantes de Lawton Chiles después del incidente.
"Si bien no hubo ninguna amenaza para el campus, me gustaría pedirle que hable con su estudiante sobre los peligros de fingir tener un arma en el campus escolar", escribió la directora Melissa Laudani.
La preocupación por la seguridad estudiantil ha impulsado a los distritos escolares de todo el país a adoptar una creciente industria de herramientas de seguridad asistidas por IA que detectan de forma proactiva las amenazas a los administradores y las fuerzas del orden. La portavoz de ZeroEyes, Olga Shmuklyer, afirmó que su producto se utiliza en 48 estados y que ha detectado más de 1000 armas en los últimos tres años.
Los sistemas suelen estar entrenados para detectar un riesgo de seguridad mediante la revisión de grandes cantidades de datos de muestra, como imágenes de personas con armas, para buscar coincidencias en tiempo real.
En ocasiones han cometido errores. En octubre, padres y funcionarios del condado de Baltimore, Maryland, pidieron que se revisara un sistema de detección de amenazas de IA diferente después de que confundiera una bolsa de Doritos con un arma y enviara una alerta que provocó que un estudiante de secundaria fuera esposado. En 2023, una escuela secundaria en Clute, Texas, entró en confinamiento después de que ZeroEyes alertara falsamente de que una persona portaba un rifle, según Noticias 4 San Antonio. En un caso, un sistema de detección de amenazas diferente no logró evitar un tiroteo fatal en una escuela. La escuela secundaria Antioch en Nashville estaba equipada con un software de vigilancia con inteligencia artificial para detectar armas en enero, cuando un estudiante de 17 años mató a un compañero en un tiroteo, según CNN (https://www.cnn.com/2025/02/01/us/ai-gun-detection-software-antioch-school). El sistema no detectó al tirador porque estaba demasiado lejos de las cámaras de vigilancia para detectar su arma, informó CNN.
Otros sistemas que monitorean la actividad de los estudiantes en los dispositivos escolares también han sido criticados por acusarlos falsamente y violar su privacidad. En septiembre, estudiantes de una escuela secundaria de Kansas demandaron a su distrito escolar después de que una herramienta de monitoreo marcara falsamente proyectos de arte como pornografía.
ZeroEyes ha colaborado estrechamente con las Escuelas Públicas del Condado de Seminole desde 2021, según informes de prensa y la propia empresa. Ese año, realizó una demostración en vivo de la capacidad del sistema ZeroEyes para detectar armas en la Escuela Secundaria Oviedo.
"Estamos muy satisfechos con la tecnología", declaró entonces el director de Seguridad Pública de las Escuelas del Condado de Seminole, Richard Francis, a Fox 35 News.
Alaimo, cofundador de ZeroEyes, afirmó que la empresa contrata a empleados con experiencia militar o policial que "mantienen la calma bajo presión y son muy buenos identificando armas" para revisar las posibles amenazas detectadas por la IA.
La imagen que ZeroEyes detectó en Lawton Chiles mostraba al estudiante apuntando su clarinete como si fuera un arma contra una puerta y se asemejaba mucho a "un tirador a punto de hacer algo malo", afirmó Alaimo.
El agente que respondió a la alerta interrogó al estudiante con el clarinete, según el informe policial. El estudiante afirmó estar vestido como un personaje militar de la película navideña "Red One" para el día de disfraces navideños de la escuela.
El estudiante afirmó que "no se dio cuenta" de que sostenía su clarinete de una manera que habría activado una alerta, según el informe. La policía no tomó ninguna otra medida.
Chad Marlow, asesor principal de políticas de la Unión Americana de Libertades Civiles (ACLU), quien ha estudiado sistemas de seguridad escolar, afirmó que incidentes como el de Lawton Chiles demuestran que sistemas como ZeroEyes aún pueden ser falibles, incluso con humanos revisando las amenazas que detecta la IA.
"Si una tecnología informática le dice a un evaluador humano que ve un arma y que literalmente unos segundos pueden ser cruciales, esa persona se equivocará al decir que es un arma", afirmó.
Amanda Klinger, directora de operaciones de la Red de Seguridad Escolar de Educadores, añadió que los informes falsos pueden generar "fatiga de alarma" y situaciones peligrosas si la policía armada acude a una escuela buscando a un tirador.
"Tenemos que ser muy claros sobre las limitaciones de estas tecnologías", declaró Klinger.
Alaimo afirmó que ZeroEyes, y sus socios en los distritos escolares, prefieren prevenir que lamentar.
"Un superintendente, un agente de recursos escolares, un jefe de policía, un director de seguridad, dirán: 'Sí, sean más proactivos, estén más dispuestos a darme la alerta si tienen la más mínima duda'", dijo Alaimo. "Porque quieren mantener a la gente segura".
Aclaración: La historia ha sido aclarada para reflejar el breve empleo de David Riedman en ZeroEyes.