Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 6328

Incidents associés

Incident 12503 Rapports
Alleged False Positive by Omnilert AI Gun Detection System Prompts Police Search at Baltimore County High School

Loading...
Une fausse alerte à la détection d'armes à feu par intelligence artificielle dans une école : les responsables du comté de Baltimore demandent une révision
cbsnews.com · 2025

Les conseillers du comté de Baltimore demandent aux responsables scolaires et à la police de revoir le système de détection d'armes à feu Omnilert après qu'une alerte ait détecté par erreur la présence d'une arme chez un élève.

Le système Omnilert a alerté la direction du lycée Kenwood qu'un élève était armé.

Il s'est avéré qu'il n'y avait pas d'arme. En réalité, c'était un sachet de chips qui avait été pris pour une arme.

Les conseillers du comté de Baltimore réclament des mesures.


Les conseillers du comté de Baltimore, Julian Jones et Izzy Patoka, demandent à la surintendante des écoles du comté, le Dr Myriam Rogers, et à la police de revoir le système Omnilert suite à cette fausse alerte.

« Dieu merci, ce n'était pas pire », a déclaré M. Jones. « Comment en est-on arrivé à ce que des policiers, armes au poing, s'approchent d'un élève à cause d'un sachet de Doritos ? »

L'administration scolaire a reçu une alerte signalant la présence possible d'une arme sur le terrain de l'établissement, selon une lettre adressée à la communauté scolaire par la proviseure du lycée Kenwood, Kate Smith.

Alerte annulée, aucune arme trouvée


Le service de sécurité scolaire a examiné et annulé l'alerte initiale après avoir confirmé l'absence d'arme.

« J'ai contacté notre agent de liaison scolaire et lui ai signalé l'incident. Il a ensuite contacté le commissariat local pour obtenir des renforts », a déclaré M. Smith dans sa lettre. « Les policiers se sont rendus à l'école, ont fouillé la personne et ont rapidement confirmé qu'elle n'était pas en possession d'une arme. »

Le proviseur de Kenwood a également indiqué que des conseillers d'orientation apporteraient un soutien direct aux élèves impliqués dans l'incident de lundi et seraient disponibles pour s'entretenir avec tout élève qui en aurait besoin.

« Sachez que la sécurité de nos élèves et de la communauté scolaire est l'une de nos priorités absolues », a déclaré M. Smith. « Nous collaborons étroitement avec la police du comté de Baltimore afin de pouvoir réagir rapidement à tout problème de sécurité potentiel. Il est essentiel que nous travaillions tous ensemble pour maintenir un environnement sûr et accueillant pour tous les élèves et le personnel du lycée Kenwood. »

L'image ressemblait fortement à une arme à feu, a déclaré Omnilert.


WJZ a contacté Omnilert, et un porte-parole de l'entreprise a expliqué que l'image transmise à leur personnel ressemblait fortement à une arme à feu.

« Elle a été vérifiée et transmise en quelques secondes à l'équipe de sécurité des écoles publiques du comté de Baltimore pour évaluation », a écrit le porte-parole. « En quelques instants, l'incident a été marqué comme résolu dans notre système. L'intervention d'Omnilert s'est arrêtée là, et le système a fonctionné comme prévu : il a détecté une menace potentielle, l'a transmise pour examen humain et a permis une prise de décision rapide et éclairée. »

Surintendante : « La vérification humaine est indispensable »


La surintendante des écoles publiques du comté de Baltimore, Myriam Rogers, a déclaré que le système scolaire avait installé Omnilert en 2023 et qu'il fonctionnait correctement.

« Le programme a fonctionné comme prévu : il a déclenché une alerte afin que des humains puissent examiner la situation et déterminer s'il y avait lieu de s'inquiéter », a déclaré Rogers.

Il a ajouté : « Concernant les fausses alertes, le système est conçu pour, en présence de certaines caractéristiques, envoyer une alerte aux équipes afin qu'elles puissent analyser et identifier la situation. »

Rogers a insisté sur le fait qu'Omnilert est un processus en plusieurs étapes, nécessitant la vérification humaine de la crédibilité de la menace avant l'intervention de la police.

« La troisième étape consiste à informer l'ensemble des équipes d'intervention d'urgence de la crédibilité de la menace avant qu'elles ne se rendent sur place », a expliqué Rogers. « Ce système, basé sur l'IA, recherche certains éléments qui doivent ensuite être vérifiés par des humains. »

Incidents précédents liés à Omnilert


Le conseiller municipal Jones souhaite s'assurer du bon fonctionnement du système Omnilert dans les écoles avoisinantes, mais aussi dans tout le comté, après avoir appris qu'il s'agissait du même système de détection d'armes à feu qui n'avait pas détecté une arme dissimulée en janvier 2025, avant la fusillade meurtrière survenue au lycée Antioch de Nashville, dans le Tennessee.

« Que pouvons-nous faire pour éviter que cela ne se reproduise, et ce pour plusieurs raisons ? » a demandé M. Jones.

Omnilert a déclaré à WJZ qu'elle restait confiante dans l'efficacité de son système et qu'elle s'engageait à travailler en étroite collaboration avec ses clients et la communauté afin de maintenir les plus hauts niveaux de sécurité, de transparence et de confiance lors de chaque déploiement.

« Chaque situation est unique », a écrit un porte-parole d'Omnilert dans une déclaration à WJZ. « Dans le cas de Nashville, l'arme n'était pas visible par la caméra et n'était donc détectable par aucun système de vision. »

Un porte-parole d'Omnilert a poursuivi : « Notre technologie ne peut identifier que ce que la caméra filme, et nous insistons sur le fait que la détection d'armes à feu par IA n'est qu'un élément d'une stratégie de sécurité globale qui inclut systématiquement une supervision humaine et d'autres mesures de protection. »

Omnilert a déclaré à WJZ être sensible aux préoccupations exprimées par les responsables du comté de Baltimore et les a invités à examiner le fonctionnement de son système.

« L'entreprise comprend l'importance de maintenir la confiance dans les technologies de sécurité utilisées dans les écoles », a déclaré un porte-parole d'Omnilert. « Nous sommes ouverts à tout examen ou discussion permettant au public de mieux comprendre le fonctionnement de notre système, car nous avons pleinement confiance en la fiabilité et la valeur de notre technologie. »

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd