Incidents associés
Cette semaine, des policiers armés ont menotté et fouillé un élève d'un lycée du comté de Baltimore, dans le Maryland, après qu'un système de sécurité piloté par l'IA a identifié le sac de chips vide de l'adolescent comme une arme à feu potentielle.
Les autorités du comté de Baltimore demandent désormais une enquête sur la manière dont le lycée de Kenwood utilise le système de détection d'armes à feu par l'IA et sur les raisons pour lesquelles l'adolescent s'est retrouvé menotté, malgré les constatations rapides des agents de sécurité de l'établissement concernant l'absence d'arme.
« Ils m'ont fait m'agenouiller, les mains dans le dos et m'ont menotté », a déclaré Taki Allen, un élève de Kenwood, à la chaîne WBAL, filiale de CNN, décrivant ce qui s'est passé lundi soir à l'arrivée de la police au lycée alors qu'il attendait avec des amis qu'on le ramène chez lui après un entraînement de football américain.
« Ils m'ont fouillé et ont constaté que je n'avais rien. Puis, ils se sont approchés de moi et ont trouvé un sac de chips par terre », a déclaré Allen.
Il a décrit une scène bouleversante, qui a donné lieu à une intervention policière musclée.
« La première chose que je me suis demandée, c'était : allais-je mourir ? Parce qu'ils avaient une arme pointée sur moi », a déclaré Allen à WBAL, évoquant environ « huit voitures de police » arrêtées devant l'école.
« Je tenais juste un sac de Doritos – il y avait deux mains et un doigt tendus, et ils ont dit que ça ressemblait à une arme », a raconté Allen à WBAL.
Le système de sécurité basé sur l'IA de l'école n'est qu'un exemple de la façon dont les écoles abordent la sécurité à l'ère des violences armées massives. Les outils d'IA ont connu une popularité fulgurante ces dernières années, notamment les outils permettant de visionner les images de surveillance.
CNN a contacté la police du comté de Baltimore pour obtenir un commentaire. La police a indiqué à WBAL que les agents avaient répondu à un signalement concernant une personne suspecte armée, mais qu'une fouille avait permis de déterminer que la personne n'était pas armée.
La directrice de Kenwood, Kate Smith, a déclaré que le service de sécurité du district scolaire avait examiné et annulé l'alerte de détection d'arme après avoir confirmé l'absence d'arme, selon un communiqué envoyé aux parents et transmis à CNN. Smith a déclaré avoir signalé l'incident au responsable des ressources scolaires de Kenwood, qui a appelé la police locale à l'aide.
Le directeur n'a pas immédiatement réalisé que l'alerte avait été annulée, a déclaré un porte-parole des écoles publiques du comté de Baltimore à WBAL.
« Nous comprenons le bouleversement que cela a causé à la personne fouillée ainsi qu'aux autres élèves témoins de l'incident », a déclaré Smith dans un communiqué. « Sachez que la sécurité de nos élèves et de la communauté scolaire est l'une de nos priorités absolues. »
Omnilert, l'entreprise qui exploite le système de détection d'armes à feu par IA, a exprimé ses regrets face à l'incident et a souligné que son système est conçu pour identifier une menace potentielle et la soumettre à une analyse humaine.
« Nous regrettons cet incident et souhaitons faire part de notre inquiétude à l'élève et à la communauté touchée par les événements qui ont suivi », a déclaré l'entreprise à CNN.
« Bien qu'il ait été ultérieurement déterminé que l'objet n'était pas une arme à feu, le processus a fonctionné comme prévu : privilégier la sécurité et la vigilance grâce à une vérification humaine rapide », a ajouté l'entreprise.
Le système de détection d'armes à feu par IA est utilisé dans les écoles publiques du comté de Baltimore depuis 2023. Il analyse les vidéos des caméras de sécurité existantes, a déclaré la surintendante Myriam Rogers lors d'une conférence de presse mercredi.
Mme Rogers a qualifié l'incident de lundi de « vraiment regrettable » et a déclaré que le district scolaire ne souhaitait en aucun cas placer ses élèves dans une situation aussi effrayante.
La réaction brutale à la fausse alerte a suscité l'indignation de la communauté, et le grand-père d'Allen, Lamont Davis, a exigé des comptes.
« Il faut agir », a-t-il déclaré à WBAL. « Il faut changer les choses et tenir les gens responsables. »
Les responsables du comté de Baltimore souhaitent une révision du processus ayant conduit à l'intervention policière de lundi.
« Aucun enfant de notre système scolaire ne devrait être interpellé par la police pour avoir mangé un paquet de Doritos », a déclaré Izzy Patoka, conseillère municipale du comté de Baltimore, dans un communiqué sur les réseaux sociaux, appelant le district scolaire à « revoir les procédures relatives à son système de détection d'armes à feu par IA ».
Le conseiller du comté de Baltimore, Julian Jones, a également appelé à un examen de l'utilisation du système d'IA « afin de garantir la mise en place de mesures de protection et d'éviter que ce type d'erreur ne se reproduise », selon WBAL.
Le surintendant Rogers a déclaré que l'examen du système et des pratiques de sécurité dans les écoles du comté de Baltimore « fait partie de nos pratiques habituelles ».
The-CNN-Wire & 2025 Cable News Network, Inc., une société Time Warner. Tous droits réservés.