Incident 1250: Un faux positif présumé du système de détection d'armes à feu Omnilert AI incite la police à effectuer des recherches dans un lycée du comté de Baltimore
Entités
Voir toutes les entitésStatistiques d'incidents
Risk Subdomain
7.3. Lack of capability or robustness
Risk Domain
- AI system safety, failures, and limitations
Entity
AI
Timing
Post-deployment
Intent
Unintentional
Rapports d'incidents
Chronologie du rapport
Les conseillers du comté de Baltimore demandent aux responsables scolaires et à la police de revoir le système de détection d'armes à feu Omnilert après qu'une alerte ait détecté par erreur la présence d'une arme chez un élève.
Le système O…
Un système d'intelligence artificielle (IA) a apparemment confondu le paquet de Doritos d'un lycéen avec une arme à feu et a appelé la police locale pour signaler que l'élève était armé.
Lundi soir, Taki Allen était assis avec des amis deva…

Cette semaine, des policiers armés ont menotté et fouillé un élève d'un lycée du comté de Baltimore, dans le Maryland, après qu'un système de sécurité piloté par l'IA a identifié le sac de chips vide de l'adolescent comme une arme à feu pot…

