Incidente 1250: Un supuesto falso positivo del sistema de detección de armas Omnilert AI provoca un registro policial en la escuela secundaria del condado de Baltimore.
Entidades
Ver todas las entidadesEstadísticas de incidentes
Risk Subdomain
7.3. Lack of capability or robustness
Risk Domain
- AI system safety, failures, and limitations
Entity
AI
Timing
Post-deployment
Intent
Unintentional
Informes del Incidente
Cronología de Informes
Concejales del condado de Baltimore exigen a las autoridades escolares y a la policía que revisen un sistema de detección de armas con IA después de que una alerta errónea detectara que un estudiante portaba un arma.
El sistema de detección…
Un sistema de inteligencia artificial (IA) aparentemente confundió la bolsa de Doritos de un estudiante de secundaria con un arma de fuego y llamó a la policía local para informarles que el alumno estaba armado.
Taki Allen estaba sentado co…

Esta semana, la policía armada esposó y registró a un estudiante de una escuela secundaria en el condado de Baltimore, Maryland, después de que un sistema de seguridad con inteligencia artificial detectara una bolsa vacía de papas fritas de…

