Description: SN Technologies allegedly misled Lockport City Schools about the performance of its AEGIS face and weapons detection systems, downplaying error rates for Black faces and weapon misidentification.
Entidades
Ver todas las entidadesPresunto: un sistema de IA desarrollado por SN Technologies e implementado por Lockport City School District, perjudicó a Black students.
Estadísticas de incidentes
ID
214
Cantidad de informes
1
Fecha del Incidente
2020-01-02
Editores
Khoa Lam
Informes del Incidente
Cronología de Informes
vice.com · 2020
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Los documentos revelan que la tecnología de reconocimiento facial de Lockport Schools ha confundido los mangos de las escobas con armas de fuego y ha identificado erróneamente a los estudiantes negros a tasas mucho más altas.
Desde que supi…
Variantes
Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.