Incidente 349: El sistema de detección de armas Evolv AI supuestamente tergiversa la precisión, lo que genera brechas de seguridad en las escuelas.

Descripción:

Los escáneres de armas de Evolv, impulsados por IA, se anunciaron como superiores a los detectores de metales, pero, según informes, no detectaron armas reales y generaron un exceso de falsos positivos. La FTC alegó que las afirmaciones engañosas sobre la precisión y la velocidad del sistema contribuyeron a que las escuelas dependieran de una detección poco fiable, con al menos un incidente en octubre de 2022 relacionado con un cuchillo perdido que resultó en el apuñalamiento de un estudiante.

Herramientas

Nuevo Informe Nueva Respuesta DescubrirVer Historial

Entidades

Ver todas las entidades

Alleged: Evolv Technology developed an AI system deployed by Charlotte Mecklenburg School District, which harmed teachers at Charlotte Mecklenburg Schools , students at Charlotte Mecklenburg Schools , security officers at Charlotte Mecklenburg Schools , Parents of students at Charlotte Mecklenburg Schools y School administrators at Charlotte Mecklenburg Schools.

Sistema de IA presuntamente implicado: Evolv Express weapons detection system

Estadísticas de incidentes

349

Cantidad de informes

Fecha del Incidente

2022-03-22

Editores

Khoa Lam, Daniel Atherton

Applied Taxonomies

CSETv1, MIT

Clasificaciones de la Taxonomía CSETv1

Detalles de la Taxonomía

Incident Number

349

Clasificaciones de la Taxonomía MIT

Machine-Classified

Detalles de la Taxonomía

Risk Subdomain

7.3. Lack of capability or robustness

Risk Domain

AI system safety, failures, and limitations

Entity

Timing

Post-deployment

Intent

Unintentional

Informes del Incidente

Cronología de Informes

'El día menos seguro': el lanzamiento de escáneres de IA para la detección de armas en las escuelas ha sido un 'grupo', muestran los correos electrónicos

vice.com

Detección de armas AI La última tecnología para hacer que las escuelas sean menos seguras

techdirt.com

La FTC afirma que una empresa de detección de armas con inteligencia artificial se anuncia engañosamente en escuelas y lugares de reunión.

statescoop.com

vice.com · 2022

Traducido por IA

El 22 de marzo, Jennifer Dean, directora de Mallard Creek High School en Charlotte, Carolina del Norte, envió un correo electrónico a miembros de su personal para informarles sobre la instalación de un nuevo sistema de seguridad. Fabricado …

techdirt.com · 2022

Traducido por IA

Seguiremos matando niños en Estados Unidos. Nunca dejaremos de tirar dinero en la dirección del problema, pero no directamente en el problema. Nada se vuelve más seguro. Simplemente recibe más partidas presupuestarias.

El problema de los ti…

statescoop.com · 2024

Traducido por IA

La Comisión Federal de Comercio (FTC) presentó el martes un acuerdo en el caso contra Evolv, empresa de detección de armas con inteligencia artificial, que detalla las acusaciones de que la empresa anuncia engañosamente su escáner de armas …

Variantes

Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.

¿Has visto algo similar?

Incidente Anterior Siguiente Incidente