Incidentes Asociados
La Comisión Federal de Comercio (FTC) presentó el martes un acuerdo en el caso contra Evolv, empresa de detección de armas con inteligencia artificial, que detalla las acusaciones de que la empresa anuncia engañosamente su escáner de armas en escuelas y otros lugares.
La empresa de Massachusetts, y sus afirmaciones sobre sus escáneres de armas con inteligencia artificial, han estado bajo investigación por parte de la FTC desde octubre pasado y por la Comisión de Bolsa y Valores de EE. UU. (SEC) desde principios de año. Las investigaciones surgieron tras la preocupación de que la empresa exageraba la capacidad de su tecnología para detectar pistolas y cuchillos, entre otras armas guardadas en pertenencias personales, mientras ignoraba artículos personales inofensivos. La denuncia de la FTC [https://www.ftc.gov/system/files/ftc_gov/pdf/EVOLVCOMPLAINTFILED.pdf] alegó que Evolv publicitó engañosamente la precisión de sus escáneres Express, que, según la comisión, se utilizan en más de 800 escuelas y muchos otros lugares, como estadios deportivos y hospitales, según un comunicado de prensa.
Evolv también se ha implementado en los sistemas de transporte de la ciudad. A principios de este año, el alcalde de la ciudad de Nueva York, Eric Adams, anunció que el departamento de policía de la ciudad probaría los escáneres de detección de armas de Evolv en el sistema de metro de la ciudad (https://statescoop.com/nypd-ai-gun-detection-scanners-subway/). En octubre, tras la conclusión del programa piloto, la Sociedad de Asistencia Legal declaró que el programa era "objetivamente un fracaso" (https://www.cbsnews.com/newyork/news/nycs-subway-weapons-detector-pilot-program-ends/), debido a su alta tasa de falsos positivos.
La FTC afirmó que otras falsedades que Evolv difundía sobre su producto incluían que los escáneres Express pueden detectar armas con mayor precisión y rapidez que los detectores de metales, que reducen las tasas de falsas alarmas y que reducen los costos de mano de obra en un 70 % en comparación con los detectores de metales al reducir la necesidad de personal adicional.
Además, la FTC alegó que los escáneres no habían detectado armas en las escuelas en varios casos. En un caso, el sistema no detectó un cuchillo de siete pulgadas introducido en una escuela en octubre de 2022, el cual se utilizó para apuñalar a un estudiante (https://www.bbc.com/news/technology-65342798). Tras el incidente, las autoridades escolares aumentaron la sensibilidad del sistema, lo que provocó una tasa de falsas alarmas del 50 %, según el comunicado de prensa.
Según la FTC, los sistemas escolares representan la mitad del negocio de Evolv, lo que la convierte en una empresa clave en el sector de la tecnología de detección de armas con IA, compitiendo con empresas como ZeroEyes (https://statescoop.com/zeroeyes-school-safety-ai-firearm-detection-2024/). ZeroEyes también ha recibido críticas de expertos en tecnología de seguridad escolar por sus controvertidas prácticas de marketing y afirma que su producto puede ayudar a proteger a los niños de la violencia con armas de fuego en las escuelas públicas.
En sus materiales de marketing, Evolv afirma que sus escáneres con IA son una alternativa de alta tecnología a los escáneres de metales tradicionales. En sus materiales de marketing específicos para escuelas, la compañía afirmó que sus productos podrían ayudar a abordar el problema de las armas de fuego y otras armas en las escuelas.
Como parte del acuerdo, se prohibiría a Evolv "hacer afirmaciones sin fundamento sobre la capacidad de sus productos para detectar armas mediante inteligencia artificial". También obligaría a la compañía a ofrecer a ciertos clientes de educación primaria y secundaria que firmaron contratos plurianuales la opción de cancelar sus contratos.
Al presentar la propuesta de acuerdo, la FTC solicita al tribunal que otorgue una orden judicial permanente contra Evolv, lo que impediría que la compañía continúe anunciando supuestamente falsamente las capacidades de sus productos. Para cualquier acción futura contra la compañía, el tribunal debe otorgar la orden judicial.
"La FTC ha sido clara en que las afirmaciones sobre tecnología, incluida la inteligencia artificial, deben estar respaldadas, y esto es especialmente importante cuando estas afirmaciones involucran la seguridad de los niños", declaró Samuel Levine, director de la Oficina de Protección al Consumidor, en el comunicado de prensa. "Si usted hace esas afirmaciones sin el debido respaldo, puede esperar recibir noticias de la FTC".