Incidentes Asociados
Actualizado: Esta publicación ha sido actualizada, ya que el original posiblemente exageró tanto lo que decía el acuerdo de la FTC con respecto a lo que Evolv podría comercializar como la respuesta de Evolv al mismo (lo que sugiere que intentaría limitar el acuerdo al que accedió). Lamentamos las descripciones engañosas y hemos actualizado el artículo en consecuencia.
Evolv puede ser nuevo en el juego, pero ya se ha ganado un nombre. Y no uno bueno.
Fue una parte integral de la serie de fracasos públicos del alcalde de la ciudad de Nueva York, Eric Adams. El alcalde anunció que Evolv instalaría su tecnología de “detección de armas” en los subterráneos de la ciudad, a pesar de que el director ejecutivo de Evolv, Peter George, admitió públicamente (durante una llamada con inversores) que la tecnología no funcionaría tan bien en los subterráneos.
“Los subterráneos, en particular, no son un lugar que consideremos que sea un buen caso de uso para nosotros”, dijo George, debido a la “interferencia con los ferrocarriles”.
Probablemente se refería a la interferencia de los ferrocarriles, pero el resultado final de la prueba de Evolv probablemente podría describirse como “interferencia con los ferrocarriles” con la misma precisión.
Un programa piloto que probó escáneres de armas impulsados por IA dentro de algunas estaciones de metro de la ciudad de Nueva York este verano no detectó ningún pasajero con armas de fuego, pero alertaron falsamente más de 100 veces, según datos policiales recién publicados.
A través de casi 3.000 búsquedas, los escáneres detectaron más de 118 falsos positivos, así como 12 cuchillos, dijo la policía, aunque se negaron a decir si los resultados positivos se referían a cuchillas o herramientas ilegales, como navajas de bolsillo, que están permitidas en el sistema de tránsito.
Por un lado, el director ejecutivo Peter George definitivamente no exageró la eficacia de la tecnología cuando expresó su renuencia a implementarla en los subterráneos de la ciudad. Por otro lado, parecería que el equipo de ventas de Evolv ha exagerado la efectividad de la tecnología con tanta frecuencia que la Comisión Federal de Comercio se ha visto obligada a intervenir. Aquí hay más de Matthew Guariglia y Cooper Quintin de la EFF:
_La Comisión Federal de Comercio ha llegado a un acuerdo con la autodenominada empresa de "detección de armas" Evolv, para resolver la afirmación de la FTC de que la empresa ["conscientemente" y "repetidamente" participó en actividades "ilegales" La FTC alegó en su denuncia que a pesar de las elevadas afirmaciones hechas por Evolv, la tecnología no es fundamentalmente diferente de un detector de metales: “La empresa ha insistido públicamente y en repetidas ocasiones en que Express es un sistema de ‘detección de armas’ y no un ‘detector de metales’. Esta representación es únicamente una distinción de marketing, en el sentido de que las únicas cosas que detectan los escáneres Express son metálicas y sus alarmas pueden activarse con objetos metálicos que no son armas”.
Evolv está vendiendo detectores de metales con una IA no probada grapada a ellos. Como hay inteligencia artificial involucrada, la empresa no tiene reparos en vender sus detectores de metales por hasta cinco veces el precio actual de los detectores de metales normales, no contaminados por inteligencia artificial. Si los clientes se resisten al margen, ahí es donde intervienen los vendedores para, aparentemente, exagerar la precisión de la tecnología de Evolv y su presunta eficacia para reducir los delitos violentos mediante la detección de armas.
Esto es lo que el acuerdo [PDF] impide a Evolv hacer declaraciones erróneas en sus materiales de marketing, publicidad o cualquier cosa relacionada con la promoción de sus productos a clientes potenciales:
A. la capacidad de detectar armas;B. la capacidad de ignorar objetos personales inofensivos;C. la capacidad de detectar armas ignorando objetos personales inofensivos;D. la capacidad de ignorar objetos personales inofensivos sin exigir a los visitantes que saquen dichos objetos de los bolsillos o bolsos;E. la precisión de la detección de armas, incluso en comparación con el uso de detectores de metales;F. tasas de falsas alarmas, incluidas las comparaciones con el uso de detectores de metales;G. la velocidad a la que se puede examinar a los visitantes, en comparación con el uso de detectores de metales;H. los costos laborales, incluidas las comparaciones con el uso de detectores de metales;I. las pruebas o los resultados de cualquier prueba; o
J. cualquier aspecto material de su desempeño, eficacia, naturaleza o características centrales, incluido, entre otros, el uso de algoritmos, inteligencia artificial u otros sistemas o herramientas automatizados
También instruye a la empresa a informar a todos sus clientes de instalaciones educativas que pueden cancelar sus contratos de inmediato y pagar solo lo adeudado hasta el momento en que se cancele el contrato.
La única ventaja para Evolv es que este acuerdo solo se aplica a su producto Evolv Express y solo a su comercialización a clientes en el campo educativo. En otros lugares, la temporada de caza sigue abierta, pero este acuerdo incluye admisiones por parte de la empresa de que engañó a estos clientes en particular, lo que debería hacer que otros clientes potenciales en otras áreas (hospitales, subterráneos, etc.) sean mucho más cautelosos a la hora de confiar en las afirmaciones de eficacia de Evolv.
Archivado en: ftc, tecnología de detección de armas, nyc, acuerdo Empresas: evolv