Incidents associés
Mise à jour : Cet article a été mis à jour, car l’original exagérait potentiellement à la fois ce que disait le règlement de la FTC concernant ce qu’Evolv pouvait commercialiser ainsi que la réponse d’Evolv à ce règlement (suggérant qu’elle essaierait de limiter le règlement qu’elle a accepté). Nous regrettons les descriptions trompeuses et avons mis à jour l’article en conséquence.
Evolv est peut-être nouveau dans le secteur, mais il s’est déjà fait un nom. Et pas un bon.
Il faisait partie intégrante de la série d’échecs publics du maire de New York, Eric Adams. Le maire a annoncé qu'Evolv allait installer sa technologie de « détection d'armes à feu » dans le métro de la ville, malgré l'aveu public du PDG d'Evolv, Peter George (lors d'un appel avec des investisseurs), selon lequel la technologie ne fonctionnerait pas très bien dans le métro.
_« Les métros, en particulier, ne sont pas un endroit que nous pensons être un bon cas d’utilisation pour nous », a déclaré George, en raison de « l’interférence avec les chemins de fer ». _
Il voulait probablement parler d’interférence de la part des chemins de fer, mais le résultat final de l’essai d’Evolv pourrait probablement être décrit comme une « interférence avec les chemins de fer » tout aussi précisément.
Un programme pilote testant des scanners d’armes alimentés par l’IA dans certaines stations de métro de New York cet été n’a détecté aucun passager avec des armes à feu – mais a faussement alerté plus de 100 fois, selon des données de police récemment publiées.
Grâce à près de 3 000 recherches, les scanners ont révélé plus de 118 faux positifs ainsi que 12 couteaux, a déclaré la police, bien qu’elle ait refusé de dire si les résultats positifs faisaient référence à des lames ou des outils illégaux, tels que des couteaux de poche, qui sont autorisés dans le système de transport en commun.
D’un côté, le PDG Peter George n’a certainement pas exagéré l’efficacité de la technologie lorsqu’il a exprimé sa réticence à la déployer dans les métros de la ville. D’un autre côté, il semblerait que la force de vente d’Evolv ait si souvent exagéré l’efficacité de la technologie que la Federal Trade Commission a été obligée d’intervenir. Voici d’autres informations de Matthew Guariglia et Cooper Quintin de l’EFF :
La Federal Trade Commission a conclu un accord avec la société autoproclamée de « détection d’armes » Evolv, pour résoudre la plainte de la FTC selon laquelle la société « s’est livrée « sciemment » et à plusieurs reprises » à des activités « illégales » actes d’allégations trompeuses sur leur technologie. Essentiellement, la technologie d’Evolv, qui est présente dans les écoles, les métros et les stades, fait bien moins que ce qu’ils prétendent.
La FTC a allégué dans sa plainte que malgré les affirmations pompeuses d’Evolv, la technologie n’est fondamentalement pas différente d’un détecteur de métaux : « L’entreprise a insisté publiquement et à plusieurs reprises sur le fait qu’Express est un système de « détection d’armes » et non un « détecteur de métaux ». Cette représentation est uniquement une distinction marketing, dans la mesure où les seules choses que les scanners d’Express détectent sont métalliques et ses alarmes peuvent être déclenchées par des objets métalliques qui ne sont pas des armes. »
Evolv vend des détecteurs de métaux avec une IA non éprouvée qui y est agrafée. Comme l’IA est impliquée, l’entreprise n’a aucun scrupule à vendre ses détecteurs de métaux à des prix jusqu’à cinq fois supérieurs à ceux des détecteurs de métaux ordinaires, non contaminés par l’IA. Si les clients rechignent à payer cette majoration, c’est là que les vendeurs interviennent pour, apparemment, surestimer la précision de la technologie d’Evolv et son efficacité présumée à réduire les crimes violents en détectant les armes.
Voici ce que le règlement [PDF] empêche Evolv de faire de fausses déclarations dans ses supports marketing, sa publicité ou tout ce qui est lié à la présentation de ses produits à des clients potentiels :
A. la capacité de détecter les armes ;B. la capacité d’ignorer les objets personnels inoffensifs ;C. la capacité de détecter les armes tout en ignorant les objets personnels inoffensifs ;D. la capacité d’ignorer les objets personnels inoffensifs sans demander aux visiteurs de retirer ces objets de leurs poches ou de leurs sacs ;E. la précision de détection des armes, y compris par rapport à l’utilisation de détecteurs de métaux ;F. taux de fausses alarmes, y compris les comparaisons avec l'utilisation de détecteurs de métaux ; G. la vitesse à laquelle les visiteurs peuvent être contrôlés, par rapport à l'utilisation de détecteurs de métaux ; H. les coûts de main-d'œuvre, y compris les comparaisons avec l'utilisation de détecteurs de métaux ; I. les tests ou les résultats de tout test ; ou
J. tout aspect important de ses performances, de son efficacité, de sa nature ou de ses caractéristiques centrales, y compris, mais sans s'y limiter, l'utilisation d'algorithmes, de l'intelligence artificielle ou d'autres systèmes ou outils automatisés
Elle demande également à l'entreprise d'informer tous ses clients des établissements d'enseignement qu'ils peuvent annuler leurs contrats immédiatement et ne payer que ce qui est dû jusqu'au moment où le contrat est annulé.
Le seul avantage pour Evolv est que ce règlement ne s'applique qu'à son produit Evolv Express et uniquement à son marketing auprès des clients du secteur éducatif. La chasse aux puces est toujours ouverte ailleurs, mais cet accord contient des aveux de la part de l’entreprise selon lesquels elle a trompé ces clients particuliers, ce qui devrait inciter d’autres clients potentiels dans d’autres secteurs (hôpitaux, métros, etc.) à se méfier des affirmations d’efficacité d’Evolv.
Classé sous : ftc, technologie de détection d’armes à feu, nyc, settlement Entreprises : evolv