Incidents associés
La Commission fédérale du commerce (FTC) a déposé mardi un accord à l'amiable contre Evolv, une entreprise spécialisée dans la détection d'armes par intelligence artificielle. Cet accord détaille les allégations selon lesquelles l'entreprise ferait une publicité trompeuse pour son scanner d'armes auprès des écoles et autres lieux publics.
L'entreprise du Massachusetts, et ses allégations concernant ses scanners d'armes par intelligence artificielle, font l'objet d'une enquête de la FTC depuis octobre dernier et de la Securities and Exchange Commission (SEC) des États-Unis depuis le début de l'année. Ces enquêtes font suite à des inquiétudes selon lesquelles l'entreprise surestimerait la capacité de sa technologie à détecter les armes à feu et les couteaux parmi d'autres armes rangées dans des effets personnels, tout en ignorant les objets personnels inoffensifs.
La plainte de la FTC allègue qu'Evolv a fait de la publicité trompeuse sur la précision de ses scanners Express, qui, selon la commission, sont utilisés dans plus de 800 écoles et de nombreux autres lieux, tels que des stades et des hôpitaux, selon un communiqué de presse.
Evolv a également été déployé par les systèmes de transport urbains. Plus tôt cette année, le maire de New York, Eric Adams, a annoncé que la police municipale testerait les scanners de détection d'armes à feu d'Evolv dans le métro de la ville. En octobre, après la conclusion du programme pilote, la Legal Aid Society a déclaré que le programme était « objectivement un échec », invoquant son taux élevé de faux positifs.
La FTC a déclaré qu'Evolv avait également propagé d'autres faussetés concernant son produit, notamment que les scanners Express pouvaient détecter les armes plus précisément et plus rapidement que les détecteurs de métaux, qu'ils réduisaient le taux de fausses alertes et les coûts de main-d'œuvre de 70 % par rapport aux détecteurs de métaux en réduisant le besoin de personnel supplémentaire.
En outre, la FTC a allégué que les scanners n'avaient pas réussi à détecter d'armes dans les écoles à plusieurs reprises. Dans un cas, le système n'a pas réussi à détecter un couteau de 18 cm introduit dans une école en octobre 2022 et utilisé pour poignarder un élève. Suite à cet incident, les responsables de l'école ont augmenté la sensibilité du système, ce qui a entraîné un taux de fausses alertes de 50 %, selon le communiqué de presse.
Selon la FTC, les systèmes scolaires représentent la moitié de l'activité d'Evolv, ce qui en fait un acteur majeur dans le domaine des technologies de détection d'armes à feu par IA, en concurrence avec des entreprises telles que ZeroEyes. ZeroEyes a également suscité la colère des experts en technologies de sécurité scolaire pour ses pratiques marketing controversées et ses affirmations selon lesquelles son produit peut contribuer à protéger les enfants contre la violence armée dans les écoles publiques.
Dans ses supports marketing, Evolv affirme que ses scanners alimentés par l'IA sont une alternative high-tech aux scanners de métaux traditionnels. Dans ses supports marketing destinés aux écoles, l'entreprise affirme que ses produits pourraient contribuer à résoudre le problème des armes à feu et autres armes à feu dans les écoles.
Dans le cadre de l'accord, Evolv se verrait interdire « de faire des déclarations non fondées sur la capacité de ses produits à détecter les armes grâce à l'intelligence artificielle ». L'entreprise serait également contrainte d'offrir à certains clients du primaire et du secondaire ayant signé des contrats pluriannuels la possibilité d'annuler leurs contrats.
En déposant une proposition d'accord, la FTC demande au tribunal d'accorder une injonction permanente contre Evolv, ce qui l'empêcherait de continuer à vanter les mérites de ses produits. Pour toute action ultérieure contre l'entreprise, le tribunal doit accorder l'injonction.
« La FTC a clairement indiqué que les allégations concernant la technologie, y compris l'intelligence artificielle, doivent être étayées, ce qui est particulièrement important lorsque ces allégations concernent la sécurité des enfants », a déclaré Samuel Levine, directeur du Bureau de la protection des consommateurs, dans le communiqué de presse. « Si vous avancez ces allégations sans justification adéquate, vous pouvez vous attendre à des poursuites de la part de la FTC. »