連邦取引委員会（FTC）は火曜日、人工知能（AI）武器探知企業Evolvに対する訴訟で和解を申し立て、同社が学校などの会場で自社の武器スキャナーを「欺瞞的に」宣伝しているという申し立ての詳細を明らかにした。
マサチューセッツ州に拠点を置くEvolv社と、同社のAI武器スキャナーに関する主張は、昨年10月からFTC、今年初めからは米国証券取引委員会（SEC）の調査対象となっている。これらの調査は、同社が個人の持ち物に隠された銃やナイフなどの武器を検知する技術能力を誇張し、無害な個人所有物を無視しているという懸念を受けて行われた。
FTCの訴状は、Evolvが同社 のExpressスキャナーの精度を虚偽に宣伝したと主張している。FTCによると、このスキャナーは800以上の学校や、スポーツスタジアム、病院など多くの場所で使用されているとニュースリリースで述べられている。
Evolvは都市交通システムにも導入されている。今年初め、ニューヨーク市のエリック・アダムス市長は、市警察がエボルブ社の銃器検知スキャナーをニューヨーク市の地下鉄システムで試験的に導入すると発表しました。10月、試験運用終了後、法律扶助協会は、高い誤検知率を理由に、同プログラムは「客観的に見て失敗」であると述べました。
FTCによると、エボルブ社は自社製品に関して、エクスプレススキャナーは金属探知機よりも正確かつ迅速に武器を検知できる、誤報率を低減し、人員の追加を控えることで金属探知機に比べて人件費を70%削減できるといった虚偽の情報を流布していました。
さらにFTCは、同スキャナーが学校で武器を検知できなかった事例が複数あったと主張しました。あるケースでは、2022年10月に学校に持ち込まれた7インチのナイフが生徒を刺すのに使われたが、システムは検知できなかった。ニュースリリースによると、事件後、学校当局はシステムの感度設定を上げたが、その結果、誤報率が50%になったという。
FTCによると、Evolvの事業の半分は学校システム向けで、同社はAI銃器検知技術の分野でZeroEyesなどの企業と競合する巨大企業となっている。ZeroEyesはまた、物議を醸すマーケティング手法や、自社製品が公立学校の敷地内での銃による暴力から子供たちを守るのに役立つと主張していることから、学校安全技術の専門家から怒りを買っている。
Evolvはマーケティング資料の中で、AI搭載スキャナーが従来の金属スキャナーに代わるハイテクな代替品であると主張しています。学校向けのマーケティング資料では、同社製品が学校における銃器などの武器問題の解決に役立つと主張しています。
和解の一環として、Evolvは「人工知能を用いた武器検知能力について、根拠のない主張をすること」を禁じられます。また、複数年契約を締結した一部のK-12（小中高）顧客に契約の解約権を与えることも義務付けられます。
FTCは和解案を提出するにあたり、裁判所に対し、Evolvに対する恒久的な差止命令の発令を求めています。これにより、同社が製品の機能について虚偽の広告を続けることが阻止されます。同社に対して今後何らかの訴訟を起こすには、裁判所がこの差止命令を発令しなければなりません。
「FTCは、人工知能を含むテクノロジーに関する主張は裏付けが必要であると明確に述べており、特に子供の安全に関わる主張の場合はそれが重要です」と、消費者保護局のサミュエル・レバイン局長はニュースリリースで述べた。「十分な裏付けなしにそのような主張をした場合、FTCから連絡を受けることになるでしょう。」