ニューオーリンズ警察は、誤認逮捕を防ぎ市民の公民権を守るために制定された市条例に反するかのように、何年もかけて市街地のライブ映像をスキャンし、秘密裏に顔認識技術を用いて容疑者をリアルタイムで特定してきたと報じられている。
ワシントン・ポスト紙の調査で、この不正な手法が明らかになった。200台以上のカメラからなる私設ネットワークを利用し、容疑者と一致する可能性のある人物が検知されると、警官の携帯電話に自動的に通知が送られる仕組みだった。裁判記録や公開データによると、これらのカメラは「数十件の逮捕に関与した」ことが示唆されているが、そのほとんどの使用状況は警察の報告書には記載されていなかったとワシントン・ポスト紙は指摘している。
ワシントン・ポスト紙は、2022年に市議会が制定した条例により、この技術に対する監視が大幅に強化されたため、これは問題視されていると報じている。警察は、ライブ映像に映った瞬間に容疑者を即座に拘束するのではなく、この技術を「暴力犯罪捜査における特定の容疑者」の捜索にのみ使用するはずだったと、ワシントン・ポスト紙は報じている。そして、こうした限定的なケースでは、警察は画像を「フュージョンセンター」に送信し、AIソフトウェアを用いて「顔認証の訓練を受けた」少なくとも2人の検査官が、容疑者に接近する前に、一致したとされる画像について合意する必要があった。
しかし、ワシントン・ポスト紙は、逮捕された容疑者の「いずれも」が「市議会への義務報告に含まれていなかった」ことを明らかにした。さらに、少なくとも4人の逮捕者は非暴力犯罪で起訴された。一部の警察官は市議会のプロセスが遅すぎると感じ、この技術へのアクセスを最大限に活用するために、それを無視することを選んだようだとワシントン・ポスト紙は指摘している。
現在、ニューオーリンズ警察は、アメリカ自由人権協会（ACLU）のスピーチ・プライバシー・テクノロジー・プロジェクトの副ディレクター、ネイサン・フリード・ウェスラー氏が米国における顔認識技術の最も不正確な利用法かもしれないと指摘したことを受け、反発を受け、このプログラムを一時停止した。ウェスラー氏はワシントン・ポスト紙に対し、これは「米国の 主要都市の警察がライブカメラ映像に映る人物をAIで特定し、即時逮捕するという、初めて知られている大規模な取り組み」だと述べた。
ニューオーリンズ警察のアン・カークパトリック本部長はワシントン・ポスト紙に対し、このプログラムの見直しを行い、「アプリの使用が法律と規則のすべての要件を満たしていることを確信できる」まで、すべての自動アラートを停止すると述べた。
ACLUはより強力な対応を求めており、逮捕件数の徹底的な調査と、ニューオーリンズ警察に対しAIを活用したフィードの使用を永久に停止するよう強く求めている。ルイジアナ州ACLUの事務局長アラナ・オドムズ氏は、Arsに送った声明の中で、徹底的な調査がなければ、秘密裏に行われるAI監視が地域社会に及ぼす潜在的な害の程度を把握することはできないと述べた。
「このツールが、特に移民や活動家、そして政府の政策に異議を唱えたり、声を上げたりすることだけが犯罪である人々といった、社会的に疎外されたコミュニティに対して武器として利用されるという現実的な可能性を無視することはできない」とオドムズ氏は述べた。「これらの人々は、国民に知られることなく、警察署側の説明責任や透明性も伴わないまま、プロジェクト・ノーラの監視リストに追加される可能性がある」
一部の州では、顔認識による即時逮捕を禁止
ニューオーリンズのカメラは、元警察官のブライアン・ラガルド氏が設立した非営利団体「プロジェクト・ノーラ」によって運用されている。ラガルド氏は、市内の「犯罪多発地域」を警察がより綿密に監視できるよう支援したいと、ワシントン・ポスト紙は報じている。
プロジェクト・ノーラはソーシャルメディアの投稿で、ライブ映像をスキャンして「指名手配リストに載っている容疑者」を探すように設定されたこのカメラネットワークは、2023年以降少なくとも34件の逮捕に貢献したと主張している。しかし、ワシントン・ポスト紙は「市はそのようなデータを追跡しておらず、この非営利団体も事案の詳細な記録を公表していない」ため、この主張を検証するのに苦労した。
市議会に提出された警察の記録によると、このネットワークは「1件の事案でしか役に立たなかった」という。これらの主張の矛盾点を調査したワシントン・ポスト紙は、どれだけの容疑者が誤認されたのか、あるいは物議を醸しているライブ映像の責任ある使用を確保するために警察がどのような措置を講じたのかは、永遠に分からないかもしれないと示唆した。
ワシントン・ポスト紙によると、米国ではニューオーリンズが、顔認識カメラのライブ映像を用いて即時逮捕を行うという点で、他の地域の法執行機関よりも一歩先を進んでいる。セキュリティ業界協会はワシントン・ポスト紙に対し、メリーランド州、モンタナ州、バーモント州、バージニア州の4州と全米19都市がこの慣行を「明確に禁止」しているとの見解を示した。
ラガルド氏はワシントン・ポスト紙に対し、警察はカメラネットワーク上で容疑者を「直接」捜索したり、容疑者をリアルタイムで監視リストに追加したりすることはできないと述べた。ニューオーリンズ警察（NOPD）の広報担当者リース・ハーパー氏は同紙に対し、「プロジェクト・ノーラの広大な犯罪監視カメラネットワークに関連 するいかなる人工知能システムも、警察は所有しておらず、依存しておらず、管理しておらず、また、職員による使用を容認していない」と述べた。
連邦政府が義務付けた2023年の監査において、ニューオーリンズ警察は条例の遵守に時間がかかりすぎ、「多くの場合」一致しない結果になったと訴えた。これは技術に欠陥がある可能性もあるが、不当逮捕を防ぐというプロセスが意図したとおりに機能している兆候である可能性もある。
ワシントン・ポスト紙は、警察とAIソフトウェアの両方が逮捕を急ぐと、ミスが起きやすいため、合計で「少なくとも8人のアメリカ人が顔認識によって不当逮捕された」と指摘した。
「ニューオーリンズ市は、秘密裏に、安全対策なしに、そして私たちのプライバシーと安全を甚大に脅かす形でこのシステムを導入することで、一線を越えました」とウェスラー氏は述べた。「これは権威主義的な監視国家の典型であり、アメリカの警察には容認できないものです。」
プロジェクト・ノーラは、アルスからのコメント要請に直ちには応じなかった。