レポート 5190

ニューオーリンズ --- ワシントン・ポスト紙の調査によると、ニューオーリンズ警察は2年間にわたり、顔認識技術を秘密裏に活用し、容疑者を捜索していた。これはアメリカの主要都市では前例のない監視方法で、市の技術使用に関するガイドラインに違反する可能性がある。警察は、犯罪現場またはその付近に設置された監視カメラで撮影された静止画像から身元不明の犯人を特定するために、顔認識ソフトウェアをますます活用している。ニューオーリンズ警察はこの技術をさらに進化させ、200台以上の顔認識カメラからなるプライベートネットワークを活用して街を監視し、指名手配中の容疑者を常に監視し、アプリを通じて警官の携帯電話に自動的に連絡し、一致する可能性のある容疑者の氏名と現在地を伝えている。これは、2022年の市議会条例に反しているように見える。この条例では、警察は顔認識を暴力犯罪の捜査における特定の容疑者の捜索にのみ使用し、公共の場で人々を追跡するためのより一般的な「監視ツール」として使用することは禁止されていた。条例では、警察が顔をスキャンするたびに、静止画像を州の施設の訓練を受けた検査官に送り、後日、市議会への報告書でこれらのスキャンの詳細を提供することが義務付けられている。これは、市民のプライバシーを保護し、ソフトウェアのエラーによる不当逮捕を防ぐためのガードレールだ。警察の報告書、裁判記録、そして多くのカメラを購入・管理する犯罪防止非営利団体Project NOLAのソーシャルメディア投稿によると、2023年初頭以来、顔認識カメラのネットワークは数十件の逮捕に関与しており、その中には非暴力犯罪のみで起訴された少なくとも4人が含まれている。警察が詳細な記録を提供した逮捕のほとんどについて、警察官は報告書で顔認識照合への依存を明らかにしておらず、いずれのケースも、警察が技術使用に関して市議会に義務的に提出する報告書には含まれていなかった。Project NOLAは市と正式な契約を結んでいないが、警察官と直接協力している。 「これはまさに、私たちが懸念していた顔認識技術の悪夢のようなシナリオです」と、ACLU（アメリカ自由人権協会）のスピーチ・プライバシー・テクノロジー・プロジェクトの副ディレクターで、警察によるAI技術の活用を綿密に追跡してきたネイサン・フリード・ウェスラー氏は述べた。「これは、政府が公共の場で歩き回っているあらゆる人々、つまりあらゆる人を追跡する権限を自らに与えているようなものです」。ニューオーリンズ警察署長のアン・カークパトリック氏はインタビューで、警部がレビュー中にアラートに潜在的な問題があると指摘した後、4月初旬にこのプログラムを一時停止したと述べた。ワシントン・ポスト紙が確認した4月8日付の電子メールで、カークパトリック氏はProject NOLAに対し、「アプリの使用が法律と政策のすべての要件を満たしていることを確信できるまで」自動アラートをオフにしなければならないと述べていた。ワシントン・ポスト紙は2月から、このアラートに関する公文書の開示請求を開始した。警察署の広報担当者リース・ハーパー氏は電子メールによる声明で、「警察署は、プロジェクト・ノーラの防犯カメラの広大なネットワークに関連するいかなる人工知能システムも所有しておらず、これに依存せず、管理もせず、また署員による使用を容認もしていません」と述べた。全米の警察は顔認識ソフトウェアを活用している。このソフトウェアは、人工知能を用いて一枚の画像に写った顔の身体的特徴を迅速にマッピングし、膨大な画像データベース（通常は顔写真、運転免許証、ソーシャルメディアの写真などから抽出）内の顔と照合して一致候補を探す。ニューオーリンズでの自動顔認識の使用はこれまで報告されておらず、ウェスラー氏によると、米国の主要都市の警察がライブカメラ映像に映った人物をAIで特定し、即時逮捕を行うという、大規模な取り組みは今回が初めてだという。ワシントン・ポスト紙は、一部の警察機関がAI搭載の顔認識ソフトウェアを地方条例に違反して使用し、従来の捜査基準を無視して無実の人々を危険にさらしていると報じている。警察は、犯罪と関連する独立した証拠がないにもかかわらず、AIの照合結果に基づいて容疑者を逮捕することがあり、誤認逮捕の可能性が高まっています。警察は多くの場合、顔認識ソフトウェアの使用について被告人に通知せず、有色人種、女性、高齢者にとっては信頼性が低いことが示されている技術の結果に異議を唱える機会を奪っています。リアルタイム顔認識が広く使用されていることで知られる数少ない場所の1つがロンドンである。ロンドンでは、警察が交通量の多い場所の外にバンを停め、顔認識機能を備えたカメラを使用して通行人の顔をスキャンし、監視リストの人物に一致すると思われる人物と対峙する。ロンドン市は、このプログラムが2016年の開始以来、誤認逮捕につながったことは一度もないとしているが、ロンドンを拠点とする人権団体ビッグ・ブラザー・ウォッチは、この慣行はすべての人を潜在的な容疑者と扱い、誤って一致した人々に無実を証明する責任を負わせていると主張している。 リアルタイムアラート ---------------- ニューオーリンズの監視プログラムは、元警察官が運営する民間団体Project NOLAに依存しており、市のフレンチクォーター地区など犯罪多発地域の店舗の外にカメラネットワークを構築した。Project NOLAは、指名手配リストに載っている人物を捜索するようにカメラを構成した。ソフトウェアが一致したと判断すると、一部の警察官が携帯電話にインストールしたアプリを通じてリアルタイムアラートを送信した。その後、警察官は対象者を迅速に調査し、現場へ赴き、逮捕を試みる。プロジェクトNOLAの創設者ブライアン・ラガルド氏によると、警察はこのプログラムを設定しておらず、特定の人物を直接捜索したり、カメラシステムの監視リストに人物を追加・削除したりすることもできない。この仕組みは、3年前に市議会で制定された条例で定められたプロセスとはほとんど似ていない。条例では、刑事が顔認識ソフトウェアを使用するのは、慎重な監視の下で組織的な捜査の一環としてのみとされていた。警察が顔をスキャンするたびに、条例では静止画像をバトンルージュにある州立の「フュージョンセンター」に送信することが義務付けられている。フュージョンセンターでは、様々な法執行機関が協力して捜査を行っている。そこでは、顔認証の訓練を受けた審査官がAIソフトウェアを用いて画像を写真データベースと比較し、少なくとも2人の審査官が一致した場合にのみ「一致」と判定する。連邦政府が義務付けた2023年の警察署の監査によると、捜査官らはプロセスに時間がかかりすぎ、一致しないことが多いと不満を漏らしている。市議会に警察が提出した記録によると、2022年10月以降、逮捕につながった事件で役に立ったのは1件だけだ。対照的に、Project NOLAは、同団体のフェイスブック投稿によると、2023年初頭に稼働させて以来、顔認識カメラが少なくとも34件の逮捕に役立ったと主張しているが、市はそのようなデータを追跡しておらず、同非営利団体は事件の全容を公表していないため、その数は検証できない。事例リストがなければ、誤認された人物がいたかどうか、あるいは警察官が犯罪への関与を確認するためにどのような追加措置を講じたかを知ることは不可能だ。カークパトリック氏は、リアルタイムアラートを利用した警察官の数、その結果逮捕された人数、照合結果が誤っていたと思われる頻度、そしてこれらの使用が市条例に違反したかどうかについて、正式な調査を開始したと述べた。「私たちは条例と方針に従って行動します。もしそれらの規定から逸脱していることが判明した場合は、それを停止し、是正し、条例の範囲内に収めます」とカークパトリック氏は述べた。地方警察によるAIの利用に関する連邦規制はない。業界団体であるセキュリティ業界協会によると、メリーランド州、モンタナ州、バーモント州、バージニア州の4州と、他の9州の少なくとも19の都市が、警察によるリアルタイム、自動、またはリアルタイムの身元確認や追跡のために顔認識技術を使用することを明確に禁止している。これらの地域の議員らは公開会議で、この技術が人々の憲法上の権利を侵害したり、多くの人が似ているため、犯罪との関連性を確認する手順を踏む前に容疑者を急いで逮捕する際に警察がミスを犯す可能性があるという懸念を表明した。ワシントン・ポスト紙などが報じた。ニューオーリンズのこの認可されていない監視プログラムは、一部の警察がAIを犯罪と戦うための貴重なツールとみなしている時代に、広く利用可能な技術を規制することの難しさを浮き彫りにしている。オースティンやサンフランシスコなど、当局が顔認識を禁止している地域でも、警察官が近隣の町の警察官にひそかにAIによる捜索を依頼することで禁止を回避していたと、ワシントン・ポスト紙が昨年報じた（https://www.washingtonpost.com/business/2024/05/18/facial-recognition-law-enforcement-austin-san-francisco/）。ニューオーリンズの暴力犯罪率は、他の多くの地域と同様に過去最低水準にあると、同地域の犯罪統計を追跡するコンサルタントのジェフ・アッシャー氏は述べている。しかし、市当局は最近の暴力犯罪事例を取り上げ、警察は最も強力なツールを活用できるべきだと主張している。先月、バーボン・ストリートで14人が死亡した元旦の襲撃事件後に委託された独立機関の報告書は、ニューオーリンズ警察の人員不足と準備不足を指摘した。元ニューヨーク市警察本部長のウィリアム・ブラットン氏が監修したこの報告書は、ニューオーリンズ市に対し、ドローン、脅威予測システム、市のリアルタイム犯罪センターのアップグレードなど、いくつかの新ツールの導入を検討するよう勧告したが、顔認識技術の追加は推奨しなかった。市警察トップのカークパトリック氏と同市検察トップのジェイソン・ウィリアムズ氏はともに、顔認識条例の改正について市議会と協議中だと述べた。カークパトリック氏は、プロジェクトNOLAの関与なしに、抗議活動における人物特定への技術使用を禁止するなど、一定の制限を設けつつ、市が独自のライブ顔認識プログラムを合法的に運用するという案を支持すると述べた。「違反や監視をせずにこの技術を運用することは可能でしょうか？」とカークパトリック氏は問いかけた。「もちろん可能です。それが私たちが提唱していることです。」 5,000台のカメラ ------------- ニューオーリンズ市民の日常生活を、元パトロール警官で捜査官のラガルド氏ほど詳細に把握している人はほとんどいない。同氏は1990年代後半に自らビデオ監視事業を立ち上げ、2009年にプロジェクトNOLAを立ち上げた。寄付金で運営され、建物にカメラを設置したり、既存の監視カメラをプロジェクトNOLAの集中ネットワークに接続したりすることに同意する企業に依存しているラガルド氏によると、プロジェクトNOLAはニューオーリンズ全域の5,000台の防犯カメラにアクセスできるが、そのほとんどは顔認識機能を備えていないという。ラガルド氏は施設でのインタビューで、カメラ映像はすべてニューオーリンズ大学キャンパス内の賃貸オフィスにある単一のコントロールルームに送られていると述べた。一部のカメラ映像は連邦、州、地方の法執行機関によっても監視されているという。税務申告書によると、Project NOLAは2023年に80万6724ドルの収益を上げた。その多くは、フロリダ州モンティセロからコロラド州フレデリックまで、ニューオーリンズ以外の地方自治体に同団体が請求する「クラウド料金」によるものだ。これらの自治体は、それぞれの町にProject NOLAのカメラを設置し、ラガルド氏の犯罪監視支援に依存している。ラガルド氏はミシシッピ州で顔認識の実験を行ったが、「市全体で顔認識を行うのはニューオーリンズが初めてだ」と述べた。ニューオーリンズはProject NOLAに資金を支払っていない。ラガルド氏は10年以上にわたり、事業所の外に設置された標準的なカメラを用いて犯罪を監視し、捜査官が捜査に使用できる監視映像を提供してきた。警察の事件報告書、警察へのインタビュー、公的記録の請求を通じて入手した電子メールによると、ラガルドのカメラは非常に普及したため、警察は捜査中の犯罪現場の近くにプロジェクトNOLAのカメラが浮かんでいるのを見つけると、彼に連絡し始めた。ラガルドは、地元の女性から8万7000ドルの遺贈を受けた後、2023年初頭にネットワークに顔認識カメラを追加し始めた。ラガルドはそのお金を使い、約700フィート離れたところから人を検知し、彼が収集した名前と顔のデータベース内の人々の顔の特徴、身体的特徴、さらには服装と自動的に照合できるカメラを購入した。ラガルドによると、データベースは地元の法執行機関から入手した逮捕者の写真から部分的に構築したという。プロジェクトNOLAは2023年にFacebookで、このデータベースには3万人以上の「地元の容疑者および既知の犯罪者」が含まれていると述べている。ラガルド氏によると、プロジェクトNOLAのカメラの前に立った瞬間に、データベースに登録されている人物をすぐに特定できるという。また、名前や画像を入力すると、プロジェクトNOLAが過去30日以内に撮影したその人物の動画クリップがすべて表示される。ラガルド氏によると、30日を過ぎると動画は「プライバシー上の理由」で自動的に削除される。プロジェクトNOLAは地元の事業主たちに熱心な協力者を見つけた。中には、フレンチクォーターでの犯罪を抑制できない市の無力さにうんざりしている人もいたと、プロジェクトNOLAの顔認識カメラを最初に設置した店の一つであるバー「スリーレッグド・ドッグ」のオーナー、ティム・ブレイク氏は語る。フレンチクォーターは観光経済の原動力であると同時に、観光客を食い物にする麻薬の売人や窃盗犯の拠点にもなっている。「政府が仕事をしていれば、プロジェクトNOLAは存在しなかったでしょう」とブレイク氏は語った。ラガルド氏は、著名人の逮捕を発表する記者会見に市当局者らと一緒に姿を現すことがあるが、彼はニューオーリンズ政府の職員でも請負業者でもない。そのため、ラガルド氏とプロジェクトは、法廷で重要な証拠となり得る顔認識の一致に関する情報を共有する義務がないと、ニューオーリンズの主任公選弁護人であるダニー・エンゲルバーグ氏は述べた。「これを民間組織にすると、法執行と検察のために設置されるべきガードレールがすべてなくなり、私たちの仕事である、人々に責任を負わせるための手段がなくなるのです」と彼は述べた。ラガルド氏は、成功した一致の一部についてFacebookに投稿することで透明性を保つよう努めているが、投稿するのはほんの一部に過ぎず、進行中の捜査に関する情報を投稿するのは「無責任」だと認めている。プロジェクトNOLAは、カメラを設置し、自発的にネットワークとフィードを共有することを選択した企業や個人に対して説明責任があると付け加えた。「これは、オンにしたときと同じくらい簡単にオフにできるシステムです」と彼は述べた。「もし私たちが公衆の信頼を裏切るようなことがあれば、人々は個別にカメラをオフにすることができます」禁止された機器 -------------- ラガルド総裁は、特定の企業を推奨したくないとして、自身が使用する機器のメーカーについて明言を避けた。フレンチクォーターにあるプロジェクトNOLAのカメラのいくつかは、中国のカメラメーカーであるDahuaのウェブサイトに掲載されているものとほぼ同じに見え、これらのデバイスの背面に刻印されている製品コードは、ニューヨーク州プレインビューに拠点を置く機器小売業者ENS Securityが販売する同一のカメラと一致しており、ENS Securityは過去にDahuaのカメラを再販したことを認めている。プロジェクトNOLAのウェブサイトには、警察官が映像を閲覧および管理できるアプリをダウンロードするためのリンクも含まれている。DSSと呼ばれるこのアプリはDahuaによって作成されたものである。 2018年、米議会は習近平国家主席率いる政府が米国民のスパイ活動にこれらの機器を利用する可能性があるとの懸念を理由に、連邦政府機関によるダーファ社をはじめとする中国企業の製品・サービスの使用を禁止しました。2020年以降、同法は連邦政府資金を受け取る機関や請負業者に対し、禁止対象製品への資金使用を禁じています。ダーファ社の広報担当者はニューオーリンズのカメラについてコメントを控え、同社は昨年米国での機器販売を停止したと述べました。ニューオーリンズ警察は近年、連邦政府から数千万ドルの資金を受け取っており、一部の警察官が携帯電話や警察署のワークステーションにこのDSSアプリをインストールしていることを確認しました。カークパトリック氏は、アプリやカメラのメーカーは把握していないものの、調査すると述べました。ラガルド氏は、プロジェクトNOLAは「カメラプログラムを運用するために、米国製の有名ブランドサーバーを使用している」と述べました。市当局者の中には、警察がカメラを所有しておらず、ラガルド氏と契約もしていないため、市の顔認識条例に違反しているのではなく、独自に顔認識スキャンを実施している外部団体から情報提供を受けているだけだと主張する者もいる。「ブライアン・ラガルド氏が警官に電話をかけ、『ビエンビル1800番地で犯罪が発生していると思う』と言うのは、ジョンソンさんが窓の外を見て『ビエンビル1850番地で犯罪が発生していると思う』と言うのと何ら変わりません」と、オーリンズ郡地方検事のウィリアムズ氏はインタビューで述べた。しかし、警察の報告書、プロジェクトNOLAのソーシャルメディア投稿、警察内部のメールによると、多くの場合、警察はラガルド氏に映像の提供を依頼したり、容疑者の身元確認や所在確認に協力を求めたりしている。容疑者の追跡 ------------------ 昨年のある事件では、携帯電話のひったくり事件を捜査していた警察の刑事が、犯人を特定し、顔認識アラートを使用して追跡するためにプロジェクトNOLAに頼った、と警察の事件報告書とプロジェクトNOLAのFacebookの投稿から引用された捜査の説明によると。警察の報告書によると、刑事は「プロジェクトNOLAのカメラで犯人を見つけるのを手伝うために」ラガルドに連絡し、市の監視カメラの映像から撮った静止画を提供した。ラガルドはプロジェクトNOLAの衣服認識ツールを使用して、容疑者の以前のビデオ映像を見つけた。プロジェクトNOLAは、新たに得られた鮮明な顔画像を用いて顔認識技術を用いて容疑者の身元を特定し、刑事と共有しました。刑事はその名前を基に、ソーシャルメディア上で容疑者と容疑者と外見やタトゥーが一致する男性の写真を1枚見つけました。警察は容疑者の逮捕状を取得しました。ラガルド氏はその名前と顔をプロジェクトNOLAの監視リストに追加しました。数日後、フレンチクォーターでカメラが自動的に容疑者を特定し、警察に通報しました。警察は容疑者を発見・逮捕しました。裁判記録によると、容疑者は強盗罪で起訴されましたが、より軽微な窃盗罪で有罪を認めました。警察の報告書には、ラガルド氏が容疑者の身元確認に協力したことは記載されていましたが、顔認識技術を用いたことや、リアルタイム顔認識と自動アラートを用いて容疑者を監視し、居場所を特定したことについては触れられていませんでした。ニューオーリンズ警察で法務調査と計画を監督するデビッド・バーンズ巡査部長は、警察官は逮捕前に常に相当な理由を見つけるよう訓練されていると述べました。バーンズ巡査部長は、ラガルド氏がFacebookの投稿で、一部の事件における自身の技術の役割を誇張して述べることがあると指摘しました。カークパトリック氏によると、携帯電話ひったくり事件を捜査している刑事はラガルド氏に容疑者の動画を見つけるよう依頼しただけで、居場所を尋ねたわけではないという。5月のある雨の朝、スリーレッグド・ドッグの外で、プロジェクトNOLAのカメラが自動プログラムに基づいて車や人を追跡し、赤と青のライトを点滅させながら左右に揺れていた。カメラはもはやアプリで警察に通知を送っていない――カークパトリック氏の要請によるものだ。「あなたや他の皆と同じように、私もポリシー違反や条例違反を理由に暴力犯罪者の事件を一つも見逃したくありません」とカークパトリック氏は先月ラガルド氏に送ったメールで述べた。しかし、警報は依然としてプロジェクトNOLAのスタッフに送られており、ラガルド氏によると、スタッフは電話、テキストメッセージ、メールで指名手配中の容疑者の居場所を警察に伝えているという。