ワシントン・ポスト紙の調査で、顔認識ソフトが犯罪に関係していたとされ、何百人ものアメリカ人が逮捕されたが、警察がこの物議を醸す技術の使用をめったに公表しないため、多くの人がそのことを知ることはない。15州の警察署は、過去4年間の1,000件以上の犯罪捜査で顔認識ソフトを使用したことを示す、めったに見られない記録をワシントン・ポスト紙に提供した。これらの事件の逮捕報告書や逮捕された人々へのインタビューによると、当局は被告にソフトの使用について知らせないことが常だった。特に有色人種の身元確認で間違いを起こしやすい新興技術の結果に異議を唱える機会を奪っていたのだ。実際、記録によると、警官は公向けの報告書でソフトへの依存をしばしば隠蔽し、「捜 査手段を通じて」容疑者を特定した、または目撃者や警察官などの人間が最初の身元確認を行ったと述べている。例えば、インディアナ州エバンズビルでは、警察は、腕にタトゥー、長髪、刑務所での逮捕歴の写真から、路上で見知らぬ人を殴りつけた男を特定したと発表。また、テキサス州フラッガービルでは、警察は「捜査データベースを利用して」、アルタ・ビューティーから1万2500ドル相当の商品を盗むのを手伝った男の名前を突き止めたと発表。警察内部の記録によると、この容疑者は2人とも顔認識技術を利用して特定されたが、容疑者やその弁護士によると、その情報は容疑者とは一切共有されていないという。フラッガービル警察の広報担当者は、この事件に関する質問への回答を控えた。エバンズビル警察はコメント要請に応じなかった。ワシントン・ポスト紙は、顔認識技術の使用を公に認めている100以上の警察署に記録を要求したが、このソフトウェアを使用した事件の逮捕記録を提供したのはわずか30署だった。大半の警察署は、この技術の使用に関する質問への回答を控えた。数署は、潜在的な手がかりを特定するために使用しているが、コンピューターによる一致のみに基づいて逮捕することは決してないため、逮捕された人々に開示する必要はないと述べた。南フロリダのコーラルスプリングス警察署は、書面による報告書で顔認識技術の使用を明らかにしないよう警官に指示していると、ライアン・ギャラガー副署長は述べた。捜査手法はフロリダ州の公開法の適用外であると同氏は述べた。写真検索結果ごとに「この捜査の手がかりを記録しないでください」と署のメッセージが添えられている。ギャラガー氏は、刑事訴訟で捜査の糸口の出所が問われれば、警察はそれを明らかにするつもりだと付け加えた。弁護団や公民権団体は、人々には刑事捜査の一環として自分を特定するソフトウェア、特に誤認逮捕につながった技術について知る権利があると主張している。このツールの信頼性は、全国で最近行われたいくつかの裁判で異議が申し立てられ、一部の弁護団は、警察と検察が意図的にこの技術を法廷の精査から隠そうとしていると主張する。ミネソタ州の公選弁護人補佐のキャシー・グラノス氏は、警察はおそらく「この技術の信頼性をめぐる訴訟を避けたいのだろう」と述べた。今年、彼女の同僚の一人は、顔認識の結果を州の窃盗容疑者に対する訴訟から除外するよう裁判官を説得するのに一役買った。裁判官は、このソフトウェアは「常に正確な結果を出すわけではない」という理由で判決とした。ワシントン・ポスト紙が調べた警察と裁判の記録や他の報道機関の報道によると、この種のソフトウェアによる誤認は、少なくとも7人の無実のアメリカ人の不当逮捕に関与しており、そのうち6人は黒人だった。その後、彼ら全員に対する告訴は取り下げられた。一部の人々は、尋問中や刑事弁護士に提出された文書で、AIによって識別されたと告げられた。他の人々は、警官が「コンピューター」が彼らを見つけた、または彼らが「確実に一致した」と何気なく言った後で初めて、このソフトウェアの使用について知った。その中には、盗んだクレジットカードを使ってルイジアナ州で高級ハンドバッグを購入した疑いで2022年に6日間投獄されたコーラン・リードもいた。リードは同州を訪れたことはないという。ジェファーソン郡保安官事務所の刑事は宣誓供述書で、当時28歳でアトランタに住んでいたリードを調べるよう「信頼できる情報源から助言を受けた」と記した。実際、リードは犯罪現場の写真を入力された顔認識ソフトウェアによって身元が特定された。宣誓供述書には技術の使用については何も書かれておらず、リードは弁護士時代から投獄中にそのことを知った。「なぜ私？ なぜみんなの中から私を選んだのか？」とリードは逮捕されたときに思ったことを思い出した。「どこから来たのかさえ分からない」と彼はワシントン・ポスト紙のインタビューで語った。弁護士が、犯人の画像にはなかった顔のほくろがリードにあると指摘した後、訴訟は却下された。リードはその後、保安官と刑事を訴えた。保安官局はコメント要請に応じなかった。リード容疑者が逮捕された強盗事件が解決したかどうかは不明だ。顔認識ソフトは、犯罪現場の映像（監視カメラで撮影されることが多い）を写真データベース（顔写真や運転免許証など）に送信することで機能する。ソフトは人工知能を使って「調査画像」に写っている人物の顔をデータベース内の顔と比較する。次に、外見が似ていると特定した人物の写真を返す。一致を構成する要素について科学的なコンセンサスがないため、ソフトメーカーによって結果の表示数や、結果が調査写真にどの程度似ているかが大きく異なる。警察向け顔認識ソフトで人気のメーカー、learview AIは、調査画像をソーシャルメディアや一般のウェブサイトから収集した数十億枚の画像データベースと比較する。つまり、ウェブ上のどこにでも写真がある人物が犯人に似ていれば、犯罪捜査に巻き込まれる可能性があるということだ。オハイオ州カイヤホガ郡の暴行事件で証拠として提出されたクリアビューの検索結果には、バスケットボールの伝説的人物マイケル・ジョーダンの写真と黒人男性の漫画が含まれていた。クリアビューの最高法務責任者ジャック・マルカイア氏は電子メールでの声明で、その検索でソフトウェアが最初に出した2つの結果は後に有罪を認めた犯人のものだったと指摘した。同社はその技術に関するその他の質問には回答を差し控えた。ワシントンにある国立標準技術研究所で生体認証テストを監督するパトリック・グロザー氏によると、トップクラスの顔認識ソフトウェアに対する連邦政府のテストでは、アルゴリズムのトレーニングに使用されたデータに顔があまり登場しない傾向があるため、これらのプログラムは有色人種、女性、高齢者を誤認する可能性が高いことがわかったという。連邦政府のデータによると、米国では毎年およそ200万人の有色人種と200万人の女性が逮捕されている。ワシントン・ポストが入手した、クリアビューが複数の警察署と結んだ契約書には、このプログラムは「個人の身元を確認するための単一ソースのシステムとして」設計されておらず、「クリアビュー アプリによって生成された検索結果は、法廷や裁判所への提出書類で証拠として認められるものではなく、またその使用も許可されていない」と書かれている。検察官は、被告人の無実を証明するのに役立つ情報、刑期を短縮する情報、被告人に不利な証言をする証人の信頼性を損なう情報があれば、被告人に知らせる義務がある。検察官がそのような情報を開示しない場合（1963 年の最高裁判決で義務付けられた「ブレイディ違反」と呼ばれる）、裁判所は裁判の無効を宣告したり、有罪判決を覆したり、検察官に制裁を科したりすることができる。顔認識を規制する連邦法はなく、裁判所は AI による身元確認がブレイディ規則の対象となるかどうかで意見が一致していない。一部の州や都市では、この技術に関する透明性の向上を義務付け始めているが、インタビューや公文書請求によると、これらの場所でもこの技術はあまり使用されていないか、開示されていない。 2023年6月、ニュージャージー州の3人の裁判官からなる控訴審委員会は、被告には顔認識技術の使用に関する情報を得る権利があるとの判決を下し、同ソフトウェアの「信憑性はニュージャージー州のどの裁判所でも証拠に基づいて検証されておらず、信頼できると判断されたこともない」と述べた。この技術は、2019年にニュージャージー州ウェストニューヨークで起きた武装強盗の犯人としてフランシスコ・アルテアガを特定するために使用されていた。下級裁判所は、アルゴリズムのエラー率、一致する可能性のある人物の完全なリスト、最も一致する可能性が高い人物としてアルテアガを選んだ人物の資格など、同技術に関する情報を求めるアルテアガの弁護士の要求を却下した。この判決は同州で前例となったが、他の州はこれに従う必要はない。ワシントン・ポストの調査結果について報告を受けたコーリー・ブッカー上院議員（民主党、ニュージャージー州）は、「刑事告発につながる法執行機関によるAIの使用は、憲法上の権利を守り、公正な裁判を確保するために開示されるべきだ」と述べた。ブッカー氏は、情報開示を義務付ける法律が可決されることを望んでおり、「人々の自由は文字通り危機に瀕している」と指摘している。マイアミでは、警察は2020年以降、顔認識検索の結果に関する詳細なデータを保管しているが、その情報を被告と共有することはほとんどないと、ワシントン・ポスト紙が内部ソフトウェアのログと対応する裁判記録を分析した結果は述べている。過去4年間で、マイアミ警察は捜査で2,500件の顔認識検索を実施し、少なくとも186人の逮捕と50人以上の有罪判決につながった。ワシントン・ポスト紙が公表された報告書や逮捕者やその弁護士へのインタビューを調べたところ、逮捕者のうち、この技術の使用について知らされたのはわずか16人に1人、つまり7％未満だった。警察は、これらのケースの一部では、容疑者のソーシャルメディアのフィードを見つけるなど、身元確認以外の目的でこの技術が使用されたと述べたが、それが何件あったかは明らかにしなかった。同郡の主任公選弁護人カルロス・J・マルティネス氏は、ワシントン・ポスト紙がリストを提示するまで、マイアミの依頼人のうち何人が顔認識で特定されたのか全く知らなかったと述べた。「我々の司法制度の基本原則の1つは適正手続きであり、自分に不利な証拠が何であるかを知り、自分に不利な証拠に異議を申し立てることができることです」とマルティネス氏は述べた。「それが隠されていると、それは我々を踏みにじることができる全能の政府です」。ワシントン・ポスト紙の調査結果を検討した後、マイアミ警察と地元検察は、顔認識に関わるすべての事件でより明確な開示を求めるよう方針を改訂する計画を発表した。1月、マイアミ警察のアルマンド・アギラール副署長は、法執行機関におけるAIに関する議会委員会に対し、同署は顔認識の使用について「完全に透明性のある最初の警察署」であると述べた。しかし7月、ワシントン・ポスト紙の調査結果を検討した後、アギラール副署長は、警官が地元検察に顔認識の使用について常に通知しているわけではない可能性があることを認めた。アギラール氏は、過去および将来の事件における顔認識の使用に関するすべての情報を検察官に提供するが、被告に何を開示するかは検察官に任せると述べた。また、事件報告書で顔認識の使用を常に開示するよう、警察官の訓練も開始すると述べた。マイアミ・デイド郡の州検事キャサリン・フェルナンデス・ランドル氏はインタビューで、ワシントン・ポスト紙が連絡を取るまで、マイアミ警察は大部分の事件で顔認識を使用していることを同氏の事務所に知らせていなかったと述べた。同氏の事務所は最近、すべての地元警察署に顔認識に関する情報を公開報告書に含めるよう指示し、身元確認がAIで行われたかどうかを検察が積極的に警察に尋ねると述べたと、検察官の広報担当エド・グリフィス氏は述べた。ランドル氏は、研究によりこの技術の正確性と公平性について懸念が生じていることを認めた。「これだけに頼って相当な理由を主張することはできない」と同氏は述べた。しかし、同氏の事務所はワシントン・ポスト紙が特定した186件の事件すべてを検討するとは約束できないと述べた。キャスリーン・ホーグ州検事補は電子メールで、「今後の方針策定に取り組むことの方が重要だ」と述べた。マイアミのすぐ北に位置するブロワード郡の公選弁護人ゴードン・ウィークス氏は、多くの地元警察機関がこうしたプログラムにアクセスできるものの、同氏の弁護士が顔認識が公開されるケースに遭遇することはほとんどないと述べた。「抑制や均衡がどうやって保たれるというのか」とウィークス氏は述べた。「法執行機関が新しい技術を採用するのであれば、それが暴走して乱用されないように安全策を講じなければならない」。ワシントン・ポスト紙に記録を提供した警察署のほとんどは、顔認識の使用について人々に知らせない理由についての質問に回答しなかったか、回答を拒否した。5つの警察署はAIによる身元確認を公開しない慣行を擁護した。「捜査の過程で、私たちの刑事は多くのツール、データベース、技術を活用しており、クリアビューもその1つです」と、フラッガービル市の広報担当者ジェシカ・テイラー氏は電子メールで述べた。 「報告書にこれらのツール、データベース、または技術を一つ一つ記載することは慣例ではありません」。コロラド州アーバダの警察は、州が2022年に顔認識を義務付ける法律を可決して以来、顔認識の使用事例をすべて開示していることを示す文書を提出した。少なくとも21の市と郡、およびバーモント州は、正確性と人種的偏見の可能性を懸念して、法執行機関による顔認識ツールの使用を禁止している。しかし、これらの場所のうち少なくとも2つ、オースティンとサンフランシスコでは、警察官が同じ規則の対象ではない近隣の法執行機関の協力をひそかに得ていると、ワシントン・ポスト紙が今年初めに報じた。ワシントン・ポスト紙の報道を受けて、オースティンは最近、その慣行を禁止する方針を書き直した。顔認識の一致後に逮捕された被告らは、たとえそれが AI であっても、告発者と対面する機会が与えられるべきだと主張した。ニュージャージー州控訴裁判所は、アルテアガ容疑者は AI 一致に関する情報を得る権利があると判決を下したが、ニュージャージー州で警察の捜索を行ったニューヨーク市警は、その情報提供を拒否した。ニュージャージー州の検察は、その結果、アルテアガ容疑者に対する告訴を軽減した。その時点で、アルテアガ容疑者は裁判を待つために 4 年間刑務所に収監されていた。容疑者は無実を主張しているが、2 人の子どものもとに戻るために第 2 級強盗罪を認めたと述べた。ハドソン郡検察官の広報担当者ケイトリン・モタ氏はコメントを控えた。インタビューでアルテアガ容疑者は、警察が顔認識などのツールを使用することに「何の問題もない」が、それを公開し、ソフトウェアの仕組みを共有すべきだと述べた。「ソース コードにアクセスできないソフトウェアを扱っている場合、それが公平であると言えるでしょうか」と同氏は述べた。 ### このストーリーについて ワシントン・ポスト紙は、容疑者の身元確認に顔認識技術を使用していることを公に表明している全国の 100 以上の警察署に対し、顔認識に関する内部記録を 6 か月かけて請求しました。40 以上の警察署がこのソフトウェアの使用に関するデータを提供し、30 の警察署は過去 4 年間の 1,000 件を超える事件に関する関連事件報告書と逮捕状を提供しました。その後、ワシントン・ポスト紙は裁判記録を検索し、公文書にこの技術の使用が開示されているかどうかを判断しました。ワシントン・ポスト紙は、連絡先がわかる被告人や弁護士にも連絡を取り、この技術の使用について知らされていたかどうかを確認した。大半の被告人は、顔認識が身元確認に使われていたとは知らなかったと答えた。全員に連絡が取れたわけではないので、公文書には記載されていないにもかかわらず、顔認識について知らされていた被告人もいる可能性がある。ワシントン・ポスト紙は、警察がこのソフトウェアの使用を必ずしも明確に記載していないことを突き止めた。例えば、マイアミ警察が提供したデータでは、顔認識が「確実な身元確認」につながると記載されていたケースで、被害者が容疑者を知っていたことが記録からわかる。警察は、容疑者が判明しているソーシャルメディアのプロフィールやその他のデジタル情報を見つけるために、警官が顔認識ツールを使用することもあると述べた。エヴリン・ラルビア編集。ジェレミー・メリルとネイト・ジョーンズが本記事に協力。