レポート 4489

*ワシントンポスト紙の報道全文には、捜査員らが採用した手法の説明も含め、追加情報が記載されている。 * ミズーリ州ペイジデール — セントルイス郊外の人気の無い駅のプラットホームで2人の男が警備員を容赦なく暴行した後、郡交通警察の刑事マシュー・シュートは犯人特定に苦慮した。シュートは粗い監視ビデオを研究し、ホームレスシェルターを訪ね歩き、暴行の被害者に何度も電話をかけた。被害者は暴行による脳損傷のためほとんど何も覚えていないと述べた。数ヵ月後、捜査員らはもう一つの方法を試した。シュートは事件のぼやけたビデオから静止画像を顔認識プログラムにアップロードした。このプログラムは人工知能を使用して、セントルイス地域で逮捕された何十万人もの人々の顔写真を精査するものである。画像の品質は悪かったが、ソフトウェアは、冬のコートを羽織り、手術用マスクで部分的に顔を隠していた襲撃者の1人に似ていると判断された数人の名前と写真を吐き出した。市の顔認識ポリシーでは、この技術の結果は「非科学的」であり、「いかなる決定の唯一の根拠として使用すべきではない」と警官に警告しているが、シュート氏はAIが生成した結果の1つであるクリストファー・ガトリン氏に対する訴訟を進めた。4人の子供の父親である29歳のガトリン氏は、シュート氏が後に認めたように、事件現場との明らかなつながりはなく、暴力犯罪歴もなかった。ガトリン氏は、犯していないと主張する罪で逮捕され投獄され、汚名を晴らすのに2年以上かかった。ワシントンポスト紙が警察による顔認識ソフトウェアの使用について調査したところ、全国の法執行機関が人工知能ツールを本来の用途とは異なる方法で使用していることが判明した。つまり、他の証拠なしに容疑者を見つけて逮捕するための近道として使用しているのだ。ほとんどの警察署は、顔認識を使用していることを報告する義務はなく、この技術の使用記録を保持している警察署はほとんどない。ワシントン・ポスト紙は、顔認識技術の使用に関する詳細な記録がある23の警察署の書類を調べたところ、12の州にまたがる15の警察署が、犯罪と結びつく独立した証拠がないままAIによる照合で特定された容疑者を逮捕していたことがわかった。これはほとんどの場合、警察官がAIで見つけたすべての手がかりを裏付けるよう求める警察署の内部方針に反する。ワシントン・ポスト紙が調べたところ、この技術を使用する一部の警察官は、従来の警察活動の基準を放棄し、ソフトウェアの提案を事実として扱っているようだ。ある警察の報告書では、裏付けのないAIの結果を「100％一致」と呼んでいた。別の報告書では、警察がこのソフトウェアを使用して「即座に、そして疑いなく」窃盗容疑者を特定したと述べている。ガトリンは、顔認識技術で特定された後に米国で不当に逮捕された少なくとも8人のうちの1人である。6件は以前にメディアで報じられている。ガトリンとマイアミ在住のジェイソン・ヴェルナウの2人の不当逮捕は、これまで報告されていなかった。いずれの事件も最終的に却下された。警察は、アリバイの確認、入れ墨の照合、あるいはある事件では現場に残されたDNAや指紋の証拠をたどるといった基本的な警察活動を通じて、逮捕前にほとんどの人々を容疑者から除外できたはずだ。めったに公開されない内部ソフトウェア記録、逮捕報告書、裁判記録、警察、検察、弁護士へのインタビューをワシントン・ポストが分析して得たこれらの疑わしい警察活動の例は、おそらく問題のほんの一例だろう。AIマッチングによる誤認逮捕の総数を知ることは不可能だ。なぜなら、警察と検察は、いつこれらのツールを使用したかを国民にほとんど知らせないし、7つの州を除くすべての州では、それを開示することを明示的に義務付ける法律がないからだ。ミシガン州とフロリダ州の数百の警察署は、州全体の顔認識プログラムに画像を実行する機能を備えているが、そうしている警察署の数は不明である。顔認識ソフトウェアの大手メーカーであるClearview AIは、潜在的な投資家への売り込みの中で、3,100の警察署が同社のツールを使用していると述べている。これは米国の法執行機関全体の6分の1以上である。同社は顧客のほとんどを公表していない。ワシントン・ポスト紙は、政府の契約、メディアの報道、公的記録の要求を調査し、顔認識を使用している75の警察署を特定し、そのうち40の警察署が逮捕につながった事件の記録を共有した。そのうち17の警察署は、警官がAIの一致を裏付けようとしたかどうかを判別するのに十分な詳細を提供できなかった。残りの23の警察署のうち、ほぼ3分の2がAIマッチングで特定された容疑者を独立した証拠なしに逮捕していたことがワシントンポスト紙の調べで分かった。大半の警察署はAIの使用に関する質問への回答を拒否した。警察がAIのみに基づいて容疑者を逮捕したことを否定したが、こうした主張を裏付ける詳細や書類の提供は拒否した。他の警察署は、2枚以上の写真に写っている人物が同一人物かどうかを警察が判断できると述べた。文書によると、ケンタッキー州フローレンスでは、警察が顔認識で特定された容疑者を独立した証拠なしに4件逮捕した。1人は窃盗の罪を認め、他の3件はまだ係争中である。地元検察官のルイス・ケリー氏は、AIで見つかった容疑者も含め、容疑者を特定する際には警察官が判断を下すことを信頼していると述べた。「警察官が常識と利用可能な手段を使えるようにする必要がある」とケリー氏は電子メールで述べた。 ### 新たな緊迫感 2021年8月9日、ページデール駅襲撃事件から8カ月後、負傷した警備員マイケル・フェルドマンのアパートのロビーに、事件解決への新たな緊迫感を抱きながら制服警官3人が姿を現した。警官らはガトリンを含む6人の男の写真が並んだ写真セットを持ってきた。フェルドマンは、脳損傷のため、事件についてほとんど覚えていないと警官らに話した。「自分が望まない状況に追い詰められているような気がした」と、62歳のフェルドマンは最近のインタビューで語った。「彼がどんな顔をしていたか思い出せないような気がした」。それでもフェルドマンは警官の指示に従い、写真を1枚ずつ調べ、1枚ずつ山積みにして捨てていったことが、裁判所の書類に含まれていたボディカメラの映像で明らかになった。フェルドマンは、写真のグループを 2 人に絞り込んだ。ガトリンと、同じく黒人だが明らかに肌の色が薄いもう一人の男性だ、とガトリンの弁護士が提出した申し立て書には記されている。フェルドマンは、ガトリンの写真を捨て札置き場に置き、もう一人の男性に身振りで合図した。「彼だと言いたい」と、もう一人の男性を指差して言った。刑事たちはすぐには身元確認を受け入れず、しばらくしてフェルドマンはガトリンの写真を戻して、それが 2 人の誰なのかわからないと言った。「その男性の特徴、肌の色、髪や着ていた服について考えてみてください」と、セントルイス市警察の刑事マシュー・ウェルは尋ねた。フェルドマンが、男性は帽子かストッキング キャップをかぶっていたかもしれないと言うと、ウェルはフェルドマンに写真に手を置いて「この 2 人の男性がストッキング キャップをかぶっている姿を想像してみてください」と促した。フェルドマンはガトリンを取り上げ、期待を込めて警官の方を見た。「わかりました!」ウェル氏はそう言い、フェルドマン氏にガトリン氏の写真に丸を付けて署名するよう指示し、ガトリン氏についての以前の発言は無視した。フェルドマン氏の供述は、警察が6日後にガトリン氏に対する告訴状を提出した際に持っていた唯一の証拠であり、警察がソフトウェアの結果にどれほど信頼を置いているかが捜査全体に影響を及ぼしうるかを示している。数ヶ月後に法廷で、証人をこのように誘導することが適切だったかどうか尋ねられたとき、主任刑事のシュート氏は「いいえ」と答えた。セントルイス郡警察の広報担当者、トレイシー・パヌス氏は電子メールで、警察は警官に「顔認識に関する独立した補強証拠」を作成するよう訓練しており、顔認識が逮捕につながるケースについては上司による審査を義務付けていると述べた。パヌス氏、シュート氏、セントルイス首都圏警察の広報担当者、ミッチ・マッコイ氏はいずれもフェルドマン氏襲撃事件の捜査について話すことを拒否した。ウェル氏はコメント要請に応じなかった。 ### 自動化バイアス 警察は、2021年1月6日の米国議会議事堂襲撃事件など、多くの難事件の解決に顔認識が役立ったと考えている。連邦捜査官は、その捜査で携帯電話の位置情報やソーシャルメディアの投稿など、大量の追加証拠を集め、1,200件以上の有罪判決に至った。このソフトウェアは、鮮明な比較写真を使用したラボテストではほぼ完璧に機能する。しかし、低品質の監視画像と、可能性のある候補のリストから警官が1人を選ぶという警察の通常の使用方法でのこの技術の正確性を実際に独立した環境でテストしたことはないと、ニューヨーク大学ロースクールの警察プロジェクトの主任スタッフ、ケイティ・キンジー氏は述べた。このため、ソフトウェアが間違える頻度を知ることは難しいと彼女は述べた。さらに、研究者らは、AIツールを使用する人々が「自動化バイアス」に陥る可能性があることを発見した。自動化バイアスとは、リスクや限界を知らずに強力なソフトウェアによる決定を盲目的に信頼する傾向である。 2012年にロンドン大学の神経科学者が行ったある研究では、指紋鑑定士はコンピューターシステムが指紋の可能性のある一致リストを表示する順序に影響されることが判明しました。鑑定士はリストの先頭に表示された指紋を誤って一致させる可能性が高く、システムへの信頼のせいで他の一致の可能性のある指紋の類似性を適切に評価できなかったことが示唆されています。顔認識の強力な力を示す一例として、ニュージャージー州ウッドブリッジの警察は、現場で採取されたDNAと指紋の証拠が明らかに別の容疑者を指し示していたにもかかわらず、顔認識によって2019年に強盗容疑者を発見したニジール・パークスを逮捕した。これは、パークスが後に警察を相手取って起こした訴訟で提出された書類によるとのことだ。ウッドブリッジは昨年、不正を認めることなく30万ドルで和解した。ウッドブリッジ警察はコメントの要請に応じず、ワシントン・ポスト紙はDNAと指紋の証拠が一致した男性が起訴された形跡を見つけられなかった。学術的研究一部の人には、血縁関係はないが遺伝的に似ているドッペルゲンガーがいることがわかっている。警察が顔認識をどのように使用しているかについて全国の刑事弁護士を指導してきたAI研究者のクレア・ガービー氏によると、人間は似ている2人の見知らぬ顔を区別するのが特に得意ではないため、AIが一致したものが犯人なのか、それとも単に自分に似ているだけなのかを見分けるのは難しいという。ミシガン州の訓練を受けた画像鑑定士のジェニファー・コールソン氏は2023年の法廷証言で、高級店で時計を盗むところを防犯カメラに映っていた犯人と男性の顔の特徴が一致すると判断した経緯を奇妙なほど詳細に説明した。「彼の顔の毛の生え方、唇の厚さ、唇の裂け目が気に入った」と、州の顔認識ソフトウェアが一致の可能性があるとして返した何百枚もの写真からその男性を選んだコールソン氏は語った。「彼の頬の厚さと、目の強膜の存在が気に入った」。コールソン氏は間違っていた。彼女が描写した顔はロバート・ウィリアムズのもので、デトロイト警察は彼女の発見も一部根拠に彼を不当に逮捕した。6月に発表された和解で、デトロイトはウィリアムズに30万ドルを支払い、逮捕状を求める前にAIで特定された容疑者に関する独立した証拠を警察官が収集することを義務付けることに同意した。コールソン氏はコメントの要請に応じなかった。ミシガン州警察の広報担当者は誤りについてコメントを控えたが、州は顔認識から得られるすべての手がかりを捜査官が裏付けることを期待していると述べた。ワシントン・ポスト紙が検証した複数の事件では、警官がAIで特定した人物を逮捕する際、本人確認を行ったり、目撃者に容疑者の写真を見せたりしただけで、それ以外の方法では犯人と関連づけなかったことが記録から明らかになった。AIが登場するずっと前から、目撃者の特定は、それが容疑者の有罪の唯一の証拠である場合、問題視されてきた。人間の記憶は不完全であり、目撃者は無意識的あるいは意識的に警察の影響を受ける可能性がある。学術研究団体である全米冤罪登録局が管理するデータベースによると、1989年以降の冤罪事件の4分の1以上、つまり986件で、目撃者の誤認が関係している。AIで見つかった容疑者を写真の顔合わせリストに加える警察は、気づいているかどうかにかかわらず、目撃者を事実上「だまして」その人物を選ばせている可能性があると、アイオワ州立大学の心理学者で、目撃者による誤った特定について研究しているゲイリー・ウェルズ氏は述べた。 AI は犯人と非常によく似ている人物を選んだのかもしれない。多くの人には違いが分からないだろう、とウェルズ氏は言う。「当然、犯人が選ばれるだろう」。 ### ドアをノック フェルドマン氏がガトリン氏の写真に丸を付けてから 5 日後、警察はセントルイスにあるガトリンの姉の家のドアをノックした。ほっそりとした体型で笑顔のガトリンは、生まれ育ったセントルイスと父親が住むインディアナ州の小さな町を行き来していた。最近、母親の葬儀のためにセントルイスに戻ったばかりだったが、しばらく滞在して子供たちと過ごし、セントルイス空港近くのウォルマートで仕事を始めた。夜勤を終えてくつろいでいたガトリンは、2 人の警官に外に出るよう言われた。道端で故障したトラックについて尋ねに来たのだと思い、彼は従った。警官たちは財布の中に地下鉄の乗車券があるかと尋ねた。「ありません」と答えると、2 人はしばし顔を見合わせたという。すると、一人が手錠を取り出し、彼に刑務所行きを告げた。ワシントン・ポスト紙が調べた多くの顔認識事件と同様に、警察の告訴状では、ビデオに記録された暴行事件でガトリン容疑者が「特定された」とだけ書かれており、警察が彼を犯罪とどのように結びつけたかは書かれていない。ガトリン容疑者は7万5000ドルの現金保釈金を払えなかったため、駐車スペースよりも狭い独房に拘留された。「まさか出られるとは思ってもみませんでした」と現在32歳のガトリン容疑者はインタビューで語った。彼は結局16ヶ月間刑務所で過ごすことになったが、その理由の1つは、仮釈放中に足首のモニターを切断し、刑務所に戻らなければならなかったためだ。顔認識による不当逮捕の既知のすべての事件で、警察は容疑者を犯罪と独自に結びつけることなく逮捕している。検察がワシントン・ポストに提供した文書によると、医療起業家のヴェルナウ氏（49歳）は、マイアミのトゥルーイスト銀行支店で不正な3万6000ドルの小切手を換金したとして、警察が監視カメラの映像を顔認識装置で解析し、告発した後、2024年7月に3日間拘留された。他の不当逮捕事件とは異なり、ヴェルナウ氏は監視カメラの映像に映っていた人物であると正しく特定された。しかし、ヴェルナウ氏は詐欺事件と同じ日に同じ銀行で正規の1500ドルの小切手を換金していた単なる顧客だった。検察官が書いた事件の要約によると、トゥルーイストの捜査官がヴェルナウ氏の映像を誤って警察に提供したという。警察は、バーナウ氏の銀行口座、取引のタイムスタンプ、またはミスを明らかにするその他の証拠を一度も確認しなかったと、彼の弁護人は述べた。「これが捜査の仕事ですか？」とバーナウ氏は、拘留中にマイアミ警察署で尋問した刑事に尋ねたことを思い出している。「銀行にいる私の写真が証拠ですか？私は、小切手の指紋はどこにありますか？署名はどこにありますか？と尋ねました。」検察は後にこの事件を取り下げたが、バーナウ氏は、容疑を記録から削除するようまだ取り組んでいると述べた。マイアミ警察のスポークスマン、フレディ・クルーズ氏は、警察署がこの事件の取り扱いについて内部調査を開始したと述べた。トゥルーイストのスポークスマン、カーリー・デベイクス氏は、同社は「法執行に関する未解決または未解決の問題について話すことはできません」と述べた。バーナウ氏は白人である。他の 7 人の不当逮捕者は黒人である。市民自由団体によると、この技術の人種的偏見の証拠に関する懸念がある。連邦政府の2019年のテストでは、一部のソフトウェアではアジア人と黒人が白人男性の最大100倍も誤認される可能性が示された。これは、一部のアルゴリズムのトレーニングに使用された写真が当初白人男性に偏っていたためである可能性がある。ワシントン・ポスト紙のインタビューで、誤認逮捕されたことがわかっている8人全員が、仕事の喪失、人間関係の破綻、自動車ローンや住宅ローンの滞納など、この経験で一生消えない傷が残ったと語った。母親や父親が家の前庭で逮捕されるのを見たトラウマを乗り越えるため、子どもをカウンセリングに通わせなければならなかったという人もいた。大半の人は警察への恐怖も抱くようになったと語った。「自分は無実だとわかっていたのに、どうやって機械に勝てばいいのだろう？」 2022年にメリーランド州当局に、義理の妹の家にいると称してバス運転手を暴行したとして逮捕されたアロンゾ・ソーヤー容疑者（58歳）はそう語った。ソーヤー容疑者は、妻が90マイルも運転して、警察が夫を犯人だと偽って確認するよう圧力をかけていた保護観察官と個人的に対峙したおかげで、ようやく刑務所から出られたと話している。ソーヤー容疑者は謝罪し、発言を撤回した。ボルチモア郡の州検事スコット・シェレンバーガー氏はインタビューで、ソーヤー容疑者は「不当に扱われた」のであり、逮捕されるべきではなかったと述べた。 ### 幸運な偶然 ガトリン容疑者にとって幸運な偶然は、担当の国選弁護人ブルック・リマ氏がいたことだ。リマ氏は刑事弁護で何十年もの経験があり、警察を信用することに慎重になっていた。ガトリン容疑者に対する郡の訴訟は彼女には意味がわからなかった。なぜなら、その朝、ガトリン容疑者が電車に乗っている理由はなかったからだ。ガトリン容疑者はトラックを所有しており、めったに公共交通機関を利用していなかった。ガトリンは、その日は家族と一緒に家にいたと思うが、確信は持てず、犯行から8カ月後まで警察が彼に近づかなかったため、証拠も何もないという。セントルイスは、地域の複数の管轄区域にまたがる法執行プログラムが維持する顔認識システムを使用しており、25万枚以上の顔写真が登録されている。ガトリンは、2018年に交通違反と窃盗容疑で逮捕されており、システムに登録されていた。窃盗容疑は、検察が十分な証拠を提示できなかったため、後に取り下げられたと記録は示している。ガトリンは容疑についてコメントを控え、ミズーリ州の裁判所は、取り下げられた事件の記録を公開していない。「私には、とんでもないディストピアに思えました」とリマはインタビューで語った。 「検索エンジンは、結果を出すことに固執していて、何かの罪で逮捕された人だけを検索し、あなたが見つけた顔の半分の断片に最も近い人物を見つけようとします。」 リマは、ガトリンの警察報告書で顔認識について言及されているのを見るまで、警察が顔認識を使用していることを聞いたことがなかった。彼女は顔認識がどのように機能するかを調べ、この技術の全国的な専門家と話し、そして「ウェストローのウサギ穴」に落ちて、この技術が言及され始めた全国のいくつかの控訴事件を調べた。彼女は、「政府が機械に頼って、犯罪の潜在的な容疑者を特定する」という考えに不安を覚えた。駅のホームに襲撃した犯人の監視ビデオ（その朝、駅に停車していたメトロバスの側面に取り付けられた小型カメラで撮影されたもの）を調べた結果、リマは、シュートとウェルが信頼できる一致を生み出すにはおそらく十分に鮮明ではない画像に頼っていたと信じるようになり、最終的には法廷で主張した。セントルイスのマグショット認識技術プログラムのユーザーマニュアルには、「システムが正確な候補を提供するには、画像が高品質である必要がある」と記載されているが、刑事らは顔がほとんど判別できない男性の写真を提出していた。フェルドマンの写真が並ぶボディカメラのビデオは、ガトリン逮捕の数カ月後、警察官が証言録取中にこの出来事を録画したと述べたときに初めて明らかになった。セントルイス郡検察官の広報担当者、クリス・キング氏は、この事件を担当する弁護士がこの証言録取で初めてビデオの存在を知ったと述べた。逮捕後に検察と弁護人に提供された警察の報告書に録画が明確に記載されていたにもかかわらずだ。検察官がビデオの存在を知り、警察に要求した後、弁護側にビデオが開示されたとキング氏は述べた。この事件を担当したセントルイス巡回裁判所のブライアン・メイ判事は、2024年2月の審問でビデオを視聴し、直ちにこの身元確認資料は法廷で使用できないとの判決を下した。メイ判事は、ウェル氏とシュート氏は、公平で公正な顔写真の並び替えを行うという広く受け入れられている慣例を破ったと認定した。フェルドマン氏は犯人を思い出せないと言っているのに、2人はフェルドマン氏に供述を迫った。2人は慣例に従って3人目の警官を公平な管理者として招いたが、ウェル氏はどの写真が容疑者のものであるか示唆して手続きを妨害したと判事は判定した。「刑事は、この犯罪を解決しようとして、ある種、熱心すぎると思う」とメイ判事は法廷記録で述べた。審理中、リマ判事はシュート氏に対し、監視カメラの画像、顔認識スキャン、不適切な顔写真の並び替え、目撃者の供述など、ガトリン氏を逮捕するために取った手順を突きつけた。「これが容疑者の正当な身元確認を行う信頼できる方法だと信じますか？」とリマ判事が尋ねた。シュート氏は「信じません」と答えた。ガトリン氏に不利な証拠がなかったため、検察は3月にガトリン氏に対するすべての告訴を取り下げた。今週、ガトリン氏は逮捕に責任のある機関と警官を相手取り、金額を明示しない損害賠償を求めて訴訟を起こした。当局と警官はコメント要請にすぐには応じなかった。一方、警察の顔認識技術の使用について最近知ったリマ氏は、警察の自信過剰と監視の甘さが不当逮捕の増加につながることを懸念している。「警察は、これをどのように使用し、使用すべきかについて、どのような指示を受けているのか？」とリマ氏は語った。「そして、誰がそれを強制しているのか？」