2月、ある女性がマンハッタンのビルで配達員に露出行為をされたと警察に通報しました。配達員の身長は約175cmでした。
証拠によると、2ヶ月後、警察は別の男を逮捕しました。その男の身長は190cmでした。
犯行当日、トレビス・ウィリアムズという男はコネチカット州からブルックリンへ車で向かっていました。携帯電話の位置情報から、当時ブルックリンから約19km離れた場所にいたことが判明しました。しかし、顔認識プログラムが複数の容疑者の写真から彼の画像を抽出し、女性は彼を露出行為者だと特定しました。
犯人はウィリアムズ氏と同じく黒人で、濃いあごひげと口ひげを生やし、髪は三つ編みにしていました。身体的には、二人の共通点はほとん どありませんでした。ウィリアムズ氏は身長が高いだけでなく、体重も230ポンド（約103kg）ありました。被害者によると、配達員の体重は約160ポンド（約73kg）に見えました。それでもウィリアムズ氏は4月に2日以上も拘留されました。
「一瞬で人生が一変する可能性がある」とウィリアムズ氏は述べた。
顔認識技術を実行するアルゴリズムは、人間の目撃者による判断を凌駕する可能性があり、法執行機関はその結果が決定的なものではないと述べている。しかし、7月に棄却されたウィリアムズ氏に対する訴訟は、強力な捜査ツールが捜査官を大きく誤った方向に導きかねない危険性を浮き彫りにしている。
米国国立標準技術研究所（NIST）の研究者たちは、繰り返しのテストの結果、顔認識技術はほとんどの場合、正しい人物を識別できることを発見した。しかし、この研究は主に、管理された条件下で撮影された画像を対象としており、監視カメラのような粗くぼやけた画像は対象としていない。
報道によると、全国で少なくとも10人が顔認識技術によって身元が特定された後に誤認逮捕されている。 「全国でこのような事例を何度も目にしてきました」と、アメリカ自由人権協会のネイサン・ウェスラー氏は述べた。「この技術の最大の危険性の一つは、誤認識が頻繁に起こることです。」
ニューヨーク市警察は年間数千回この技術を使用していますが、その成功例と失敗例を集計していません。広報担当者は顔認識を不可欠なツールと位置付け、逮捕に顔認識だけに頼ったことは一度もなく、被害者がウィリアムズ氏を特定したことが、彼を起訴する証拠となったと述べました。
デトロイトやインディアナ州の他の警察署では、顔認識で特定された容疑者を顔写真の顔写真に載せる前に、捜査官がより多くの事実を集めることを義務付けています。ニューヨーク市警察にはそのような規則はありません。
ニューヨーク市警の刑事が被害者に尋問したところ、被害者は以前、自分にフラッシュバックしてきた男を見たことがあると答えました。インタビューと警察の文書によると、被害者は男をアマゾンの従業員で、イースト17番街のアパート周辺で荷物を配達しており、そこで清掃やリサイクル品・ゴミの回収などの仕事をしていたと説明しました。
分厚い黒縁眼鏡をかけた男は、彼女をじっと見つめ、廊下に居座り続け、彼女を不安にさせた。2月10日午後4時30分、女性が掃除をしていた時、見上げると廊下の鏡に男の姿が映っていた。男はズボンを脱ぎ、性器を露わにしながら彼女をじっと見つめていた。
女性は叫んだが、男は逃げたと証言した。ニューヨーク・タイムズ紙は、彼女が性犯罪の被害者であるため、彼女の名前を伏せている。
同じ頃、36歳のウィリアムズ氏は、ブルックリンのマリンパーク地区に車を駐車し、友人と待ち合わせをしていた。彼はコネチカット州で自閉症の成人を支援する仕事をしていたところだった。
1週間前、彼は軽犯罪の暴行容疑で逮捕され、マグショット撮影を受けていた。ウィリアムズ氏によると、元交際相手の男性と口論になったという。この事件は3月に不起訴処分となった。
しかし、警察が東17丁目の露出狂に関する通報を受けた時点では、彼の画像はまだ警察のシステムに保存されていました。警察の文書に よると、警察は監視カメラの映像を取り出し、女性に事情聴取を行い、周辺を捜索してさらなる目撃者を探しました。
また、捜査官に顔認識による検索を実施させました。
これは、監視カメラの映像から静止画をアップロードし、顔の輪郭をデータポイントに変換するアルゴリズムを使用するシステムにアップロードし、統計的に最も類似する顔を探すというものです。警察の監察官によると、警察はこうした検索をニューヨーク州またはニュージャージー州で逮捕された人物に限定することになっています。
最終的には、人間が最適な候補者を選択します。審査官はウィリアムズ氏を選び、報告書を作成しました。報告書では、彼は「可能性のある一致」に過ぎず、それだけでは「逮捕の相当な理由にはならない」と警告していました。
その後、彼の写真は、捜査官が被害者に見せた6枚の写真（いずれもドレッドヘアと髭を生やした黒人男性）の中に入れられました。
警察の文書によると、被害者はウィリアムズ氏の写真（2枚目）を選び、その下に署名しました。「彼だと確信しています」と刑事が事件報告書に記しました。
4月21日、警察はブルックリンの地下鉄出口からウィリアムズ氏が地下鉄に入ろうとしたところを捉え、2月10日の事件で彼が尋問対象になっていたことを知りました。警察は彼を拘束しました。
取り調べに対し、ウィリアムズ氏は警察に対し、4月1日からアマゾンの配送業務を始めたと供述した。新型コロナウイルス感染症のパンデミック中やアトランタのアマゾン倉庫で働いていたが、犯行当時はコネチカット州で自閉症の成人を相手に仕事をしていたと説明した。
警察が露出狂の防犯カメラの映像を見せると、ウィリアムズ氏は「あれは俺じゃない」と言い、「神に誓って、俺じゃない」と答えた。
「もちろん、お前はあれは俺じゃないと言うだろう」と刑事は答えた。そして、ウィリアムズ氏の雇用記録を調べたらどうなるかと尋ねた。
「調べろ」とウィリアムズ氏は答えた。「調べてくれ」
警察は翌日、ウィリアムズ氏を起訴した。
警察の広報担当者、ブラッド・ウィークス氏は、「被害者はウィリアムズ氏だと断言した」と述べた。ウィークス氏は、被害者が刑事に対し「同一人物だと確信している」と語り、その時点で初めて逮捕の相当な理由が確立したと述べた。
被害者の写真付き身分証明書、ウィリアムズ氏への尋問、そしてアマゾンでの職歴はすべて捜査の一環であったとウィークス氏は述べた。警察は配達員の身元を確認するためにアマゾンに連絡を取らなかった。アマゾンの広報担当者シャリン・ガチャム氏は、同社が協力しただろうと述べた。
マンハッタン地方検事局は声明で、事件は7月に却下され封印されているためコメントできないと述べた。
ニューヨーク市警は2011年から顔認識技術を活用しており、捜査官は年間数千件の捜索を実施し、レイプや殺人といった深刻な事件でも一致点を見つけている。ウィークス氏は、警察がこの技術に基づいて誤認逮捕を行ったと いう発言は「事実無根」だと述べた。
しかし、ウィリアムズ氏を代理する公選弁護団体リーガル・エイドは、顔認識による身元確認後に誤った人物が逮捕された事例を把握していると述べた。同団体によると、2022年には、ある男性が殺人未遂で告発され、1か月以上拘留された。リーガル・エイドによると、男が当時別の場所にいたことを証明した後、事件は却下された。
リーガル・エイドは月曜日にニューヨーク市捜査局に送付した書簡の中で、「我々が特定した事例は氷山の一角に過ぎないことを深く懸念している」と述べ、警察による顔認識技術の使用について調査するよう要請した。
アメリカ自由人権協会（ACLU）は、誤認のリスクを理由に、警察による顔認識技術の使用を禁止するよう求めている。ナサニエル・ウェスラー氏（音声・プライバシー・テクノロジー・プロジェクト副所長）は、この技術を目撃者による身元確認と組み合わせると（研究により、多くの場合、不正確であることが示されている）、問題はさらに複雑になると、目撃者による身元確認を専門とする弁護士カレン・ニューワース氏は述べている。
2023年、米国立標準技術研究所（NIS）は、主要な顔認識アルゴリズムを用いて1,200万人の顔写真データベースを検索した結果、99.9%の確率で正確な一致を生成できたことを明らかにした。
しかし、「実際の捜査ではよくあることですが、低品質または管理されていない画像が使用されると、精度が大幅に低下する可能性があります」と、この技術の専門家で、連邦法執行機関にこの技術の活用について助言し、この報告書を研究してきたマイケル・キング氏は述べています。
インディアナ州とデトロイトでは、指紋、DNA、携帯電話のデータなど、容疑者と犯罪を結びつける追加証拠がない限り、警察は顔の一致を顔合わせの対象とすることを禁じられています。
ウィリアムズ氏の事件では、警察は写真の羅列以上の捜査を怠ったと、ウィリアムズ氏の弁護士ダイアン・アッカーマン氏は述べた。「従来の警察の捜査であれば、この事件は解決できた、あるいは少なくともウィリアムズ氏をこのような目に遭わせずに済んだはずだ」とアッカーマン氏は述べた。
タイムズ紙が確認したデータによると、ウィリアムズ氏の弁護士が彼の携帯電話の記録を鑑識した結果、犯行当時、彼の携帯電話はブルックリン周辺の携帯電話基地局と通信していたことが判明した。弁護士はこの証拠を法廷で提出する準備を整えていたが、提出前に訴訟は棄却された。
被害者は、ウィリアムズ氏の逮捕で気持ちが落ち着いたと語った。
タイムズ紙から告訴が取り下げられたと伝えられると、その静けさは消え去ったと彼女は語った。
12歳の息子を持つウィリアムズ氏は、今回の告訴によって性犯罪者登録簿に載せられ、仕事を見つけることも、子供を学校に迎えに行くこともできなくなるのではないかと恐れていた。彼は屈辱と怒りを感じ、知り合い全員がこの恥ずべき容疑を知ることになるのではないかと心配していた 。
「こういうことをする人間を軽蔑します」と彼は言った。
彼は再び逮捕されるかもしれないという恐怖がまだ残っていると語った。「時々、パニック発作を起こしているような気分になります」とウィリアムズ氏は言った。
公然わいせつ事件については、警察は既に解決済みと発表した。