内務省が、顔認識技術が特定の状況において白人よりも黒人やアジア人を誤って識別する可能性が高いことを認めたことを受け、大臣らは顔認識技術の使用に関するより厳格な安全対策を求める声に直面している。
国立物理学研究所（NPL）が警察の全国データベースにおけるこの技術の適用について実施した最新のテストを受け、内務省は「検索結果に一部の人口統計学的グループが誤って含まれる可能性が高い」と述べた。
警察と犯罪に関する委員は、NPLの調査結果の公表は「懸念される内在的バイアスを明らかにする」ものであり、全国展開の計画には慎重な姿勢を促した。
この調査結果は木曜日に発表されたが、これはサラ・ジョーンズ警察大臣がこの技術を「DNA照合以来の最大の進歩」と表現した数時間後のことだ。
顔認識技術は、人の顔をスキャンし、その画像を既知または指名手配中の犯罪者の監視リストと照合する。この技術は、カメラの前を通過する人物のライブ映像を解析し、指名手配リストに載っている人物と顔を照合する際に使用したり、警察官が設置カメラの前を歩く人物をターゲットにするために使用したりできます。
容疑者の画像は、警察、パスポート、または移民データベースに遡及的にアクセスすることで、身元確認や経歴調査を行うこともできます。
警察の全国データベースに搭載されている遡及型顔認識技術ツールを低設定で検証したアナリストたちは、「白人被験者の誤認識率（FPIR）（0.04%）は、アジア人被験者（4.0%）や黒人被験者（5.5%）よりも低い」ことを発見しました。
さらに、黒人女性の誤認識率が特に高いことも判明しました。「黒人男性被験者のFPIR（0.4%）は、黒人女性被験者（9.9%）よりも低い」と報告書は述べています。
警察犯罪委員協会は声明で、この結果は内在的なバイアスを示していると述べています。声明は、「この結果、状況によっては、黒人とアジア人の照合が白人よりも誤って行われる可能性が高くなっている。言葉遣いは専門的だが、その詳細を読めば、適切な安全対策が講じら れないまま、この技術が警察活動に導入されてきたことは明らかだ」と述べている。
APCCのリーダーであるダリル・プレストン氏、アリソン・ロウ氏、ジョン・ティザード氏、クリス・ネルソン氏によって署名されたこの声明は、なぜ調査結果がもっと早く公表されなかったのか、あるいは黒人およびアジア人コミュニティと共有されなかったのかを疑問視している。
声明は、「個々の事例において悪影響の証拠はないものの、それは意図的というよりはむしろ偶然によるものだ。システム障害は以前から認識されていたが、影響を受けたコミュニティや、業界の主要な利害関係者には共有されていなかった」と述べている。
政府は、この技術がより頻繁に利用されるようになることを期待し、10週間にわたるパブリックコメントを実施すると発表した。警察が犯罪者を追跡するために、自らの記録だけでなく、パスポートや運転免許証の画像など、他のデータベースにもアクセスできるべきかどうか、国民に問われることになるだろう。
公務員は警察と協力し、数百万枚の画像を保管する新たな全国顔認識システムの構築に取り組んでいます。
キャンペーン団体「リバティ」の政策・キャンペーン担当役員であるチャーリー・ウェルトン氏は次のように述べています。「これらの統計に見られる人種差別的な偏見は、適切な安全対策を講じずに警察が顔認識技術を使用することが、現実に及ぼす悪影響を示しています。この差別的なアルゴリズムを用いた捜索が毎月数千件も行われている現状において、実際にどれだけの有色人種が誤認され、どのような結果をもたらしたのかという深刻 な疑問が今、解明されつつあります。
「この報告書は、真の透明性と意味のある監督を含む、私たち全員を守るための強力な安全対策がなければ、この強力かつ不透明な技術を使用することはできないという、さらなる証拠です。政府は、私たち一人ひとりを守り、私たちの権利を優先するための安全対策が整備されるまで、顔認識技術の急速な導入を中止しなければなりません。これは国民が望んでいることです。」
元閣僚のデイビッド・デイビス氏は、警察幹部が指名手配犯の捜索のためにショッピングセンター、スタジアム、交通ハブなどにカメラを設置する可能性があると述べたことを受け、懸念を表明した。デイビス氏はデイリー・メール紙に対し、「ようこそビッグブラザー、英国へ。政府がこのディストピア的な技術を全国展開しようとしているのは明らかだ。これほど大規模なことは、下院で十分かつ詳細な議論が行われない限り、行われるべきではない」と述べた。
当局者は、この技術は重大犯罪者の逮捕に必要だと述べている。警察の訓練、運用実務、ガイダンスには、警察の全国データベースから返されるすべての一致候補について、訓練を受けたユーザーと捜査官による目視による評価を義務付ける手動の安全対策が盛り込まれているという。
内務省の広報担当者は、「内務省は報告書の調査結果を真摯に受け止めており、既に対策を講じている」と述べた。新たなアルゴリズムが独立機関によってテストされ、調達されました。このアルゴリズムは統計的に有意な偏りがありません。来年初めにテストされ、評価を受ける予定です。
「この問題の重要性に鑑み 、法医学規制当局と連携し、警察監察官に対し、法執行機関による顔認識技術の活用状況の見直しを要請しました。監察官は、全国警察長官会議が支持する軽減策の有効性を評価する予定です。」