レポート 5305
警察と連邦政府機関は、顔認識技術の利用を制限する法律がますます増える中、物議を醸す新たな方法を発見した。それは、体格、性別、髪の色やスタイル、服装、アクセサリーといった属性を使って人物を追跡できるAIモデルだ。
ビデオ分析会社Veritoneが開発した「Track」と呼ばれるこのツールは、全米の州警察や地方警察、大学など400の顧客に利用されている。また、連邦政府にも拡大しており、司法省の米国検事は昨年8月から犯罪捜査にTrackを使用し始めた。 Veritone社によると、同社の幅広いAIツール群には本物の顔認識機能も含まれており、移民局を管轄する国土安全保障省や国防総省でも使用されている。
「Trackのそもそもの構想は、人々の顔を追跡できない場合、犯罪者や悪意のある行動や活動の特定にどのように貢献できるか、というものでした」とVeritone社のCEO、ライアン・スティールバーグ氏は語る。スティールバーグ氏によると、Trackは顔認識が法的に許可されていない場所での個人追跡に加え、顔が隠れていたり見えなかったりする場合でも追跡が可能だという。
この製品はアメリカ自由人権協会から批判を浴びている。同協会は、MIT Technology Reviewを通じてこのツールの存在を知り、米国で大規模に使用されている非生体認証追跡システムの事例は初めてだと述べている。同協会は、このシステムは顔認証と同様のプライバシーに関する懸念を多く引き起こすだけでなく、トランプ政権が連邦政府機関に対し、抗議活動者、移民、学生の監視強化を求めている時期に、新たな懸念も生じさせると警告している。
VeritoneはTrackのデモを行い、1月6日の暴動から地下鉄の駅まで、様々な環境の 映像に映る人物を分析する様子を見せた。体型、性別、髪の色やスタイル、靴、衣服、様々なアクセサリーを指定して人物を見つけることができる。このツールはタイムラインを作成し、様々な場所や動画フィードにわたって人物を追跡することができる。AmazonとMicrosoftのクラウドプラットフォームからアクセスできる。
スティールバーグ氏はインタビューで、Trackが人物識別に使用する属性の数は今後も増え続けるだろうと述べた。 Trackが肌の色に基づいて人物を判別するかどうかを尋ねられたところ、同社の広報担当者は、肌の色はアルゴリズムが人物を判別するために使用する属性の一つだが、現時点では肌の色で人物を検索することはできないと述べた。Trackは現在録画された動画のみで動作しているが、スティールバーグ氏は、1年以内にライブ動画フィードでも動作できるようになると主張している。
Trackを利用する機関は、警察のボディカメラ、ドローン、YouTubeの公開動画、あるいはいわゆる市民アップロード映像（例えばRingのカメラや携帯電話など）を警察の要請に応じて追加することができる。
「私たちはこれを『ジェイソン・ボーン・アプリ』と呼んでいます」とスティールバーグ氏は語る。彼は、この技術が裁判で精査されることを予想しているが、「警察が犯人を見つけるのを助けるのと同じくらい、無罪放免にできればと思っています」と述べている。現在、公共部門はVeritone社の事業のわずか6%を占めているに過ぎない（顧客のほとんどはメディア・エンターテインメント企業）が、同社によると、公共部門は最も急成長している市場であり、カリフォルニア州、ワシント ン州、コロラド州、ニュージャージー州、イリノイ州などに顧客がいるという。
こうした急速な拡大は、一部で懸念を引き起こし始めている。米国自由人権協会（ACLU）の上級政策アナリスト、ジェイ・スタンリー氏は2019年に、人工知能（AI）が将来、監視カメラの映像をくまなく調べるという面倒な作業を迅速化し、犯罪発生の有無にかかわらず自動分析を可能にするだろうと執筆した。それ以来、多くの警察関連テクノロジー企業が、例えば人物が特定のエリアに入ったことを検知できるビデオ分析システムを構築してきた。しかしスタンリー氏によると、Trackは特定の人物の広範な追跡を技術的に大規模に実現可能にした初めての製品だという。
「これは潜在的に権威主義的な技術だ」と彼は言う。 「警察や政府に大きな権限を与えることで、特定の犯罪の解決が容易になることは間違いありません。しかし同時に、この技術を過剰に利用し、悪用する可能性も高まるでしょう。」
スタンリー氏によると、ベリトーンの顧客を抱える連邦政府機関では、このような悪用的な監視が行われる可能性が特に高いという。国土安全保障省は先月、移民のソーシャルメディア活動を監視し、そこで発見した証拠をビザやグリーンカードの発給拒否に利用すると発表しており、また移民関税執行局はパレスチナ支持の発言や抗議活動への参加を理由に活動家を拘 束している。インタビューの中で、Veritoneの公共部門事業ゼネラルマネージャー、ジョン・ガセック氏は、Trackは動画の重要な部分を特定する作業を迅速化するための「選別ツール」であり、一般的な監視ツールではないと述べた。Veritoneは、国土安全保障省やその他の連邦機関のどの部門がTrackを使用しているかを明らかにしなかった。国防総省、司法省、国土安全保障省はコメント要請に応じなかった。
警察にとって、このツールは捜査に使用できる動画の量を劇的に拡大する。顔認識には顔がはっきりと映っている映像が必要であるのに対し、Trackにはそのような制限はない。ACLUの弁護士、ネイサン・ウェスラー氏は、これは警察がこれまで関心のなかった動画まで精査する可能性があることを意味すると述べている。
「これは、人類史上、文字通りかつて不可能だった、全く新しい規模と性質のプライバシー侵害と悪用の可能性を生み出す」とウェスラー氏は述べている。「今、話題になっているのは、警察官の業務を迅速化することではなく、これまで警察官が持ち得なかった能力を生み出すことだ。」
Track社の事業拡大は、警察官がアルゴリズムの判断を過度に信頼していたことによる不当逮捕をきっかけに、顔認識の使用を制限する法律が広がる中で行われている。数多くの研究は、こうしたアルゴリズムは白人以外の顔に対しては精度が低いことを示している。モンタナ州とメイン州の法律では、警察が顔認識を使用できるケースが厳し く制限されており（ライブ映像によるリアルタイムの使用は許可されていない）、サンフランシスコとカリフォルニア州オークランドでは顔認識がほぼ全面的に禁止されている。Track社は代替手段を提供している。
こうした法律では「生体認証データ」に言及することが多いが、ウェスラー氏によると、この用語は明確に定義されているとは言い難いという。一般的には、顔、歩き方、指紋といった不変の特徴を指し、服装のように変化するものを指すのではない。しかし、体格といった特定の属性は、この区別を曖昧にする。
ウェスラー氏によると、冬に同じブーツ、コート、バックパックを頻繁に着用している人のことを考えてみよう。「彼らのプロフィールは毎日同じになるだろう」とウェスラー氏は言う。「保存された多数の異なるビデオフィードを通して、その人の動きに基づいて、時間の経過とともに人物を追跡できる可能性は、顔認識とほぼ同等だ」
言い換えれば、Trackは、顔認識と同じような多くの懸念を引き起こす人物追跡方法を提供する可能性があるが、技術的には生体認証データを含まないため、顔認識の使用を制限する法律の対象にはならない。スティールバーグ氏は、Trackのビデオ証拠を含む進行中の訴訟がいくつかあると述べたが、具体的な訴訟名や詳細なコメントは得られなかった。そのため、現時点では、顔認識が禁止されている地域でTrackが採用されるかどうかは不明である。