当局が拘留中の女性の身元と在留資格を確認するため、移民関税執行局（ICE）の顔認識アプリを使用したところ、2つの異なる誤った名前が返された。これは、ICEが米国から退去させるべき人物を決定するために使用しているアプリの正確性に深刻な疑問を投げかけている。これは、404 Mediaが入手した税関・国境警備局（CBP）職員の証言によるものだ。
ICEは議員らに対し、Mobile Fortifyと呼ばれるこのアプリは、ある人物の在留資格を「決定的に」判断するものであり、出生証明書よりも信頼すべきだと説明している。昨年オレゴン州で発生したこの事件は、この主張に疑問を投げかけている。
「ICE（移民税関捜査局）はMobile Fortifyを、米国全土の移民ステータスを100%正確に記録検索できるシステムであるかのように扱っていますが、これは明らかに事実ではなく、技術的な観点から見ても決してあり得ません」と、電子フロンティア財団のセキュリティ研究者兼上級公益テクノロジストであるクーパー・クインティン氏は404 Mediaに語った。「ICEがこの欠陥のあるアプリと容認できない生体認証プライバシーの侵害を利用して、不法滞在者を特定し、強制送還、あるいはそれ以上の罰を与えようとしていることは、吐き気がするほどです。」
この事件は、裁判所記録によるとMJMAと呼ばれる45歳の女性に関係していた。彼女はウッドバーンでの強制捜査中に、当局がバンの運転席側の窓を割り、車から引きずり出したため、他の30人以上と共に拘束された。 MJMAは現在、ICEを提訴しており、イノベーション・ロー・ラボの弁護士が代理を務めています。
Oregon Liveは12月の報道で顔スキャンについて簡単に言及しています。 404 Mediaは、CBP職員の証言全文を入手し、そのコピーをこちらにアップロードしました（https://archive.is/o/kGwsc/https://www.documentcloud.org/documents/26493850-12-03-2025-volume-2-m-j-m-a-v-wamsley-et-al-final/?ref=404media.co）。
記録ではMKと呼ばれているCBP職員は、女性の入国管理ステータスを確認しようとしていたと述べました。MJMAは質問への回答を拒否していました。
「そこで、彼女の身元を確認するために別の ツールを使うために、ポケットから政府発行の携帯電話を取り出しました。CBP用の顔認識モバイルクエリ機能が搭載されていました。そこで写真を撮りました。彼女の顔を撮影しようとしたところ、彼女はうつむいてしまいました」とMKは述べています。記録の別の箇所では、Mobile Fortifyの名前が明記されています。
「それで、彼女の肩を後ろに動かしたのを覚えています。すると彼女は、私が彼女に手錠をかけていることを忘れていたから、と文句を言いました。まるで私が痛みを与えたかのように、ひどく痛みを与えたかのように、彼女は叫び声を上げました。それで私は謝りました。（スペイン語で）『ごめんなさい』と言いました」と彼女は続けた。
MKは、その女性に写真を撮る必要があると説明したという。「それで、彼女が私を少し見ているところで彼女の写真を撮りました。それから、モバイルの検索ワードを見下ろすと、とても似たような人物が表示されました。それが彼女かどうか確信が持てませんでした」
証言によると、アプリが最初に返した名前はマリアだった。「誰かと一致したので、（…）私は『マリア？この人、マリア？』と言ったのを覚えています」その時、私の周りには他のICE職員がいました。彼らは「マリア、マリア」と呼びかけ、彼女が反応するかどうかを確認していました。というのも、彼女は私たちと話すことを拒否していたからです。話すのは彼女の権利ですから。」
MJMAが言葉にも表情にも反応しなかったため、CBP職員は再び彼女の顔をスキャンしました。今度はモバイル・フォーティファイが別の名前を出したのです。
「そしてもう一度彼女の写真を撮ろうとしましたが、今度は別の人物が映りました。名前は思い出せませんが、私たちもその名前を使って『この人ですか？』と尋ねました。彼女は私たちを見ました。まるで[…]『誰のことですか？』というような眉毛だったのを覚えています。彼女は私たちにそんな表情を向けました」とMKは証言しました。
証言によると、MJMAは再び言葉で反応せず、代わりに眉をひそめました。 「それで私たちは、『うーん、どうだろう。可能性はある』という感じでした」とCBP職員は語った。
イノベーション・ロー・ラボのエグゼクティブディレクター、スティーブン・マニング氏は404メディアに対し、モバイル・フォーティファイが返した名前は両方とも間違っていたと語った。
「同一人物に対して異なる名前を返すアプリは、信頼性や正確性に欠けており、現場で使用すべきではないことを示しています」と、国土安全保障省の筆頭議員であるベニー・G・トンプソン下院議員は404メディアへの声明で述べた。
オレゴン・ライブの報道によると、当局はMJMA氏をタコマのICE拘置所に移送した後、翌日無条件で釈放した。イノベーション・ロー・ラボによると、彼女は憲法上の権利を主張して訴訟を起こしている。 MJMAは自身の証言の中で、観光 ビザであるB-2ビザを発給され、昨年1月にこのビザで最後に米国に入国したと述べています。マニング氏は、MJMAが亡命を希望していると述べました。
「私の仕事は人々にデジタルセキュリティに関するアドバイスを提供することですが、この件についてはアドバイスできません。顔は変えられないですし、もし彼らの要求に従わなければ、ICEはあなたを射殺する覚悟があることを示しているからです」とクインティン氏は付け加えました。
404 Mediaは、6月にICEのメールの漏洩に基づき、Mobile Fortifyの存在を初めて明らかにした。（https://archive.is/o/kGwsc/https://www.404media.co/ice-is-using-a-new-facial-recognition-app-to-identify-people-leaked-emails-show/）その後、404 Mediaは同ツールのユーザーガイドを入手し、同ツールが使用するデータベースや画像について説明している。 ICEとCBP職員の両方が全国でこのアプリを使用していることが示され、国土安全保障省(DHS)がMobile Identifyと呼ばれる地方の法執行機関向けのこのアプリのバージョンをリリースしたこともわかりました。このアプリは12月にGoogle Playストアから削除されました。
漏洩した資料によると、Mobile Fortifyは、通常、米国入国時の旅行者確認に使用されているCBP（米国税関・国境警備局）のシステムを利用していました。このアプリは、その機能をアメリカの街頭に展開しました。Revealとの提携*、*404 Mediaは、このアプリが米国市民に対して使用されていると報じました。
404 Mediaは以前、情報公開法に基づき国土安全保障省の内部文書を入手しており、この文書には、ICE（移民税関捜査局）がMobile Fortifyによるスキャンを拒否することを許可していないことが記されていました。
先週、民主党議員団が、Mobile Fortifyを抑制することを目的とした法案を提出しました。この法案はトンプソン下院議員によって起草されました。この法案は、実質的にアプリの地方法執行機関向けバージョンを廃止し、Mobile Fortifyの使用を米国入国地点のみに制限し、DHS（国土安全保障省）に対し、米国市民の画像を12時間後に削除するよう義務付けるものです。
トンプソン下院議員は以前404 Mediaに対し、「ICE（移民税関捜査局）の職員は、Mobile Fortifyによる生体認証の一致が人物のステータスを『決定的』に決定するものであり、アプリがその人物を外国人と判定した場合、ICE職員は出生証明書を含む米国市民権の証拠を無視する可能性があると説明しました。」と述べています。
顔認識システムの不正確さは長年懸念されており、そのミスによって無実の人々が拘留されたり、犯罪で起訴されたりしてきました。顔認識ツールがミスを犯す場合、それは多くの場合有色人種に対してです。
「10年以上にわたり、研究者たちは顔認識技術に欠陥があり、特に有色人種の女性に対して性能が低いことを示してきました。人物の身分を判断するために顔認識を使用することは、誤認や誤検出を招くことになります」と、プライバシー研究者のクリス・ギリアード氏は404 Mediaに語りました。「このようなエラーを起こしやすい技術を意図的に使用することは、正確性や公平性よりも、プロセスの見た目が重要であることを示唆しています。」
「これは、ファストフードのドライブスルーや携帯電話のロック解除といった一見無害な目的のためのツールとして顔認識を推奨する状況の論理的な延長です」と彼は付け加えました。
CBPはコメント要請には応じましたが、本記事の掲載までに回答は得られませんでした。
裁判記録にはDRという名のICE国外追放担当官の証言が残されており、裁判官は「Mobile Fortifyによる身元確認率はどれくらいですか？」と尋ねました。
DRは「[…]その数字についてはお答えできません」と答えました。