概要: ニューヨーク市警察の顔認識システムは、ユニオンスクエアのわいせつ行為事件において、トレヴィス・ウィリアムズ氏を容疑者と誤認したとされています。報道によると、ウィリアムズ氏とウィリアムズ氏には顕著な身体的特徴があり、また無罪を証明する通話記録も存在していたにもかかわらず、ウィリアムズ氏は逮捕され、2日間以上拘留され、起訴されました。その後、事件は却下されました。
Editor Notes: Timeline note: This incident ID takes 04/21/2025 as the incident ID date because that is when Trevis Williams was reportedly arrested and jailed following an alleged facial recognition misidentification. The original crime was reported on 02/10/2025, and Williams was allegedly taken into custody on 04/21/2025. The charges were purportedly dismissed in July 2025, and The New York Times subsequently reported on the case on 08/26/2025 (the date of ingestion into the database as well).
Alleged: Unknown facial recognition system developer developed an AI system deployed by New York Police Department と NYPD, which harmed Trevis Williams , Judicial integrity , Judicial system , Law enforcement , General public と General public of New York.
関与が疑われるAIシステム: Unknown facial recognition system
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
7.3. Lack of capability or robustness
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- AI system safety, failures, and limitations
Entity
Which, if any, entity is presented as the main cause of the risk
AI
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Unintentional
インシデントレポート
レポートタイムライン
Loading...
2月、ある女性がマンハッタンのビルで配達員に露出行為をされたと警察に通報しました。配達員の身長は約175cmでした。
証拠によると、2ヶ月後、警察は別の男を逮捕しました。その男の身長は190cmでした。
犯行当日、トレビス・ウィリアムズという男はコネチカット州からブルックリンへ車で向かっていました。携帯電話の位置情報から、当時ブルックリンから約19km離れた場所にいたことが判明しました。しかし、顔認識プログラムが複数の容疑者の写真から彼の画像を抽出し、女性は彼を露出行為者だと…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents