Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる

インシデント 823: Cybercheck Tool Allegedly Provides Questionable Evidence in Murder Trials

概要: Global Intelligence's Cybercheck AI tool, used by law enforcement to track suspects based on open source data, has allegedly been providing inaccurate or unverifiable evidence in several murder trials. Reportedly the tool lacks transparency and often produces unreliable reports, which has prompted prosecutors to withdraw Cybercheck evidence from multiple cases after its findings were challenged, reportedly wasting law enforcement time and resources while undermining prosecutors' cases.
Editor Notes: This incident ID is a collective incident representing several discrete harm events centering on investigations into Global Intelligence's Cybercheck AI tool, an incident ID that may form the basis for future individual incident IDs themselves. Quick notes on the individual incidents and their general timelines for later consideration: (1) In Akron, Ohio, on August 2, 2020, Kimberly Thompson, Brian James, and Thompson’s grandson, Tyree Halsell, were shot. Cybercheck evidence mistakenly placed suspect Phillip Mendoza at the scene on August 20, claiming 93.13% accuracy. A corrected report later appeared with the correct date, but questions arose over its accuracy. Mendoza’s defense challenged the evidence, and the Cybercheck report was ultimately withdrawn. Mendoza pleaded guilty in August 2023, receiving 15 to 20.5 years, though Cybercheck’s errors may have influenced the outcome. (2) From 2017-2021, Cybercheck expanded rapidly across U.S. law enforcement agencies, conducting thousands of searches, often without methodological validation. (3) In Midland County, Texas, 2021, Cybercheck linked suspect Sergio Cerna to a murder scene by claiming a 97.25% accuracy rate in his device's interaction with a wireless printer. Mid-hearing, the prosecution withdrew Cybercheck’s evidence due to a lack of corroboration, yet Cerna was later convicted on other grounds. (4) In July 2021, in Akron, Ohio, Cybercheck implicated Deshawn Coleman and Eric Farrey in a robbery. However, experts could not verify social media accounts or email addresses tied to the suspects. (5) In 2022, in Aurora, Colorado, Cybercheck identified a homicide suspect via a router ping, but detectives found the resident had no such router, nullifying the evidence. (6) In a separate Akron 2021 homicide, Cybercheck data against Javion Rankin was excluded after Adam Mosher withheld the source code, leading to Rankin’s release. (7) In another Aurora, Colorado case involving the 2022 shooting of a 13-year-old, Cybercheck posited a gang link between rival suspects, conflicting with other evidence and raising doubts. (8) Mississippi’s Bureau of Investigation, in 2022, used Cybercheck in a missing juvenile case but found the information false; the juvenile was found through traditional methods, reportedly wasting investigative resources. (9) In late 2022/early 2023, Summit County prosecutors withdrew Cybercheck evidence from four murder cases following defense challenges on reliability. (10) In a New York cold case, Cybercheck claimed to track a suspect’s phone to multiple crime locations from 20 years ago, with trial set for 2025. (11) In late 2022, Summit County murder cases for Salah Mahdi and Adarus Black involved Cybercheck, but no defense challenge was raised. Later, validation issues in other cases prompted post-conviction concerns. (12) In a 2023 Boulder, Colorado child sexual abuse case, Mosher’s reportedly misleading testimony about prior Canadian cases led to dropped charges and raised credibility questions. (13) In April 2023, Coleman and Farrey’s defense revealed inconsistencies in Mosher’s expert witness records, undermining the Cybercheck report. (14) Ohio’s Bureau of Criminal Investigation ended its $30,000 contract after Cybercheck provided unverifiable email leads in multiple cases. (15) Yakima County, Washington ceased using Cybercheck following numerous inaccuracies in the tool’s output. (16) Cybercheck’s reports included persistent issues with unverifiable device-network pings, casting doubts on the legitimacy of its claimed open-source accuracy.

ツール

新しいレポート新しいレポート新しいレスポンス新しいレスポンス発見する発見する履歴を表示履歴を表示

組織

すべての組織を表示
推定: Global Intelligence と Cybercheckが開発し提供したAIシステムで、Phillip Mendoza , Sergio Cerna , Unnamed Aurora Colorado residents , Mississippi Bureau of Investigation , Four unnamed Summit County Ohio men , Unnamed Boulder County Colorado resident , Ohio Bureau of Criminal Investigation と Yakima County Sheriff’s Officeに影響を与えた

インシデントのステータス

インシデントID
823
レポート数
3
インシデント発生日
2024-05-03
エディタ
Daniel Atherton
Applied Taxonomies
MIT

MIT 分類法のクラス

Machine-Classified
分類法の詳細

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

7.4. Lack of transparency or interpretability

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. AI system safety, failures, and limitations

Entity

Which, if any, entity is presented as the main cause of the risk
 

Human

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Intentional

インシデントレポート

レポートタイムライン

+1
数千件の刑事事件で使用されたAIツールが法的課題に直面している
AI犯罪撲滅ツールの使用をめぐって疑問が浮上このAIツールは殺人罪の有罪判決に役立った。その後、ある人が詳しく調べた
数千件の刑事事件で使用されたAIツールが法的課題に直面している

数千件の刑事事件で使用されたAIツールが法的課題に直面している

nbcnews.com

AI犯罪撲滅ツールの使用をめぐって疑問が浮上

AI犯罪撲滅ツールの使用をめぐって疑問が浮上

theweek.com

このAIツールは殺人罪の有罪判決に役立った。その後、ある人が詳しく調べた

このAIツールは殺人罪の有罪判決に役立った。その後、ある人が詳しく調べた

wired.com

数千件の刑事事件で使用されたAIツールが法的課題に直面している
nbcnews.com · 2024
自動翻訳済み

コロラド州からニューヨーク州に至るまでの法執行機関や検察官は近年、殺人やその他の重大犯罪で告発された容疑者の捜査、起訴、有罪判決を下すために、あまり知られていない人工知能ツールを活用している。

しかし、サイバーチェックと呼ばれるこのソフトウェアが普及するにつれ、弁護団はその正確性と信頼性に疑問を呈している。その手法は不透明であり、独立した検証も行われていないと弁護団は述べている。

このソフトウェアを開発している会社は、この技術は機械学習を利用してウェブの広大な範囲をくまなく調…

AI犯罪撲滅ツールの使用をめぐって疑問が浮上
theweek.com · 2024
自動翻訳済み

人工知能技術の台頭により、法執行機関は犯罪解決、さらには投獄にAIツールを活用することが増えている。しかし現在、こうしたツールの1つであるサイバーチェックと呼ばれるソフトウェアプログラムが注目を集めている。

サイバーチェックは「高度な機械学習アルゴリズムを使用して、目撃証言、デジタルフォレンジック証拠、モバイルシグナリング、その他のサイバープロファイルデータなど、膨大な量のデータを分析します」と、同社のウェブサイトには記されている。これは、人間の捜査官が見逃した可能性のある証…

このAIツールは殺人罪の有罪判決に役立った。その後、ある人が詳しく調べた
wired.com · 2024
自動翻訳済み

2020年8月のある夜、午後9時過ぎ、キンバリー・トンプソンさんとブライアン・ジェームズさんはオハイオ州アクロンの自宅の私道に車を停め、銃撃戦の中に飛び出した。2人は足を撃たれ、病院に運ばれ、一命を取り留めた。しかし、車内にまだ座っていたトンプソンさんの生後20か月の孫タイリー・ハルセルさんは頭を撃たれ致命傷を負った。事件後、アクロン警察は近隣の動画を収集し、被害者に近づき、発砲した後、トラックで逃走する2人の男の身元確認に協力するよう一般市民に求めた。数か月のうちに、刑事た…

バリアント

「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください

よく似たインシデント

テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

Uber AV Killed Pedestrian in Arizona

Tempe police release report, audio, photo

Mar 2018 · 25 レポート
Security Robot Rolls Over Child in Mall

Crime-fighting robot hits, rolls over child at Silicon Valley mall

Jul 2016 · 27 レポート
Detroit Police Wrongfully Arrested Black Man Due To Faulty FRT

Wrongfully Accused by an Algorithm

Jan 2020 · 11 レポート
前のインシデント次のインシデント

よく似たインシデント

テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

Uber AV Killed Pedestrian in Arizona

Tempe police release report, audio, photo

Mar 2018 · 25 レポート
Security Robot Rolls Over Child in Mall

Crime-fighting robot hits, rolls over child at Silicon Valley mall

Jul 2016 · 27 レポート
Detroit Police Wrongfully Arrested Black Man Due To Faulty FRT

Wrongfully Accused by an Algorithm

Jan 2020 · 11 レポート

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • ecd56df