概要: メリーランド州ボルチモア郡ケンウッド高校に設置された、AI搭載とされる銃器検知システムが、生徒の空のドリトス袋を銃器と誤認したと報じられています。武装警察は生徒を拘束し、手錠をかけた上で、武器がないと判断。オムニラート社が運用するAIシステムは誤報を発し、世論の反発を招き、学校のセキュリティ対策が正式に見直されました。オムニラート社はこの事件について遺憾の意を表明したと報じられています。
Editor Notes: See also Incident 1267: Omnilert AI Reportedly Triggered False Gun Alert at Parkville High, Prompting Student Relocation.
Alleged: Omnilert developed an AI system deployed by Baltimore County Public Schools, which harmed Taki Allen , Kenwood High School students , students , high school students と Educational communities.
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
7.3. Lack of capability or robustness
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- AI system safety, failures, and limitations
Entity
Which, if any, entity is presented as the main cause of the risk
AI
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Unintentional
インシデントレポート
レポートタイムライン
Loading...
ボルチモア郡議会議員は、生徒が武器を所持していると誤検知した警報を受け、学校関係者と警察に対し、AI銃器検知システムの見直しを求めている。
ケンウッド高校の学校責任者に対し、オムニラートAI銃器検知システムは、生徒が銃を所持していると警告した。
実際には武器は存在せず、ポテトチップスの袋を銃と誤認していたことが判明した。
ボルチモア郡議会議員、対策を求める
ボルチモア郡議会議員のジュリアン・ジョーンズ氏とイジー・パトカ氏は、この誤報を受け、郡教育長のミリアム・ロジャース博士と…
Loading...
Loading...

今週、メリーランド州ボルチモア郡の高校で、AIを活用したセキュリティシステムが生徒の空になったポテトチップスの袋を銃器の可能性があると検知したことを受け、武装警察が生徒に手錠をかけ、身体検査を行いました。
ボルチモア郡当局は、ケンウッド高校のAI銃器検知システムの使用方法、そして学校の安全担当者が武器がないとすぐに判断したにもかかわらず、なぜ生徒に手錠がかけられたのかの見直しを求めています。
「彼らは私をひざまずかせ、両手を背中に組ませ、手錠をかけました」と、ケンウッド高校の…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか?

