概要: フロリダ州の中学校に設置されたAI搭載のZeroEyes監視システムが、生徒のクラリネットを銃器と誤認し、学校を封鎖し警察が介入したという報道がありました。警報に銃器の疑いがあると表示された後、警察官は教室を捜索し、生徒に事情聴取を行いました。しかし、脅威となるものは発見されませんでした。この事件により授業が中断され、実際の銃器が見つからなかったにもかかわらず、生徒と職員は封鎖措置を受け、警察の介入を余儀なくされました。
Alleged: ZeroEyes developed an AI system deployed by Seminole County Public Schools と Lawton Chiles Middle School, which harmed Lawton Chiles Middle School students , Lawton Chiles Middle School staff , Middle school students , Students , Minors と Educational communities.
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
7.3. Lack of capability or robustness
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- AI system safety, failures, and limitations
Entity
Which, if any, entity is presented as the main cause of the risk
AI
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Unintentional
インシデントレポート
レポートタイムライン
Loading...
先週、フロリダ州の中学校に警報が届いてから数分後、警察が現場に急行した。防犯カメラが校舎内に迷彩服を着た男を捉えていた。男は「廊下に向けられた疑わしい武器」をライフル銃の構えで構えていた。
オビエドの学校は封鎖された。警察の報告によると、警察官が教室を捜索したが、男は見つからず、騒ぎも聞こえなかったという。
その後、通信指令係が新たな情報を加えた。警察に通報された画像を詳しく調べたところ、疑わしいライフル銃はバンドの楽器だった可能性があると警察官に伝えられた。
警察官はバンド…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents