概要: 学校支給のノートパソコンに搭載されたAI監視ソフトウェアが、アリゾナ州マラナ高校の生徒が送信したとされる未送信の冗談メールに暴力的な脅迫文が含まれていると警告したと報じられています。このメールは、自宅で母親の目の前で入力されたものの、実際には送信されておらず、校長は信憑性がないと判断しました。しかし、学区の「ゼロ・トレランス」方針により、生徒は45日間の停学処分を受けたと報じられています。遺族は、この処分は生徒の権利を侵害したとして訴訟を起こしています。
Alleged: Unknown AI monitoring software developer developed an AI system deployed by Marana Unified School District と Marana High School, which harmed Unnamed Marana High School student's family , Unnamed Marana High School student , Students of Marana Unified School District と Students of Marana High School.
関与が疑われるAIシステム: Unknown AI monitoring software
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
5.1. Overreliance and unsafe use
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Human-Computer Interaction
Entity
Which, if any, entity is presented as the main cause of the risk
AI
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Intentional
インシデントレポート
レポートタイムライン
Loading...
フェニックス発 ― 脅迫は実際に行われなければ、本当に行われるものなのだろうか？
これは、自宅で冗談を言ったことで学校の脅迫・威嚇に関する規定に基づき停学処分を受けたアリゾナ州の生徒の両親が起こした訴訟の中心となる問題だ。
家族の弁護士によると、問題となっているのは、マラナ高校の生徒が、母親が見ている前で学校支給のノートパソコンを使って教師に宛てたメールの下書きをしていたことだ。
アリゾナ州立大学憲法修正第一条クリニックのアーロン・バウマン氏は木曜日、KTAR News 92…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents