Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる

レポート 6119

関連インシデント

インシデント 11771 Report
Purported AI Monitoring Software Reportedly Flags Unsent Joke Threat, Leading to Arizona Student Suspension

Loading...
脅迫ジョークをタイプしたが実際には送信されなかったため生徒が停学処分を受けたアリゾナ州の家族が訴訟を起こす
ktar.com · 2025

フェニックス発 ― 脅迫は実際に行われなければ、本当に行われるものなのだろうか?

これは、自宅で冗談を言ったことで学校の脅迫・威嚇に関する規定に基づき停学処分を受けたアリゾナ州の生徒の両親が起こした訴訟の中心となる問題だ。

家族の弁護士によると、問題となっているのは、マラナ高校の生徒が、母親が見ている前で学校支給のノートパソコンを使って教師に宛てたメールの下書きをしていたことだ。

アリゾナ州立大学憲法修正第一条クリニックのアーロン・バウマン氏は木曜日、KTAR News 92.3 FMのOutspoken with Bruce and Gaydosで、生徒は冗談のメッセージを書いていたと語っている。

アリゾナ州の生徒はどのような行為で停学処分を受けたのだろうか? ---------------------------------------------

「彼が最初に入力したジョークは『おじさん、おじさん、あなたの妹とデートしたい』でした。母親が『ねえ、それ消して』と言ったので、彼はそれを消しました。2番目に入力したジョークは『スキビディトイレ 成績はトイレにある』でした。母親は『それ消して』と言いました」とバウマン氏は説明した。

問題を引き起こしたのは、3番目のジョーク、「ギャング、ギャング、もっといい成績をくれないと学校を銃で撃つぞ、相棒」だった。これは、コンピューターにインストールされた、アクティビティを監視する人工知能プログラムのせいで起きたことだった。

AP通信によると、全米の数千の学区が、GaggleやLightspeed Alertなどのソフトウェアを使用して、子どもたちが自傷行為や他人を傷つける兆候がないかオンライン活動を監視している。

教育関係者は、この技術が命を救ったと述べている。しかし、批評家は、子どもたちの軽率な発言が犯罪者扱いされる可能性があると警告している。

「ここで重要なのは、生徒がこのメールを学校の誰にも送っていないということです。…学校がこのことを知ったのは、AI監視のおかげです」とバウマン氏は述べた。

AIプログラムがジョークメッセージをフラグ付けした後、何が起こったのか?

AIプログラムが生徒の入力内容にフラグ付けした後、管理者は生徒の両親に連絡を取った。少年の母親は、当時その場にいたこと、そして少年が明らかに冗談を言っていたことを説明した。

「校長先生が生徒の母親と話した途端、脅迫ではないと分かりました」とバウマン氏は述べた。「脅迫がないという線引きは、学校に何の影響も及ぼさないような話し方をした生徒を停学処分にすることはできないのです。」

生徒は、たとえ冗談であっても、脅迫をしたことで、しばしば処罰され、法的措置を受けることさえある。

今回のケースでは、マラナ統合学区は、脅迫の冗談を書いただけでも、同学区のゼロ・トレランス・ポリシーに基づき、処罰に値すると判断した。

校長先生は家族に電話をかけ、少年は10日間の停学処分となり、審問後に延長される可能性があると伝えた。

「この長期停学処分の審問で、学区は生徒に対し、『この件について話すのは良くない』と説教じみた態度を見せました。生徒は母親と家にいたこと、そしてこの発言が学校に全く影響を与えなかったことは全く考慮されていませんでした」とバウマン氏は述べた。

最終的な処分は45日間の停学処分となった。

「学区は、生徒が実際に行ったことと、生徒の生命と安全を危険にさらす実際の脅迫行為を区別していませんでした」とバウマン氏は述べた。

弁護士と依頼人たちは、この処分は不当であり、生徒の権利が侵害されたかどうかを疑問視している。

「学校がAIソフトウェアからの通知を受け取ったことを確認し、母親に電話をかけ、生徒と話し、何もなかったことに気づき、テクノロジーの適切な使用について生徒に話すべきではなかったとは主張しません」とバウマン氏は述べた。「それらはすべて合理的だったはずです。」

AP通信はこの報道に協力しました。

情報源を読む

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd