Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる

レポート 4142

関連インシデント

インシデント 8081 Report
Infinite Campus AI-Driven Student Risk Model Leads to Cuts in Support for Nevada's Low-Income Schools

Loading...
ネバダ州がAIにどの生徒に助けが必要か尋ねた。その答えは激しい非難を巻き起こした。
nytimes.com · 2024

ネバダ州は長い間、国内で最も不均衡な学校予算を抱えてきた。同州の低所得地区は、裕福な地区に比べて生徒一人当たりに使える資金が約35%少なく、これはどの州よりも最大の格差である。

1年前、ネバダ州は外部の業者が提供する人工知能の助けを借りて、この疑わしい状況を改善しようとした。しかし、それは大騒動を引き起こした。

AIシステムは、学校で苦労する子供の数に関する同州の以前の推定値がはるかに高すぎると計算した。以前は、ネバダ州はすべての低所得の生徒を学業や社会的な問題の「リスク」がある生徒として扱っていた。AIアルゴリズムはより複雑で、はるかに高い基準を設定した。

生徒が学校で遅れをとる可能性があるかどうかを判断するために、授業への出席頻度や家庭で話されている言語など、収入以外の数十の要素を考慮した。そして計算が終わると、危険と分類された生徒の数は、2022年の27万人以上から6万5000人未満に急減した。

その結果、多くの学校は、頼りにしていた州の資金が消えた。学区は慌ててプログラムを削減し、予算を作り直した。

この結果は、パンデミックが始まって以来、ネバダ州で追加支援を必要とする子供の数は減るどころか急増していると考える多くの学校長を震撼させた。

また、州はより効率的に支出する必要があると考えていた学校財政の専門家にも衝撃を与えた。

州が新しいシステムを採用してから1年が経ち、この大きな賭けとなる取り組みは、学校管理における人工知能の使用や、そもそも誰が危険とみなされるべきかという厄介な問題を提起している。

何百万人ものアメリカの学童が、パンデミックによって引き起こされた混乱にまだ動揺している。多くは学業で追いつくことができず、成功するために必要なスキルを身につけずに成人期を迎えることになるかもしれない。同時に、各州の歳入増加は鈍化し、連邦政府の救済金は期限切れとなり、減少する資金を賢く使うよう圧力が高まっている。

ネバダ州は、新制度が恵まれない子供たちへのより良いサービス提供に向けた一歩となることを期待していた。計画の一部は、英語を学んでいる生徒や障害を持つ生徒に学校に追加の資金を提供するというものだが、同州はリスクがあると特定した生徒を再考し、最も支援が必要な子供たちだけを支援することに資金を集中させたいとも考えていた。

このアプローチの変更は、一部の学校を混乱に陥れた。

ネバダ州ヘンダーソンにあるサマセット・アカデミーのステファニー・キャンパスでは、250人以上の子供たちが低所得であることが連邦統計に示されている。ホームレスは約12人である。しかし、校長のデイビッド・フォセット氏は、新システムでは危険にさらされていると特定された生徒は一人もいなかったと述べた。

「ショックだった」とフォセット氏は述べ、「まだ仕組みがよくわかっていない」と付け加えた。

現在、ネバダ州が 危険にさらされている子供たちを特定し、資金を提供する ために使用している機械学習システムだけに頼っている州は他にはないが、専門家は、より多くの場所で AI を仕事の助けとなるツールとして活用する可能性があると述べている。

ネバダ州ヘンダーソンのサマーセット・アカデミーは、ステファニー・キャンパスで多くの低所得層の生徒にサービスを提供しており、その中にはホームレスの約 12 名も含まれている。州の新しいシステムでは、リスクがあると特定された生徒はいなかった。クレジット...ニューヨークタイムズのミカイラ・ウィットモア

貧困の中で育つことは、子供の生活や学業成績に悪影響を及ぼす可能性がある。ネバダ州は、多くの州と同様に、無料または割引価格のランチの対象となる生徒の数を代理指標として使用して貧困を測定していた。

しかし、ランチプログラムの対象となる生徒の範囲が大幅に拡大したため、この指標はますます不正確になっていると研究者らは述べている。

そこでネバダ州では、どの生徒が遅れをとるリスクがあるかを特定する新しい方法を指導者たちが模索した。人工知能システムの出番だ。

Infinite Campusという会社が提供するこのプログラムは、成績平均点、無断欠席、懲戒処分など、生徒の膨大な情報をくまなく調べ、卒業に苦労する可能性のある生徒を予測しようとする。保護者が学校のポータルにログインする頻度、家庭内の親の数、家庭で話されている言語などの要素を重視する。初年度は、生徒の性別、人種、出生国も考慮した。

全体で60以上の異なる特性を分析するが、各要素の重視方法は非公開となっている。次に、システムは各生徒に対して50~150の「卒業スコア」を出す。モデルによると、数値が低いほど、子供が学校を修了できない可能性が高くなる。

システムは、スコアが下位20%の生徒を中~高リスクと分類した。これは、ネバダ州が資金を支給していたカテゴリである。これにより、州全体の学生数は20万人以上減少した。

「警鐘が鳴った」と、州に教育費の増額を求めている擁護団体「エデュケート・ネバダ・ナウ」の事務局長アマンダ・モーガン氏は語った。

この新しいシステムは倫理的な問題を提起している。例えば、女子は男子よりも全体的に成績が良い傾向があるという理由だけで、男子のクラスメートと同じ学業や行動上の問題を抱える女子が、リスクが低いと分類されるのは公平なことだろうか?

また、州は、その方法が完全には透明ではない民間企業に、学校の微妙な問題に関する決定を頼るべきだろうか?

インフィニット・キャンパスの創設者チャーリー・クラッシュ氏は、同社のモデルは州内の数年分の生徒データで訓練されていると述べた。同氏は、その具体的な仕組みは独自のものであり、秘密にしておく必要があると主張している。

同社は、その仕組みについて大まかな見解を示している。例えば、5日連続で学校を休むことは、成績が不合格の10年生よりも、成績が3.9の中学生にとってはそれほど心配することはないと考えられるかもしれない。

クラッシュ氏は、「政治的圧力を受けて」同社は今年度より前に人種、性別、出生地を要因から外したと述べた。

「正確なデータをテーブルに載せようとしている」とクラッシュ氏は述べ、その後各州が「それをどうするか」を決めるのを許すとした。

ネバダ州での議論は、限られた資金を学校がどのように優先すべきか、つまり最も成績の悪い生徒に集中的に資金を配分するか、それともより多くの子供たちが少なくとも何らかの支援を受けられるように資金を分散させるかという、より広範な全国的な分裂に関係している。

研究機関ニューアメリカで公立学校の財政を研究し、ネバダ州の変化について執筆しているジョーダン・アボット氏は、データを活用して革新的な方法で生徒をターゲットにしようとしている「ネバダ州の取り組みは称賛に値する」と語った。

「機械学習や予測分析を恐れなくても大丈夫です」とアボット氏は語った。

しかし、支出の決定に関しては、州は「最初から透明性、説明責任、評価メカニズムを組み込む」必要があると付け加えた。

「ネバダ州の現在のシステムではそれが実現されていません」と同氏は語った。

ネバダ州の指導者らは、全体的な資金は減少していないと指摘し、国内で最も資金不足の公立学校を抱える州で限られた資金を最大限に活用したいと述べている。ネバダ州は生徒一人当たりの学校支出で第46位であり、裕福な学区は貧しい学区よりもはるかに多くの資金を持っているが、これは主に地方の固定資産税からより多くの資金を調達できるためであり、他の多くの州は学校でこの格差を埋めようとしている。

ネバダ州教育局の副教育長であるメガン・ピーターソン氏によると、ネバダ州の新しいプログラムでは、学校はリスクのある生徒一人当たり約2,900ドルを受け取るが、以前のシステムでは303ドルだった。

彼女は、公教育制度の使命は、生徒たちが目標を追求する準備を整えて社会に出られるように準備することだと述べた。

「その一番の目標は、彼らを卒業させることです」と彼女は言い、ネバダ州の生徒の5人に1人が高校を定時に卒業できていないと付け加えた。

学区のリーダーたちは、生徒の卒業に焦点を当てることが狭すぎるのではないかと疑問を呈している。

教育関係者は、AIが捉えきれないうつ病や自傷行為などのリスクを抱える生徒が増えていると語った。「彼らは学業成績は良いかもしれないが、他の面で不健康である可能性があります」と、ネバダ州の学校資金委員会のメンバーであるポール・ジョンソン氏は述べた。

彼は、これらの生徒を支援するには、カウンセラーなどの費用を追加で支払う必要があると付け加えた。

一部の学校は、新しい制度の下では、古い制度の下でよりも財政的にうまくいっている。リノ地区では、カーソンシティ学区の危険にさらされている生徒の数は 2,000 人以上減少したが、生徒 1 人あたりの資金の増加がその差を補って余り、学区は各学校に、学業や行動に問題のある子供たちを支援するための新しい役職を設けることができた。

それでも、アンドリュー・フーリング学区長は、学校にシステムの仕組みが正確に伝えられていないことに不満を述べ、システムを「ブラックボックス」と呼んだ。

ラスベガス地区の 3 つのチャーター スクールのグループであるマター アカデミー オブ ネバダでは、多くの生徒が貧困で、同年代の生徒より学年が遅れて入学すると、エグゼクティブ ディレクターのレニー・フェアレス氏は述べた。

子供たちが正しい道を歩み続けられるように、学校は放課後の補習授業を頻繁に提供し、家族が食料品を買う余裕がない場合、多くの生徒に金曜日に食べ物を持って帰宅させている。

しかし、新しいシステムでは、マターの危険にさらされている生徒の数は 2,000 人を大きく上回るところから 70 人に減少した。

「教育者として、子どもが成功するために私が心配しなければならない他のすべてのこと」とフェアレス氏は言う。「私は本当に罰を受けているのです。」

情報源を読む

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd