学生の学業成績向上と保護者のロサンゼルス公立学校の複雑さへの対応を支援するために特別に設計された、非常に評判の高い AI チャットボットが、それを開発した会社がスタッフの「大多数」を一時解雇したため、停止された。
学区は、太陽の形をしたチャットボット「Ed」を開発した会社 AllHere との取引を「彼らの財政破綻の通知を受けた」ため中止したと述べた。AllHere は今週、タイムズからの問い合わせに回答せず、その運営レベルは不明である。
別の展開として、ロサンゼルス統一学区と提携しているデータクラウド会社 Snowflake が、大規模なデータ侵害 の被害を受けた。同学区は火曜日、AllHere の件とは関係がなく、被害状況や、どの学区の記録が第三者の請負業者を通じて入手されたかを評価するために捜査機関と協力していると述べた。
一方、同学区は、AllHere に 300 万ドルが支払われたチャットボットを 6 月 14 日に停止した。これは、生徒にとって使いやすい会話のパートナーであり、保護者にとってはすぐに欠かせないガイドとなるであろうこのアニメキャラクターを発表してから 3 か月も経たない頃のことだ。「Ed」は、幸せそうな丸い太陽に擬人化されたチャットボットであると同時に、生徒の記録、課題、成績、学業に関する推奨事項、メンタルヘルスの紹介を 1 つのポータルにまとめようとするオンライン プラットフォームでもある。
このオンライン プラットフォームは、3 月に、教育長によって導入された。アルベルト・カルバリョ氏は、このチャットボットを教育における歴史的かつ比類のないゲームチェンジャーと称した。同氏は、このチャットボットは、学校をより魅力的で、最新で、個別化され、成功させるための取り組みの礎であるとし、国中に広がり始めたばかりの人工知能という新技術で国の先導役を務めると語った。
当局は火曜日、チャットボットの情報源は引き続きEdプラットフォームで利用できることを強調した。ユーザーは、ドロップボックスやリンクのクリックなど、より伝統的な方法で操作するだけだ。同地区の特別教育および専門プログラムの責任者トニー・アギラール氏は、引き続き、サインインしなくても情報を見つけ ることができると述べている。
地区はチャットボットを復活させるつもりだが、当局が今後の進め方を決めるまで保留となっている。
Edシステムは、地区の情報に関してすべてを把握しており、個人情報を完全に保護していると称賛されている。
また、これは開発中の作業でもあった。チャットボットは認識した質問にのみ答えた。その他の質問には、「先生に聞いてください」などの返答が返ってくるかもしれないとアギラール氏は述べた。
AllHere は学区と協力してシステムの知識ベースを拡大したが、この作業はボストンを拠点とする同社の協力なしには続けられなかっただろう。さらに、AllHere はシステムを監視するために人間のモデレーターを提供していた。
アギラール氏によると、同社が事実上の閉鎖を発表した 6 月 14 日まで、学区は問題に気付いていなかったという。
学区の認識不足が問題だと、USC ジェネレーティブ AI および社会センターの副所長で、学区のトニー・アギラール氏とは無関係のスティーブン・アギラール氏は述べた。
AllHere はテクノロジー界でメディアの寵児だったが、ロサンゼルス統一学区にはさらに深く掘り下げる機会と責任があったと USC のアギラール氏は述べた。
「もちろん、過剰な約束を強いられ、概して期待に応えられない企業、特に新興企業を非難することはできる。特にこのような環境では、冷静な判断が勝って『まあ、あなたは私に月を約束している。宇宙に行く前に、この飛行機を離陸させることができるかどうか見てみよう』と言うしかない。最終的には、責任は学区にある」
AllHere は、このプロジェクトを 5 年間にわたって実施するために、ロサンゼルス統一学区と最大 600 万ドルの契約を結んでいたが、学区は声明で、その約半分が支払われたと述べた。
米国で 2 番目に大きいこの学区は、「AllHere の結果にかかわらず、生徒に個別の学習経路を提供する製品を開発するという目標を達成した」と声明は述べた。
AllHere の状況確認は、タイムズ紙が入手した同社に関する非公開の問い合わせに対して、6 月 20 日に同社の代表トビー・ジャクソンから提供された。
「ジョアンナ・スミス・グリフィン氏が AllHere の CEO を退任したことは事実であり、現在の財務状況により 6 月 14 日に従業員の大半を一時解雇せざるを得ませんでした」とジャクソン氏は電子メールで述べた。
「そうは言っても」とジャクソン氏は続けた。「私はここ AllHere の最高技術責任者であり、Ed の設計者でもあります。私は主に Ed へのサービスが中断しないようにし、秩序ある移行を支援するために、非常に小さなチームと共に留まりました。」
AllHereのトラブルを最初に報じた教育ニュースウェブサイトThe 74の記事によると、4月に解雇されたAllHereの元ソフトウェアエンジニアリング担当シニアディレクターとされるクリス・ホワイトリー氏は、データ保護の品質について懸念を表明した。
ホワイトリー氏は教育ニュースサイトに対し、自社のチャットボットが生徒の記録をロサンゼルス統一学区のデータプライバシー規則に違反し、機密情報がハッキングされるリスクがある方法で処理していたとロサン ゼルス学区の職員に警告したが、誰からも返答がなかったと語った。
ホワイトリー氏は、生徒の個人情報を含むプロンプトが不必要に第三者企業と共有されたと主張している。さらに、チャットボットのリクエスト8件のうち7件は海外のサーバーで処理されていた。
トニー・アギラール氏は、このような行為は学区との契約に違反すると述べた。
コロラド大学ボルダー校の国立教育政策センターの研究教授、フェイス・ボニンジャー氏は、セキュリティ上の懸念を軽視すべきではないと述べた。
「もし私がロサンゼルスの保護者や従業員だったら、この出来事に警戒するでしょう」と彼女は語った。「学区は、契約しているどの企業とも共有するデータに対しても、一切の管理権を持っていません。それらの企業がデータをどのように扱うかは、原則として十分な保護を提供しないプライバシー ポリシーと利用規約によって規定されています。」
学区は声明の中で、「適切なプライバシーとセキュリティ保護が実施されていることを確認するために必要なあらゆる措置を今後も講じていきます」と述べた。
祝祭的なキックオフ
チャットボットは、ダウンタウンの端にあるロイバル ラーニング センターの装飾された体育館で、3 月 20 日にファンファーレとともに正式に導入されました。風船のアーチと、両側に巨大なスクリーンを備えた光沢のある竹の演台がありました。
要人の横にポーズをとっていたのは、エドのコスチュームを着た人物でした。基本的には、足の付いた丸い黄色い太陽です。
DJ の爆音にほとんどかき消されてしまったのは、生徒たちが製品を 試しているテーブルだった。質問を入力すると、かなり定型的だが役に立つ可能性がある 回答が返ってきた。
「簡単に言うと、エドは学区がすでに持っている情報に頼り、分析し、各生徒のニーズに合わせてカスタマイズし、学校システム内の各生徒のためのパスウェイを構築します。ご覧のとおりです。
「マリアに『あなたは読書で少し遅れています。でも、私たちはあなたをサポートしてくれます。ここをクリックしてください』と伝えます。マリアはクリックするだけで、追加のサインオンは必要ありません。 1 回のサインオンで、各生徒のニーズを高めるためのすべてのリソースへの扉が開かれます。」
火曜日、学区の声明では、より控えめな説明が行われました。
「パンデミック後、私たちは慢性的な欠席、学業成績の低下、生徒の関心の低下という大きな問題に直面していました。リマインダーやナッジを提供するチャットボットと組み合わせた完全に統合されたプラットフォームは、この深刻化する問題に対する私たちの答えであり、利用可能な最も高度なテクノロジーを使用したいと考えていました。」
3 月のタイムズ紙のインタビューで、スミス グリフィンは自身が設立した会社について語りました。「私たちの目標は常に、適切な家族が適切なタイミングで適切な情報にアクセスできるようにすることで、生徒の成果を向上させることでした」と彼女は言いました。「多くの場合、学校にはメンタリングや家庭訪問プログラムなどの非常に影響力のある慣行があ りますが、拡張するのは非常に困難です。そのため、AllHere の最初のバージョンは、研究に基づいた方法でテクノロジーをどのように使用するかを中心に据えていました。 ... AllHere のそのバージョンは、学校に関するよくある質問に答える、保護者向けの 24 時間年中無休のチャットボットでした。」
彼女はさらに次のように付け加えた。「LAUSD の取り組みで私たちにとって非常に強力だったのは、私たちは欠席に関する取り組みを常に行ってきたが、彼らの目標は、この同じテクノロジーを活用して、年齢相応で革新的でありながら、非常に研究に基づいた方法で、保護者だけでなく子供たちも体験しながら生徒の学習を促進できる世界をどのように作るか、ということでした。」