Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる

インシデント 793: AllHere's Chatbot 'Ed' Fails and Costs Los Angeles Unified School District $6 Million

概要: The Los Angeles Unified School District invested up to $6 million in developing the AI chatbot "Ed," meant to provide academic and mental health support for students. The chatbot allegedly failed to meet expectations, and the project collapsed when AllHere, the contracted start-up, faced financial difficulties. Prince George's County Public Schools in Maryland was also affected. Founder Joanna Smith-Griffin was removed as CEO in June 2024 and later arrested on fraud charges.
Editor Notes: Reconstructing the reported timeline of events for this incident: (1) 2016: AllHere is founded by Joanna Smith-Griffin to help schools address chronic absenteeism through automated text messaging. (2) 2020: AllHere acquires technology developed by economist Peter Bergman, enabling "nudges" to parents via text messages. (3) 2021: AllHere expands its marketing, claiming to serve 9,100 schools across 36 states, and shifts focus toward "A.I.-powered intuitive chatbots." (4) June 20, 2023: AllHere signs a $6 million dollar contract with Los Angeles Unified School District (LAUSD) to develop the Ed chatbot for student academic and mental health support. (5) Mid-April 2024: LAUSD superintendent Alberto Carvalho promotes Ed at a major tech conference, describing it as a transformative A.I. platform. (6) June 14, 2024: AllHere announces furloughs for most employees, citing financial difficulties. (7) June 18, 2024: Prince George’s County Public Schools in Maryland is informed that AllHere can no longer provide its services. (8) July 2024: AllHere files for Chapter 7 bankruptcy, liquidating its assets. (9) November 19, 2024: Joanna Smith-Griffin is arrested and charged with multiple counts of fraud related to false claims made to investors and school districts.

ツール

新しいレポート新しいレポート新しいレスポンス新しいレスポンス発見する発見する履歴を表示履歴を表示

組織

すべての組織を表示
Alleged: AllHere developed an AI system deployed by Los Angeles Unified School District (LAUSD) , AllHere と Alberto Carvalho, which harmed Los Angeles Unified School District (LAUSD) , Taxpayers , Prince George's County students , Prince George’s County Public Schools , Prince George's County parents , Los Angeles students と Los Angeles parents.
関与が疑われるAIシステム: AllHere's Ed chatbot

インシデントのステータス

インシデントID
793
レポート数
5
インシデント発生日
2024-07-01
エディタ
Daniel Atherton
Applied Taxonomies
MIT

MIT 分類法のクラス

Machine-Classified
分類法の詳細

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

4.3. Fraud, scams, and targeted manipulation

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Malicious Actors & Misuse

Entity

Which, if any, entity is presented as the main cause of the risk
 

Human

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Intentional

インシデントレポート

レポートタイムライン

+2
公立学校の生徒にとってのAI「友達」は期待外れ
人工知能スタートアップ企業のCEOが投資家を騙した罪で起訴+1
学校にAIチャットボットを販売したスタートアップ創業者が詐欺罪で起訴される
公立学校の生徒にとってのAI「友達」は期待外れ

公立学校の生徒にとってのAI「友達」は期待外れ

nytimes.com

LAUSDは、学生を支援するために宣伝されていたAIチャットボットを、それを開発した会社の倒産後に棚上げにした。

LAUSDは、学生を支援するために宣伝されていたAIチャットボットを、それを開発した会社の倒産後に棚上げにした。

latimes.com

人工知能スタートアップ企業のCEOが投資家を騙した罪で起訴

人工知能スタートアップ企業のCEOが投資家を騙した罪で起訴

justice.gov

学校にAIチャットボットを販売したスタートアップ創業者が詐欺罪で起訴される

学校にAIチャットボットを販売したスタートアップ創業者が詐欺罪で起訴される

nytimes.com

AI教育チャットボットの創設者が投資家から1000万ドルを詐取した罪で起訴

AI教育チャットボットの創設者が投資家から1000万ドルを詐取した罪で起訴

usatoday.com

公立学校の生徒にとってのAI「友達」は期待外れ
nytimes.com · 2024
自動翻訳済み

Ed という名の AI プラットフォームは、ロサンゼルスの公立学校の 50 万人の生徒の「教育的な友人」となるはずだった。Ed は、入力されたチャットで、生徒を学業やメンタルヘルスのリソースに誘導したり、その日に子供が授業に出席したかどうかを保護者に伝えたり、最新のテストの成績を提供したりしていた。Ed は、敵意、喜び、悲しみなどの感情を察知して反応することさえできる。

地区の教育長であるアルベルト・カルバリョ氏は、Ed について大胆な言葉で語った。同ソフトウェアを宣伝する …

LAUSDは、学生を支援するために宣伝されていたAIチャットボットを、��それを開発した会社の倒産後に棚上げにした。
latimes.com · 2024
自動翻訳済み

学生の学業成績向上と保護者のロサンゼルス公立学校の複雑さへの対応を支援するために特別に設計された、非常に評判の高い AI チャットボットが、それを開発した会社がスタッフの「大多数」を一時解雇したため、停止された。

学区は、太陽の形をしたチャットボット「Ed」を開発した会社 AllHere との取引を「彼らの財政破綻の通知を受けた」ため中止したと述べた。AllHere は今週、タイムズからの問い合わせに回答せず、その運営レベルは不明である。

別の展開として、ロサンゼルス統一学区…

人工知能スタートアップ企業のCEOが投資家を騙した罪で起訴
justice.gov · 2024
自動翻訳済み

ニューヨーク南部地区の米国検事ダミアン・ウィリアムズ氏と連邦捜査局(FBI)ニューヨーク支局のジェームズ・E・デネヒー副局長は本日、ジョアンナ・スミス=グリフィン氏を証券詐欺、通信詐欺、および悪質な個人情報窃盗の罪で告発する起訴状の公開を発表した。同氏は、同氏が設立した人工知能教育技術スタートアップ企業であるAllHere Education, Inc.の投資家から数百万ドルを詐取した罪に問われている。スミス=グリフィン氏は本日早朝、ノースカロライナ州東部地区で逮捕され、同地…

学校にAIチャットボットを販売したスタートアップ創業者が詐欺罪で起訴される
nytimes.com · 2024
自動翻訳済み

教育に特化した人工知能の新興企業の創設者が逮捕され、投資家を欺き、会社の利益について嘘をつき、ニューヨーク市を含む国内最大の学区のいくつかが顧客であると虚偽の主張をした罪で起訴された。

創設者のジョアンナ・スミス=グリフィン氏は、人工知能を使用して生徒と保護者の関与を高め、欠席を抑制することを目標に、2016年にAllHere Educationという会社を設立した。

起訴状によると、その後数年間、スミス=グリフィン氏(33歳)はAllHereの収益と顧客基盤を偽って、約1,…

AI教育チャットボットの創設者が�投資家から1000万ドルを詐取した罪で起訴
usatoday.com · 2024
自動翻訳済み

学区と家庭間のコミュニケーションを強化するために推進されている人工知能スタートアップの創設者が、投資家を欺いた罪で逮捕された。

AllHere Education, Inc.の創設者兼CEOであるジョアンナ・スミス・グリフィンは、証券詐欺、電信詐欺、個人情報窃盗の罪で火曜日にノースカロライナ州で逮捕されたと、ニューヨーク南部地区連邦検事局のニュースリリースで発表された。

火曜日に公開された起訴状は、スミス・グリフィンが、AllHere Educationが生み出した収益と、こ…

バリアント

「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください

よく似たインシデント

テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

Predictive Policing Biases of PredPol

Policing the Future

Nov 2015 · 17 レポート
NY City School Teacher Evaluation Algorithm Contested

Analyzing Released NYC Value-Added Data Part 2

Feb 2012 · 7 レポート
Kronos Scheduling Algorithm Allegedly Caused Financial Issues for Starbucks Employees

Working Anything but 9 to 5

Aug 2014 · 10 レポート
前のインシデント次のインシデント

よく似たインシデント

テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

Predictive Policing Biases of PredPol

Policing the Future

Nov 2015 · 17 レポート
NY City School Teacher Evaluation Algorithm Contested

Analyzing Released NYC Value-Added Data Part 2

Feb 2012 · 7 レポート
Kronos Scheduling Algorithm Allegedly Caused Financial Issues for Starbucks Employees

Working Anything but 9 to 5

Aug 2014 · 10 レポート

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 1420c8e