Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Incidente 793: AllHere's Chatbot 'Ed' Fails and Costs Los Angeles Unified School District $6 Million

Descripción: The Los Angeles Unified School District invested up to $6 million in developing the AI chatbot "Ed," meant to provide academic and mental health support for students. The chatbot allegedly failed to meet expectations, and the project collapsed when AllHere, the contracted start-up, faced financial difficulties. Prince George's County Public Schools in Maryland was also affected. Founder Joanna Smith-Griffin was removed as CEO in June 2024 and later arrested on fraud charges.
Editor Notes: Reconstructing the reported timeline of events for this incident: (1) 2016: AllHere is founded by Joanna Smith-Griffin to help schools address chronic absenteeism through automated text messaging. (2) 2020: AllHere acquires technology developed by economist Peter Bergman, enabling "nudges" to parents via text messages. (3) 2021: AllHere expands its marketing, claiming to serve 9,100 schools across 36 states, and shifts focus toward "A.I.-powered intuitive chatbots." (4) June 20, 2023: AllHere signs a $6 million dollar contract with Los Angeles Unified School District (LAUSD) to develop the Ed chatbot for student academic and mental health support. (5) Mid-April 2024: LAUSD superintendent Alberto Carvalho promotes Ed at a major tech conference, describing it as a transformative A.I. platform. (6) June 14, 2024: AllHere announces furloughs for most employees, citing financial difficulties. (7) June 18, 2024: Prince George’s County Public Schools in Maryland is informed that AllHere can no longer provide its services. (8) July 2024: AllHere files for Chapter 7 bankruptcy, liquidating its assets. (9) November 19, 2024: Joanna Smith-Griffin is arrested and charged with multiple counts of fraud related to false claims made to investors and school districts.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial

Entidades

Ver todas las entidades
Alleged: AllHere developed an AI system deployed by Los Angeles Unified School District (LAUSD) , AllHere y Alberto Carvalho, which harmed Los Angeles Unified School District (LAUSD) , Taxpayers , Prince George's County students , Prince George’s County Public Schools , Prince George's County parents , Los Angeles students y Los Angeles parents.
Sistema de IA presuntamente implicado: AllHere's Ed chatbot

Estadísticas de incidentes

ID
793
Cantidad de informes
5
Fecha del Incidente
2024-07-01
Editores
Daniel Atherton
Applied Taxonomies
MIT

Clasificaciones de la Taxonomía MIT

Machine-Classified
Detalles de la Taxonomía

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

4.3. Fraud, scams, and targeted manipulation

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Malicious Actors & Misuse

Entity

Which, if any, entity is presented as the main cause of the risk
 

Human

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Intentional

Informes del Incidente

Cronología de Informes

+2
La inteligencia artificial como “amigo” de los estudiantes de las escuelas públicas fracasa
Acusan al director ejecutivo de una empresa emergente de inteligencia artificial de estafar a inversores+1
Fundador de startup que vendió un chatbot con inteligencia artificial a escuelas es acusado de fraude
La inteligencia artificial como “amigo” de los estudiantes de las escuelas públicas fracasa

La inteligencia artificial como “amigo” de los estudiantes de las escuelas públicas fracasa

nytimes.com

El LAUSD deja de lado su publicitado chatbot de inteligencia artificial para ayudar a los estudiantes tras el colapso de la empresa que lo fabricó

El LAUSD deja de lado su publicitado chatbot de inteligencia artificial para ayudar a los estudiantes tras el colapso de la empresa que lo fabricó

latimes.com

Acusan al director ejecutivo de una empresa emergente de inteligencia artificial de estafar a inversores

Acusan al director ejecutivo de una empresa emergente de inteligencia artificial de estafar a inversores

justice.gov

Fundador de startup que vendió un chatbot con inteligencia artificial a escuelas es acusado de fraude

Fundador de startup que vendió un chatbot con inteligencia artificial a escuelas es acusado de fraude

nytimes.com

Fundador de un chatbot educativo de inteligencia artificial acusado de estafar a inversores por 10 millones de dólares

Fundador de un chatbot educativo de inteligencia artificial acusado de estafar a inversores por 10 millones de dólares

usatoday.com

La inteligencia artificial como “amigo” de los estudiantes de las escuelas públicas fracasa
nytimes.com · 2024
Traducido por IA

Se suponía que una plataforma de IA llamada Ed sería un "amigo educativo" para medio millón de estudiantes en las escuelas públicas de Los Ángeles. En chats escritos, Ed dirigiría a los estudiantes hacia recursos académicos y de salud menta…

El LAUSD deja de lado su publicitado chatbot de inteligencia artificial para ayudar a los estudiantes tras el colapso de la empresa que lo fabricó
latimes.com · 2024
Traducido por IA

Un chatbot de inteligencia artificial muy publicitado, diseñado a medida para ayudar a los estudiantes a prosperar académicamente y a los padres a navegar por las complejidades de las escuelas públicas de Los Ángeles, ha sido desactivado de…

Acusan al director ejecutivo de una empresa emergente de inteligencia artificial de estafar a inversores
justice.gov · 2024
Traducido por IA

Damian Williams, fiscal de los Estados Unidos para el Distrito Sur de Nueva York, y James E. Dennehy, subdirector a cargo de la Oficina de Campo de Nueva York del Buró Federal de Investigaciones ("FBI"), anunciaron hoy la apertura de una ac…

Fundador de startup que vendió un chatbot con inteligencia artificial a escuelas es acusado de fraude
nytimes.com · 2024
Traducido por IA

La fundadora de una start-up de inteligencia artificial enfocada en la educación fue arrestada y acusada de estafar a sus inversores, mentir sobre las ganancias de la empresa y afirmar falsamente que algunos de los distritos escolares más g…

Fundador de un chatbot educativo de inteligencia artificial acusado de estafar a inversores por 10 millones de dólares
usatoday.com · 2024
Traducido por IA

El fundador de una startup de inteligencia artificial, promovida para fortalecer la comunicación entre los distritos escolares y las familias, ha sido arrestado por cargos de defraudar a los inversores.

Joanna Smith-Griffin, fundadora y dir…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Predictive Policing Biases of PredPol

Policing the Future

Nov 2015 · 17 informes
NY City School Teacher Evaluation Algorithm Contested

Analyzing Released NYC Value-Added Data Part 2

Feb 2012 · 7 informes
Kronos Scheduling Algorithm Allegedly Caused Financial Issues for Starbucks Employees

Working Anything but 9 to 5

Aug 2014 · 10 informes
Incidente AnteriorSiguiente Incidente

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Predictive Policing Biases of PredPol

Policing the Future

Nov 2015 · 17 informes
NY City School Teacher Evaluation Algorithm Contested

Analyzing Released NYC Value-Added Data Part 2

Feb 2012 · 7 informes
Kronos Scheduling Algorithm Allegedly Caused Financial Issues for Starbucks Employees

Working Anything but 9 to 5

Aug 2014 · 10 informes

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • ecd56df