Incidentes Asociados
Se suponía que una plataforma de IA llamada Ed sería un "amigo educativo" para medio millón de estudiantes en las escuelas públicas de Los Ángeles. En chats escritos, Ed dirigiría a los estudiantes hacia recursos académicos y de salud mental, o les diría a los padres si sus hijos habían asistido a clase ese día y les proporcionaría sus últimos resultados de exámenes. Ed incluso sería capaz de detectar y responder a emociones como la hostilidad, la felicidad y la tristeza.
Alberto Carvalho, el superintendente del distrito, habló de Ed en términos audaces. En un discurso de abril para promocionar el software, prometió que "democratizaría" y "transformaría la educación". En respuesta a los escépticos de la IA, preguntó: "¿Por qué no permitir que este enfoque de entretenimiento educativo capte y cautive su atención, sea el motivador?".
Una niña de séptimo grado que probó el chatbot --- personificado por un sol sonriente y animado --- había informado: "Creo que le gusto a Ed", dijo Carvalho.
Los Ángeles acordó pagar a una empresa emergente, AllHere, hasta 6 millones de dólares para desarrollar Ed, una pequeña parte del presupuesto anual de 18.000 millones de dólares del distrito. Pero apenas dos meses después de la presentación de Carvalho en abril en una brillante conferencia tecnológica, la fundadora y directora ejecutiva de AllHere dejó su puesto y la empresa suspendió temporalmente a la mayoría de su personal. AllHere publicó en su sitio web que las suspensiones se debían a "nuestra situación financiera actual".
Las empresas de IA se están promocionando intensamente entre las escuelas, que gastan decenas de miles de millones de dólares al año en tecnología. Pero el colapso repentino de AllHere ilustra algunos de los riesgos de invertir el dinero de los contribuyentes en inteligencia artificial, una tecnología con un potencial enorme pero poco historial, especialmente cuando se trata de niños. Hay muchos problemas complicados en juego, incluida la privacidad de los datos de los estudiantes y la precisión de cualquier información ofrecida a través de chatbots. Y la IA También puede ir en contra de otro interés creciente de los líderes educativos y los padres: reducir el tiempo que los niños pasan frente a las pantallas.
Natalie Milman, profesora de tecnología educativa en la Universidad George Washington, dijo que a menudo aconseja a las escuelas que adopten una actitud de "esperar y ver" a la hora de comprar nueva tecnología. Si bien la IA es digna de uso y prueba, dijo, advirtió sobre las escuelas que "hablan de manera nebulosa sobre esta herramienta glorificada. Tiene limitaciones y debemos asegurarnos de ser críticos con lo que puede hacer y su potencial para causar daño y desinformación".
AllHere no respondió a las solicitudes de entrevistas ni a las preguntas escritas.
En una declaración, Britt Vaughan, portavoz del distrito escolar de Los Ángeles, hizo una distinción entre los estudiantes distraídos que están "consumidos por los teléfonos durante la jornada escolar" y los estudiantes que usan computadoras portátiles o tabletas para interactuar con la plataforma Ed, que dijo que estaba "destinada a proporcionar vías educativas individualizadas para abordar el aprendizaje de los estudiantes".
Anthony Aguilar, jefe de educación especial del distrito, dijo que a pesar del colapso de AllHere, una versión truncada de Ed permaneció accesible para las familias en las 100 escuelas "prioritarias" del distrito, cuyos estudiantes tienen dificultades académicas y de asistencia.
Pero ese software no es un chatbot interactivo sofisticado. Es un sitio web que recopila información de muchas otras aplicaciones que el distrito usa para realizar un seguimiento de las tareas, las calificaciones y los servicios de apoyo. Los estudiantes que usan el sitio también pueden completar algunas actividades de aprendizaje en la plataforma, como problemas de matemáticas.
El chatbot Ed promovido por Carvalho fue probado con estudiantes de 14 años o más, pero fue desconectado para refinar la forma en que responde a las preguntas de los usuarios, dijo Aguilar. El objetivo es que el chatbot esté disponible en septiembre, un desafío dado que AllHere debía brindar soporte técnico y capacitación continuos al personal escolar, según su contrato con el distrito. El distrito dijo que esperaba que AllHere fuera adquirido y que el nuevo propietario continuara con los servicios.
El Sr. Aguilar dijo que la idea del software se originó en el distrito, como parte del plan del Sr. Carvalho para ayudar a los estudiantes a recuperarse de los efectos académicos y emocionales de la pandemia.
AllHere había ganado un proceso de licitación competitivo para desarrollarlo, dijo el Sr. Aguilar.
Pero el proyecto representó un desafío enorme y difícil de manejar para la empresa emergente, que era más conocida como proveedora de mensajes de texto automatizados de las escuelas a las familias.
AllHere había atraído $12 millones en financiación de capital de riesgo, según Crunchbase. Su fundadora y directora ejecutiva, Joanna Smith-Griffin, que ahora tiene 33 años, apareció en Forbes, CBS y otros medios de comunicación contando una historia convincente. Como exeducadora cuyos propios estudiantes a menudo se ausentaban, dijo, fundó AllHere en 2016 para ayudar a resolver el problema.
Los mensajes de texto automatizados parecieron ser la respuesta al momento en que comenzó la pandemia de Covid-19 y el ausentismo crónico se convirtió en una crisis nacional. En la primavera de 2020, AllHere adquirió tecnología desarrollada por Peter Bergman, economista y experto en tecnología educativa. Permitió a las escuelas enviar "empujoncitos" a los padres a través de mensajes de texto sobre la asistencia, las tareas faltantes, las calificaciones y otros problemas.
La Sra. Smith-Griffin habló a menudo sobre la fundación de AllHere en Harvard Innovation Labs, un programa universitario para apoyar a los estudiantes emprendedores. Según Matt Segneri, director ejecutivo de los laboratorios, la afiliación de Smith-Griffin al programa se produjo mientras era estudiante de grado y luego de posgrado en la Escuela de Extensión de Harvard.
Como muchas pequeñas empresas emergentes, la empresa cambió su misión con el tiempo. El año pasado, AllHere comenzó a hablar más sobre un "chatbot intuitivo impulsado por IA". AllHere proporcionaría inteligencia artificial a las escuelas y al mismo tiempo mantendría a un "humano al tanto", dijo la empresa, lo que significa que moderadores humanos supervisarían la IA para garantizar la seguridad, una propuesta potencialmente costosa y que requiere mucho trabajo.
Stephen Aguilar, profesor de educación en la Universidad del Sur de California, que no está relacionado con el Sr. Aguilar de las escuelas de Los Ángeles, dijo que era "un problema bastante común" que fracasaran los ambiciosos esfuerzos tecnológicos escolares. Anteriormente trabajó como desarrollador de software educativo, incluidos algunos proyectos que no pudieron entregarse como se prometió.
"Los distritos tienen muchas necesidades complejas y muchas preocupaciones de seguridad", dijo. "Pero a menudo carecen de la experiencia técnica necesaria para examinar realmente lo que están comprando".
La incursión en la IA no es la primera vez que Los Ángeles ha hecho una gran apuesta en tecnología educativa, con resultados cuestionables. A partir de 2013, bajo un superintendente anterior, el distrito gastó decenas de millones de dólares en comprar iPads precargados con materiales curriculares, pero el esfuerzo se vio empañado por problemas de seguridad y contratiempos técnicos.
En el discurso de abril de Carvalho, en una conferencia organizada por la Universidad Estatal de Arizona y GSV Ventures, una empresa de capital de riesgo, dijo que el chatbot de educación tendría acceso a datos de los estudiantes sobre puntajes de exámenes, salud mental, salud física y estatus socioeconómico familiar.
La Sra. Smith-Griffin se unió a él en el escenario para explicar que los datos de los estudiantes vivirían en "un jardín amurallado" accesible solo dentro del "ecosistema educativo".
La Sra. Smith-Griffin no respondió a las solicitudes de entrevista. El Sr. Vaughan, de las escuelas de Los Ángeles, dijo que el distrito protegería la privacidad y la seguridad de los datos en la plataforma "independientemente de lo que le suceda a AllHere como empresa".
En abril, AllHere dijo que estaba prestando servicios a "9.100 escuelas en 36 estados". Según un informe de The74, un sitio de noticias sobre educación, algunos de los otros contratos de AllHere con distritos escolares, en el rango de las cinco cifras, eran minúsculos en comparación con su acuerdo con Los Ángeles, que ya le había reportado a la empresa más de 2 millones de dólares.
A algunos clientes fuera de Los Ángeles se les ha dicho que los servicios de la empresa están básicamente inactivos.
El 18 de junio, las escuelas públicas del condado de Prince George en Maryland supieron por AllHere que "con efecto inmediato" la empresa emergente ya no podría proporcionar su servicio de mensajería de texto, dijo una portavoz del distrito, debido a "circunstancias financieras imprevistas".