Problème 4078

Une plateforme d'intelligence artificielle appelée Ed était censée être un « ami éducatif » pour un demi-million d'élèves des écoles publiques de Los Angeles. Dans des conversations écrites, Ed orienterait les élèves vers des ressources académiques et de santé mentale, ou dirait aux parents si leurs enfants avaient assisté aux cours ce jour-là et leur fournirait leurs derniers résultats aux tests. Ed serait même capable de détecter et de répondre à des émotions telles que l'hostilité, la joie et la tristesse.

Alberto Carvalho, le surintendant du district, a parlé d'Ed en termes audacieux. Dans un discours prononcé en avril pour promouvoir le logiciel, il a promis qu'il « démocratiserait » et « transformerait l'éducation ». En réponse aux sceptiques de l'IA, il a demandé : « Pourquoi ne pas permettre à cette approche ludo-éducative de capter et de captiver leur attention, d'être le facteur de motivation ? »

Une fille de septième année qui a testé le chatbot --- personnifié par un soleil souriant et animé --- a déclaré : « Je pense qu'Ed m'aime bien », a déclaré M. Carvalho.

Los Angeles a accepté de payer à une start-up, AllHere, jusqu'à 6 millions de dollars pour développer Ed, une petite partie du budget annuel de 18 milliards de dollars du district. Mais à peine deux mois après la présentation de M. Carvalho en avril lors d'une conférence technologique à grand spectacle, la fondatrice et directrice générale d'AllHere a quitté son poste et l'entreprise a licencié la plupart de son personnel. AllHere a indiqué sur son site Web que les congés sans solde étaient dus à « notre situation financière actuelle ».

Les entreprises d'IA font beaucoup de marketing auprès des écoles, qui dépensent des dizaines de milliards de dollars par an en technologie. Mais la faillite soudaine d'AllHere illustre certains des risques liés à l'investissement de l'argent des contribuables dans l'intelligence artificielle, une technologie au potentiel énorme mais aux résultats médiocres, en particulier en ce qui concerne les enfants. De nombreuses questions complexes sont en jeu, notamment la confidentialité des données des étudiants et l'exactitude des informations fournies via les chatbots. Et l'IA Cela pourrait également aller à l'encontre d'un autre intérêt croissant des responsables de l'éducation et des parents : réduire le temps d'écran des enfants.

Natalie Milman, professeure de technologie éducative à l'université George Washington, a déclaré qu'elle conseillait souvent aux écoles d'adopter une approche « attentiste » pour l'achat de nouvelles technologies. Bien que l'IA mérite d'être utilisée et testée, a-t-elle déclaré, elle a mis en garde contre les écoles qui « parlent de manière nébuleuse de cet outil glorifié. Il a des limites, et nous devons nous assurer que nous sommes critiques à l'égard de ce qu'il peut faire, et de son potentiel de préjudice et de désinformation ».

AllHere n'a pas répondu aux demandes d'interview ni aux questions écrites.

Dans un communiqué, Britt Vaughan, porte-parole du district scolaire de Los Angeles, a fait une distinction entre les élèves distraits qui « sont absorbés par leur téléphone pendant la journée scolaire » et les élèves qui utilisent des ordinateurs portables ou des tablettes pour interagir avec la plateforme Ed, qui, selon lui, est « destinée à fournir des parcours éducatifs individualisés pour répondre à l'apprentissage des élèves ».

Anthony Aguilar, chef de l'éducation spécialisée du district, a déclaré que malgré l'effondrement d'AllHere, une version tronquée d'Ed restait accessible aux familles des 100 écoles « prioritaires » du district, dont les élèves ont des difficultés scolaires et d'assiduité.

Mais ce logiciel n'est pas un chatbot sophistiqué et interactif. Il s'agit d'un site Web qui rassemble des informations provenant de nombreuses autres applications que le district utilise pour suivre les devoirs, les notes et les services de soutien. Les élèves qui utilisent le site peuvent également effectuer certaines activités d'apprentissage sur la plateforme, comme des problèmes de mathématiques.

Le chatbot Ed promu par M. Carvalho a été testé auprès d'élèves de 14 ans et plus, mais il a été mis hors ligne pour affiner la manière dont il répond aux questions des utilisateurs, a déclaré M. Aguilar. L'objectif est que le chatbot soit disponible en septembre, un défi étant donné qu'AllHere était censé fournir un soutien technique et une formation continus au personnel scolaire, selon son contrat avec le district. Le district a déclaré qu'il espérait qu'AllHere serait racheté et que le nouveau propriétaire continuerait à fournir des services.

M. Aguilar a déclaré que l'idée du logiciel était venue du district, dans le cadre du plan de M. Carvalho pour aider les étudiants à se remettre des effets académiques et émotionnels de la pandémie.

AllHere avait remporté un processus d'appel d'offres pour le construire, a déclaré M. Aguilar.

Mais le projet représentait un défi vaste et difficile à gérer pour la start-up, qui était surtout connue comme un fournisseur de messages texte automatisés des écoles aux familles.

AllHere avait attiré 12 millions de dollars de financement en capital-risque, selon Crunchbase. Sa fondatrice et directrice générale, Joanna Smith-Griffin, aujourd'hui âgée de 33 ans, a été présentée dans Forbes, CBS et d'autres médias, racontant une histoire convaincante. En tant qu'ancienne enseignante dont les propres élèves étaient souvent absents, a-t-elle déclaré, elle a fondé AllHere en 2016 pour aider à résoudre le problème.

Les SMS automatisés semblaient être adaptés au moment où la pandémie de Covid-19 a commencé et où l'absentéisme chronique est devenu une crise nationale. Au printemps 2020, AllHere a acquis une technologie développée par Peter Bergman, économiste et expert en technologie de l'éducation. Elle permettait aux écoles d'envoyer des « nudges » aux parents par SMS concernant l'assiduité, les devoirs manqués, les notes et d'autres problèmes.

Mme Smith-Griffin parlait souvent de la création d'AllHere aux Harvard Innovation Labs, un programme universitaire visant à soutenir les étudiants entrepreneurs. Selon Matt Segneri, directeur exécutif des laboratoires, l'affiliation de Mme Smith-Griffin au programme s'est produite alors qu'elle était étudiante de premier cycle puis de troisième cycle à la Harvard Extension School.

Comme de nombreuses petites start-ups, l'entreprise a changé de mission au fil du temps. L'année dernière, AllHere a commencé à parler davantage d'un « chatbot intuitif alimenté par l'IA ». AllHere fournirait de l'intelligence artificielle aux écoles tout en gardant un « humain dans la boucle », a déclaré l'entreprise, ce qui signifie que des modérateurs humains superviseraient l'IA pour assurer la sécurité et la sûreté - une proposition potentiellement coûteuse et à forte intensité de main-d'œuvre.

Stephen Aguilar, professeur d'éducation à l'Université de Californie du Sud - qui n'a aucun lien de parenté avec M. Aguilar des écoles de Los Angeles - a déclaré que c'était « un problème assez courant » que les efforts ambitieux en matière de technologie scolaire échouent. Il a auparavant travaillé comme développeur de logiciels éducatifs, y compris certains projets qui n'ont pas pu être livrés comme promis.

« Les districts ont beaucoup de besoins complexes et beaucoup de problèmes de sécurité », a-t-il déclaré. « Mais ils manquent souvent de l'expertise technique nécessaire pour vraiment vérifier ce qu'ils achètent. »

L'incursion dans l'IA n'est pas la première fois que Los Angeles fait un gros pari sur la technologie éducative, avec des retours douteux. À partir de 2013, sous un précédent surintendant, le district a dépensé des dizaines de millions de dollars pour acheter des iPad préchargés avec du matériel pédagogique, mais cet effort a été entaché par des problèmes de sécurité et des incidents techniques.

Dans le discours d'avril de M. Carvalho, lors d'une conférence organisée par l'Arizona State University et GSV Ventures, une société de capital-risque, il a déclaré que le chatbot Ed aurait accès aux données des élèves sur les résultats des tests, la santé mentale, la santé physique et le statut socio-économique de la famille.

Mme Smith-Griffin l'a rejoint sur scène pour lui expliquer que les données des élèves seraient stockées dans un « jardin clos » accessible uniquement au sein de « l'écosystème Ed ».

Mme Smith-Griffin n'a pas répondu aux demandes d'interview. M. Vaughan, des écoles de Los Angeles, a déclaré que le district protégerait la confidentialité et la sécurité des données sur la plateforme « peu importe ce qui arrive à AllHere en tant qu'entreprise ».

En avril, AllHere a déclaré qu'elle servait « 9 100 écoles dans 36 États ». Selon un reportage de The74, un site d'actualités sur l'éducation, certains des autres contrats de district scolaire d'AllHere, de l'ordre de cinq chiffres, étaient minuscules par rapport à son accord avec Los Angeles, qui avait déjà rapporté à l'entreprise plus de 2 millions de dollars.

Certains clients en dehors de Los Angeles ont été informés que les services de l'entreprise étaient pratiquement indisponibles.

Les écoles publiques du comté de Prince George dans le Maryland ont appris par AllHere le 18 juin que « à compter d'aujourd'hui », la start-up ne serait plus en mesure de fournir son service de messagerie texte, a déclaré une porte-parole du district, en raison de « circonstances financières imprévues ».