Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 4142

Incidents associés

Incident 8081 Rapport
Infinite Campus AI-Driven Student Risk Model Leads to Cuts in Support for Nevada's Low-Income Schools

Loading...
L'État du Nevada a demandé à l'IA quels élèves avaient besoin d'aide. La réponse a provoqué un tollé.
nytimes.com · 2024

Le Nevada a longtemps eu le financement scolaire le plus déséquilibré du pays. Les districts à faible revenu ont près de 35 % d'argent en moins à dépenser par élève que les plus riches --- le écart le plus important de tous les États.

Il y a un an, le Nevada a décidé d'améliorer ce statut douteux avec l'aide de l'intelligence artificielle fournie par un sous-traitant extérieur. Au lieu de cela, cela a déclenché un tollé.

Le système d'IA a calculé que l'estimation précédente de l'État du nombre d'enfants qui auraient des difficultés à l'école était beaucoup trop élevée. Auparavant, le Nevada considérait tous les élèves à faible revenu comme « à risque » de problèmes scolaires et sociaux. L'algorithme d'IA était plus complexe --- et plaçait la barre beaucoup plus haut.

Il a pesé des dizaines de facteurs en plus du revenu pour décider si un élève pouvait prendre du retard à l'école, y compris la fréquence à laquelle il assistait aux cours et la langue parlée à la maison. Et une fois les calculs effectués, le nombre d’élèves classés comme à risque a chuté à moins de 65 000, contre plus de 270 000 en 2022.

En conséquence, de nombreuses écoles ont vu disparaître l’argent de l’État sur lequel elles comptaient. Les districts se sont précipités pour réduire les programmes et refaire les budgets.

Le résultat a horrifié de nombreux chefs d’établissement qui pensent que le nombre d’enfants du Nevada qui ont besoin d’un soutien supplémentaire a explosé, et non diminué, depuis le début de la pandémie.

Il a également choqué les experts en finances scolaires qui pensaient que l’État devait dépenser plus efficacement.

Un an après l’adoption du nouveau système par l’État, cet effort à enjeux élevés a soulevé des questions épineuses sur l’utilisation de l’intelligence artificielle dans l’administration scolaire et sur la question de savoir qui devrait être considéré comme un enfant à risque en premier lieu.

Des millions d’écoliers américains souffrent encore des perturbations causées par la pandémie. Beaucoup risquent de ne jamais rattraper leur retard scolaire, ce qui les obligera à entrer dans l’âge adulte sans les compétences dont ils ont besoin pour réussir. Dans le même temps, les États voient la croissance de leurs revenus ralentir et les fonds d'aide fédéraux expirer, ce qui ajoute une pression pour dépenser judicieusement les fonds en baisse.

Le Nevada espérait que son nouveau système serait un pas en avant vers un meilleur service aux enfants défavorisés. Une partie du plan donne aux écoles de l'argent supplémentaire pour les élèves qui apprennent l'anglais et pour ceux qui ont un handicap. Mais l'État voulait également repenser les élèves qu'il identifiait comme étant à risque et concentrer davantage son argent sur l'aide aux enfants les plus nécessiteux.

Ce changement d'approche a laissé certaines écoles sous le choc.

Au campus Stephanie de la Somerset Academy à Henderson, dans le Nevada, plus de 250 enfants sont issus de familles à faibles revenus, selon les statistiques fédérales. Une douzaine d'entre eux sont sans abri. Mais le directeur, David Fossett, a déclaré qu'aucun élève n'avait été identifié comme étant à risque dans le cadre du nouveau système.

« Ce fut un choc », a déclaré M. Fossett, ajoutant : « Nous ne savons toujours pas vraiment comment cela fonctionne. »

Aucun autre État ne s'appuie actuellement uniquement sur le système d'apprentissage automatique que le Nevada utilise pour identifier et fournir des fonds aux enfants à risque, mais les experts affirment que davantage d'endroits pourraient se tourner vers l'IA comme un outil pour les aider dans cette tâche.

La Somerset Academy à Henderson, dans le Nevada, accueille de nombreux étudiants à faible revenu sur son campus de Stephanie, dont une douzaine environ sont sans abri. Aucun élève n'a été identifié comme étant à risque dans le cadre du nouveau système de l'État. Crédit... Mikayla Whitmore pour le New York Times

Grandir dans la pauvreté peut avoir un effet néfaste sur la vie et les résultats scolaires des enfants. Le Nevada mesurait autrefois la pauvreté comme le font de nombreux États, en utilisant le nombre d'élèves éligibles à des déjeuners gratuits ou à prix réduit comme mesure indirecte.

Mais l'éventail des élèves éligibles aux programmes de déjeuner s'est considérablement élargi, ce qui en fait une mesure de plus en plus imprécise, d'après les chercheurs.

Au Nevada, les dirigeants ont donc cherché de nouvelles façons d'identifier les élèves qui risquaient de prendre du retard. C'est là qu'est entré en scène le système d'intelligence artificielle.

Le programme, fourni par une société appelée Infinite Campus, passe au peigne fin une avalanche d'informations sur les élèves, notamment leur moyenne générale, leurs absences injustifiées et leurs incidents disciplinaires, pour essayer de prédire quels élèves pourraient avoir du mal à obtenir leur diplôme. Il prend en compte des facteurs tels que la fréquence à laquelle un tuteur se connecte à un portail scolaire, le nombre de parents dans un foyer et la langue parlée à la maison. La première année, il a également pris en compte le sexe, la race et le pays de naissance de l'élève.

Au total, il analyse plus de six douzaines de caractéristiques différentes, bien que la manière dont chaque facteur est pondéré reste confidentielle. Le système génère ensuite un « score de fin d'études » de 50 à 150 pour chaque élève. Plus le chiffre est bas, plus le risque qu'un enfant ne termine pas ses études est élevé, selon le modèle.

Le système a classé les enfants dont les scores se situent dans les 20 % inférieurs comme présentant un risque moyen à élevé, la catégorie dans laquelle le Nevada distribuait de l'argent. Cela a réduit le décompte de l'État de plus de 200 000 élèves.

« Les sonnettes d’alarme ont sonné », a déclaré Amanda Morgan, directrice exécutive d’Educate Nevada Now, un groupe de défense qui a appelé l’État à augmenter les dépenses consacrées à l’éducation.

Le nouveau système a soulevé des questions éthiques. Est-il juste, par exemple, qu’une fille ayant les mêmes problèmes scolaires et comportementaux qu’un camarade de classe masculin soit classée à moindre risque, simplement parce que les filles ont globalement tendance à avoir de meilleurs résultats que les garçons ?

Et un État devrait-il s’appuyer sur une entreprise privée, dont les méthodes ne sont pas entièrement transparentes, pour prendre des décisions sur des questions scolaires sensibles ?

Charlie Kratsch, le fondateur d’Infinite Campus, a déclaré que son modèle est formé sur plusieurs années de données sur les étudiants de l’État. Il a fait valoir que son fonctionnement spécifique est exclusif et doit donc rester privé.

L’entreprise a donné quelques aperçus généraux de son fonctionnement. Par exemple, sauter cinq jours d’école consécutifs pourrait être considéré comme moins inquiétant pour un collégien avec une moyenne de 3,9 que pour un élève de seconde avec des notes d’échec.

M. Kratsch a déclaré que, « sous la pression politique », l'entreprise a supprimé la race, le sexe et le pays de naissance comme facteurs avant l'année scolaire en cours.

« Nous essayons de mettre sur la table des données précises », a déclaré M. Kratsch, puis de permettre aux États « de décider quoi en faire ».

Le débat au Nevada touche à une division nationale plus large sur la manière dont les écoles devraient prioriser les fonds limités : en se concentrant intensément sur les élèves les moins performants ou en les répartissant de manière à ce que davantage d'enfants reçoivent au moins une certaine aide.

Jordan Abbott, qui étudie le financement des écoles publiques à New America, un organisme de recherche, et qui a écrit sur le changement du Nevada, a déclaré qu'il pensait que « ce que fait le Nevada est admirable » en cherchant à utiliser les données pour cibler les élèves de manière innovante.

« Il n’y a rien de mal à ne pas avoir peur de l’apprentissage automatique et de l’analyse prédictive », a déclaré M. Abbott.

Il a cependant ajouté que lorsqu’il s’agit de prendre des décisions en matière de dépenses, les États ont besoin de « mécanismes de transparence, de responsabilité et d’évaluation intégrés dès le départ ».

« Le système actuel du Nevada ne permet tout simplement pas cela », a-t-il déclaré.

Les dirigeants du Nevada soulignent que le financement global n’a pas diminué et affirment qu’ils veulent tirer le meilleur parti des fonds limités d’un État qui compte certaines des écoles publiques les moins bien financées du pays. Le Nevada se classe au 46e rang en matière de dépenses scolaires par élève, et ses districts les plus riches ont beaucoup plus d’argent que les plus pauvres, en grande partie parce qu’ils peuvent en tirer beaucoup plus grâce aux impôts fonciers locaux, une disparité que de nombreux autres États tentent de compenser dans leurs écoles.

Selon Megan Peterson, directrice adjointe du département de l'éducation du Nevada, dans le cadre du nouveau programme du Nevada, les écoles reçoivent désormais environ 2 900 dollars par élève à risque, contre 303 dollars dans le cadre du système précédent.

Elle a déclaré que la mission du système d'éducation publique est de préparer les élèves à entrer dans le monde équipés pour poursuivre leurs objectifs.

« L'objectif numéro un est de les faire obtenir leur diplôme », a-t-elle déclaré, ajoutant qu'un élève du Nevada sur cinq ne quitte pas le lycée à temps.

Les dirigeants des districts se sont demandé si l'accent mis sur la remise des diplômes aux élèves n'était pas trop étroit.

Les éducateurs ont déclaré qu'ils trouvaient un plus grand nombre d'élèves présentant des risques que l'IA pourrait ne pas détecter, comme la dépression et l'automutilation. (https://www.nytimes.com/2022/04/23/health/mental-health-crisis-teens.html). « Peut-être qu'ils ont de bons résultats scolaires, mais vous pouvez être en mauvaise santé d'autres manières », a déclaré Paul Johnson, membre de la commission de financement des écoles du Nevada.

Aider ces élèves, a-t-il ajouté, nécessite des fonds supplémentaires pour des choses comme les conseillers.

Certaines écoles s'en sortent mieux financièrement avec le nouveau système qu'avec l'ancien. Dans la région de Reno, le nombre d'élèves à risque du district de Carson City a diminué de plus de 2 000, mais l'augmentation du financement par élève a plus que compensé la différence, permettant au district de créer un nouveau poste dans chaque école pour aider les enfants qui ont des difficultés scolaires ou comportementales.

Même ainsi, le surintendant, Andrew Feuling, a déclaré qu'il était frustré que les écoles ne soient pas informées exactement du fonctionnement du système, le qualifiant de « boîte noire ».

À la Mater Academy of Nevada, un groupe de trois écoles à charte de la région de Las Vegas, de nombreux élèves sont pauvres et entrent en classe en dessous du niveau des autres élèves de leur âge, a déclaré Renee Fairless, la directrice exécutive.

Pour garder les enfants sur la bonne voie, les écoles proposent souvent des cours particuliers après l'école et renvoient de nombreux élèves chez eux avec de la nourriture le vendredi si leurs familles n'ont pas les moyens de faire les courses.

Mais avec le nouveau système, la population à risque de Mater est passée de plus de 2 000 à 70.

« En tant qu'éducatrice, je dois me soucier de toutes ces autres choses pour qu'un enfant réussisse », a déclaré Mme Fairless, « et je suis vraiment punie pour cela. »

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd