Problème 4299

Un tribunal fédéral a statué hier contre des parents qui poursuivaient un district scolaire du Massachusetts pour avoir puni leur fils qui avait utilisé un outil d'intelligence artificielle pour terminer un devoir.

Dale et Jennifer Harris ont poursuivi les responsables du lycée Hingham et le comité scolaire et ont demandé une injonction préliminaire obligeant l'école à modifier la note de leur fils et à effacer l'incident de son dossier disciplinaire avant qu'il ne doive soumettre des demandes d'inscription à l'université. Les parents ont fait valoir qu'il n'y avait aucune règle interdisant l'utilisation de l'IA dans le manuel de l'élève, mais les responsables de l'école ont déclaré que l'élève avait violé plusieurs politiques.

La requête d'injonction de Harris a été rejetée dans une ordonnance émise hier par le tribunal de district du Massachusetts. Le juge Paul Levenson a estimé que les responsables de l'école « ont le dessus sur les faits et le droit ».

« Sur la base des faits, rien dans le dossier factuel préliminaire ne suggère que les responsables du HHS ont conclu trop vite que RNH [le fils de Harris, désigné par ses initiales] avait triché », a écrit Levenson. « Les conséquences imposées par les défendeurs n'étaient pas non plus si lourdes qu'elles excèdent le pouvoir discrétionnaire considérable des défendeurs dans de telles affaires ».

« Sur la base des preuves actuellement présentées au tribunal, je ne détecte aucun acte répréhensible de la part des défendeurs », a également écrit Levenson.

Les élèves ont copié et collé des « hallucinations » d'IA

L'incident s'est produit en décembre 2023, alors que RNH était en troisième année. L'école a déterminé que RNH et un autre élève « avaient triché sur un projet d'histoire américaine de l'AP en essayant de faire passer, comme leur propre travail, du matériel qu'ils avaient pris d'une application d'intelligence artificielle générative (« IA ») », a écrit Levenson. « Bien que les élèves aient été autorisés à utiliser l'IA pour réfléchir à des sujets et identifier des sources, dans ce cas, les élèves avaient copié et collé sans discernement du texte de l'application d'IA, y compris des citations de livres inexistants (c'est-à-dire des hallucinations d'IA). »

Ils ont reçu des notes d'échec sur deux parties du projet en plusieurs parties, mais « ont été autorisés à repartir de zéro, chacun travaillant séparément, pour terminer et soumettre le projet final », selon l'ordonnance. La sanction disciplinaire de RNH comprenait une retenue le samedi. Il a également été exclu de la sélection pour la National Honor Society, mais il a finalement été autorisé à intégrer le groupe après que ses parents ont déposé une plainte.

Les responsables de l'école « soulignent que RNH a appris à plusieurs reprises les principes fondamentaux de l'intégrité académique, notamment comment utiliser et citer l'IA », a écrit Levenson. Le juge magistrat a convenu que « les responsables de l'école pouvaient raisonnablement conclure que l'utilisation de l'IA par RNH était en violation des règles d'intégrité académique de l'école et que tout étudiant dans la position de RNH l'aurait compris ».

L'ordonnance de Levenson décrit comment les étudiants ont utilisé l'IA pour générer un script pour un film documentaire :

Les preuves montrent que le duo n'a pas simplement utilisé l'IA pour aider à formuler des sujets de recherche ou identifier des sources à examiner. Au lieu de cela, il semble qu'ils aient copié et collé sans discernement du texte qui avait été généré par Grammarly.com (« Grammarly »), un outil d'IA accessible au public, dans leur projet de script. De toute évidence, le duo n'a même pas examiné les « sources » fournies par Grammarly avant de les retirer. La toute première note de bas de page de la soumission consiste en une citation d'un livre inexistant : « Lee, Robert. Hoop Dreams : A Century of Basketball. Los Angeles : Courtside Publications, 2018. » La troisième note de bas de page semble également totalement factice : « Doe, Jane. Muslim Pioneers: The Spiritual Journey of American Icons. Chicago : Windy City Publishers, 2017. » Il est significatif que même si le script contenait des citations de diverses sources – dont certaines étaient réelles – il n’y avait aucune citation de Grammarly et aucune reconnaissance de l’utilisation d’une IA de quelque nature que ce soit.

L’outil a signalé le document comme généré par l’IA

Lorsque les étudiants ont soumis leur script via Turnitin.com, le site Web a signalé des parties de celui-ci comme étant générées par l’IA. L’enseignante d’histoire américaine de l’AP a procédé à un examen plus approfondi, découvrant que de grandes parties du script avaient été copiées et collées. Elle a également trouvé d’autres détails accablants.

Susan Petrie, professeur d'histoire, a déclaré que l'historique des révisions montrait que RNH n'avait passé qu'environ 52 minutes sur le document, alors que d'autres élèves y avaient consacré entre sept et neuf heures. Mme Petrie a également passé la soumission dans "Draft Back" et "Chat Zero", deux autres outils de détection d'IA, qui ont également indiqué que l'IA avait été utilisée pour générer le document", a déclaré l'ordonnance.

Les responsables de l'école ont fait valoir que "l'affaire n'impliquait pas de questions subtiles de pratiques acceptables dans le déploiement d'une nouvelle technologie, mais qu'il s'agissait plutôt d'un cas simple de malhonnêteté académique", a écrit Levenson. L'ordonnance du juge magistrat a déclaré qu'"il est douteux que la Cour ait un rôle à jouer dans la remise en question" de la décision de l'école, et que les plaignants de RNH n'ont démontré aucune faute de la part des autorités scolaires.

Comme nous l'avons déjà signalé, les responsables de l'école ont déclaré au tribunal que la section du manuel de l'étudiant sur la tricherie et le plagiat interdit « l'utilisation non autorisée de la technologie pendant un devoir » et « l'utilisation non autorisée ou l'imitation proche du langage et des pensées d'un autre auteur et la représentation de ceux-ci comme son propre travail ».

Les responsables de l'école ont également déclaré au tribunal qu'à l'automne 2023, les étudiants ont reçu une copie d'une « politique écrite sur la malhonnêteté académique et les attentes en matière d'IA » qui stipulait que les étudiants « ne doivent pas utiliser d'outils d'IA pendant les examens en classe, les devoirs écrits, les devoirs ou les travaux en classe, sauf autorisation et instruction explicites ».

L'affaire des parents repose en grande partie sur l'absence de déclaration spécifique du manuel de l'étudiant sur l'IA, même si ce même manuel interdit l'utilisation non autorisée de la technologie. « Ils nous ont dit que notre fils avait triché sur un devoir, ce qui n'est pas ce qui s'est passé », a déclaré Jennifer Harris à WCVB le mois dernier. "Ils l'ont essentiellement puni pour une règle qui n'existe pas."

Autres revendications des parents rejetées

Les Harris affirment également que les responsables de l'école se sont livrés à un "schéma généralisé de menaces, d'intimidation, de coercition, d'intimidation, de harcèlement et d'incitation à des représailles". Mais Levenson a conclu que les "plaignants fournissent peu d'allégations factuelles dans ce sens".

Bien que l'affaire ne soit pas terminée, le rejet de l'injonction préliminaire montre que Levenson pense que les défendeurs ont de fortes chances de gagner. "La manière dont RNH a utilisé Grammarly - copier-coller en gros du langage directement dans le projet de script qu'il a soumis - étaye puissamment la conclusion des défendeurs selon laquelle RNH savait qu'il utilisait l'IA d'une manière inadmissible", a écrit Levenson.

Bien que « l'émergence de l'IA générative puisse présenter des défis nuancés pour les éducateurs, le problème ici n'est pas particulièrement nuancé, car il n'y a aucun objectif pédagogique discernable à inciter Grammarly (ou tout autre outil d'IA) à générer un script, à régurgiter le résultat sans citation et à le revendiquer comme son propre travail », a déclaré l'ordonnance.

Levenson n'a pas été impressionné par l'affirmation des parents selon laquelle le droit constitutionnel de RNH à une procédure régulière a été violé. Les accusés « ont pris plusieurs mesures pour confirmer que RNH avait en fait utilisé l'IA pour terminer le devoir » avant d'imposer une sanction, a-t-il écrit. La discipline imposée « n'a pas privé RNH de son droit à une éducation publique », et donc « toute demande de procédure régulière fondée sur le droit de RNH à une éducation publique doit échouer ».

Levenson a conclu en citant une décision de la Cour suprême de 1988 selon laquelle l'éducation des jeunes « est avant tout la responsabilité des parents, des enseignants et des responsables des écoles locales et étatiques, et non des juges fédéraux ». Selon Levenson, « cette affaire illustre bien le bon sens de cette division du travail. L'intérêt public ici pèse en faveur des défendeurs ».