Incidents associés
L'Université Vanderbilt attire la chaleur de son corps étudiant pour [utiliser ChatGPT] (https://www.cbsnews.com/news/chatgpt-artificial-intelligence-chatbot-jobs-most-likely-to-be-replaced/) pour générer une lettre à l'échelle de la communauté traitant de la récente fusillade de masse à [Michigan State University] (https://www.cbsnews.com/news/msu-shooting-victims-brian-fraser-alexandria-verner-arielle-anderson-michigan-state-university /).
Le bureau de l'équité, de la diversité et de l'inclusion (EDI) du Vanderbilt's Peabody College of Education a publié la semaine dernière une déclaration que beaucoup ont critiquée comme impersonnelle et manquant d'empathie .
"Les récentes fusillades au Michigan sont un rappel tragique de l'importance de prendre soin les uns des autres, en particulier dans le contexte de la création d'environnements inclusifs", lit-on dans la première ligne de la lettre. "En tant que membres de la communauté du campus Peabody, nous devons réfléchir à l'impact d'un tel événement et prendre des mesures pour nous assurer que nous faisons de notre mieux pour créer un environnement sûr et inclusif pour tous."
Un paragraphe plus bas commençait par une phrase qui frappait les membres de la communauté comme générique.
"Un autre aspect important de la création d'un environnement inclusif est de promouvoir une culture de respect et de compréhension", indique la lettre. "Cela signifie valoriser la diversité des expériences, des perspectives et des identités sur notre campus, et travailler activement à créer un espace où chacun se sent accueilli et soutenu."
Le message a continué à vanter les mérites de la création "d'un environnement sûr et inclusif sur le campus".
En petits caractères, juste au-dessus de la ligne de signature, une clause de non-responsabilité est apparue, indiquant que l'intégralité de la déclaration était une "paraphrase du modèle de langage ChatGPT AI d'OpenAI".
"Ironie malade et tordue"
Les étudiants et les membres de la communauté ont fustigé l'université pour ce faux pas, accusant les administrateurs d'avoir orchestré une cascade de relations publiques.
Laith Kayat, senior de Vanderbilt, dont la sœur fréquente MSU, a qualifié l'utilisation de ChatGPT de "dégoûtante", le [journal étudiant] de Vanderbilt (https://vanderbilthustler.com/2023/02/17/peabody-edi-office-responds-to-msu -shooting-with-email-written-using-chatgpt/), le Vanderbilt Hustler, a rapporté.
"Il y a une ironie malade et tordue à faire écrire votre message sur la communauté et l'unité par un ordinateur parce que vous ne pouvez pas vous donner la peine d'y réfléchir vous-même", a déclaré Kayat à The Hustler. "Les [administrateurs] ne se soucient que de la perception et de leur politique institutionnelle pour sauver la face."
Kayat a appelé les administrateurs à faire mieux que de compter sur un robot pour diriger l'université.
Les administrateurs n'ont jamais examiné la lettre
Vendredi, un jour après la publication de la lettre initiale, Nicole M. Joseph, doyenne associée pour l'EDI, a envoyé un e-mail de suivi indiquant que son bureau avait commis une erreur de jugement en utilisant ChatGPT pour réfléchir à la fusillade de MSU.
"Comme pour toutes les nouvelles technologies qui affectent l'enseignement supérieur, ce moment nous donne à tous l'occasion de réfléchir à ce que nous savons et à ce que nous devons encore apprendre sur l'IA", lit-on dans la lettre de suivi de Joseph, selon le Vanderbilt Hustler.
La doyenne du Peabody College, Camilla Benbow, a déclaré que la missive controversée n'avait jamais été examinée par son bureau avant d'être distribuée.
"Le développement et la distribution de l'e-mail initial n'ont pas suivi les processus normaux de Peabody prévoyant plusieurs niveaux d'examen avant d'être envoyés", a-t-elle déclaré dans un communiqué à CBS MoneyWatch.
Le bureau du doyen mène une enquête sur l'incident, selon Benbow. En attendant, le doyen associé Joseph et la doyenne adjointe Hasina Mohyuddin seront en congé temporaire, a-t-elle déclaré.
"Je suis également profondément troublée qu'une communication de mon administration ait tant manqué au besoin crucial de connexion personnelle et d'empathie pendant une période de tragédie", a-t-elle ajouté dans sa déclaration.
Jugement pauvre
Il existe des scénarios dans lesquels ChatGPT peut être [très efficace pour rédiger des communications](https://www.cbsnews.com/news/chatgpt-work-real-estate-finance-health-care-how-workers-use-it- emplois/). Certains chefs d'entreprise en sont venus à s'appuyer sur l'outil pour rédiger des discours et agir en tant que "partenaire de réflexion". Des débats sont en cours sur les types d'emplois que la technologie va éventuellement éliminer.
Mais pour l'instant, il manque au logiciel une fonctionnalité essentielle qui rend les humains uniques : le jugement.
ChatGPT peut résumer des données et générer du texte, mais ne possède pas l'intelligence émotionnelle des humains, selon Oded Netzer, professeur à la Columbia Business School. Comprendre le "pourquoi" derrière les faits et les chiffres et exprimer une véritable émotion sont toujours "les types de tâches qui nécessitent du jugement et pour lesquelles les humains sont toujours très précieux", a-t-il déclaré.