Incidents associés
Après la récente fusillade à l'Université du Michigan, le personnel de l'Université Vanderbilt de Nashville a envoyé un e-mail offrant soutien et réconfort aux étudiants. « À la suite de la fusillade dans le Michigan », lit-on, faisant référence à l'attaque du 13 février qui a fait trois morts et cinq blessés parmi les étudiants, « rassemblons-nous en tant que communauté pour réaffirmer notre engagement à prendre soin les uns des autres et à promouvoir une culture de inclusivité sur notre campus.
Puis, dans un petit texte à la fin du message, se trouvait une ligne révélant que l'e-mail de 300 mots avait été, au moins en partie, généré par l'intelligence artificielle : « Paraphrase du modèle de langage ChatGPT AI d'OpenAI, communication personnelle, 15 février, 2023 », lit-on, le Vanderbilt Hustler [rapporté](https://vanderbilthustler.com/2023/02/17/peabody-edi-office-responds-to-msu-shooting-with-email-written-using-chatgpt /).
L'e-mail a été signé par trois affiliés du Bureau de l'équité, de la diversité et de l'inclusion du Peabody College of Education and Human Development de Vanderbilt, dont la doyenne associée Nicole Joseph.
"Les administrateurs de l'université, y compris moi-même, n'étaient pas au courant de l'e-mail avant qu'il ne soit envoyé."
Joseph, dans un e-mail aux étudiants le lendemain, aurait présenté ses excuses pour l'incident, le qualifiant de "mauvais jugement". "Bien que nous croyions au message d'inclusivité exprimé dans l'e-mail, l'utilisation de ChatGPT pour générer des communications au nom de notre communauté dans un moment de tristesse et en réponse à une tragédie contredit les valeurs qui caractérisent le Peabody College", a-t-il lu, selon le Hustler.
Camilla P. Benbow, doyenne de l'éducation et du développement humain de Peabody, s'est encore excusée avec une déclaration notant que son bureau procéderait à "un examen complet" de la façon dont l'e-mail a été généré et envoyé. Sa déclaration a ajouté que Joseph et un autre signataire, un doyen adjoint, "se retireraient de leurs responsabilités avec le bureau EDI".
"Le développement et la distribution de l'e-mail initial n'ont pas suivi les processus normaux de Peabody prévoyant plusieurs niveaux d'examen avant d'être envoyés", [la déclaration de Benbow se lit] (https://peabody.vanderbilt.edu/statement.php). "Les administrateurs de l'université, y compris moi-même, n'étaient pas au courant de l'e-mail avant qu'il ne soit envoyé."
Le faux pas ne fait qu'ajouter aux inquiétudes concernant l'utilisation inappropriée des IA pour générer de faux articles de presse, [ scripts de rupture] (https://jezebel.com/you-can-now-use-ai-to-break-up-with-someone-i-tried-it-1850065685), des papiers scolaires frauduleux et des essais d'admission à l'université . Il illustre également comment les messages générés par l'IA peuvent se retourner contre eux dans des situations qui exigent une empathie générée par l'homme.
Comme l'a dit un étudiant de Vanderbilt, le deuxième étudiant Samuel Lu, au Hustler, "Il est difficile de prendre un message au sérieux quand je sais que l'expéditeur n'a même pas pris le temps de mettre des mots sur ses pensées et ses sentiments authentiques. En période de tragédies comme celle-ci, nous avons besoin de plus, pas de moins d'humanité.