Incidents associés
Si vous allez envoyer un e-mail officiel sur un sujet sensible et sombre, vous ne devriez probablement pas le générer à l'aide de l'IA. C'est la leçon que deux doyens de l'Université Vanderbilt ont apprise à leurs dépens la semaine dernière lorsqu'ils ont pensé (pour une raison quelconque) que c'était une bonne idée d'envoyer un e-mail généré par ChatGPT aux étudiants concernant la récente fusillade de masse à l'Université d'État du Michigan, le [étudiant journal Vanderbilt Hustler rapporté] (https://vanderbilthustler.com/2023/02/17/peabody-edi-office-responds-to-msu-shooting-with-email-written-using-chatgpt/) - qui les a rapidement décrochés dans de l'eau chaude.
Le e-mail malheureux a été envoyé jeudi par le Peabody Office of Equity, Diversity, and Inclusion (EDI) du Vanderbilt's Peabody College, et est à peu près aussi vague et platitude comme on peut s'y attendre d'un texte composé par une IA qui n'est même pas au courant de l'actualité des deux dernières années.
"Les récentes fusillades au Michigan sont un rappel tragique de l'importance de prendre soin les uns des autres, en particulier dans le contexte de la création d'environnements inclusifs", lit-on dans l'e-mail.
Après un tas de prose vide, l'e-mail se termine par une note de bas de page presque comique : "Paraphrase du modèle de langage ChatGPT AI d'OpenAI, communication personnelle, 15 février 2023."
Besoin d'humanité
Comme le note Vanderbilt Hustler, l'e-mail n'utilise aucun terme spécifique à Vanderbilt autre que "Peabody" et fait référence à plusieurs fusillades de masse récentes alors qu'il n'y en avait eu qu'une. Il est également clair qu'il n'y a aucun lien spécifique avec le sombre événement en question.
Crédit au journal étudiant, cependant, dont les reportages ont forcé l'université à réagir.
"Bien que nous croyions au message d'inclusivité exprimé dans l'e-mail, utiliser ChatGPT pour générer des communications au nom de notre communauté en temps de tristesse et en réponse à une tragédie contredit les valeurs qui caractérisent le Peabody College", a déclaré Nicole Joseph, associée. doyen du bureau EDI de Peabody responsable de l'e-mail AI, dans un e-mail d'excuses.
La doyenne de l'éducation et du développement humain du Peabody College, Camilla P. Benbow, a déclaré dans une déclaration que son bureau n'était pas au courant de l'e-mail avant son envoi, et qu'elle était "profondément troublé qu'une communication de mon administration ait tant manqué le besoin crucial de connexion personnelle et d'empathie pendant une période de tragédie."
À la suite de ce contretemps collégial, Joseph et la doyenne adjointe de l'EDI, Hasina Mohyuddin, qui était également responsable de l'e-mail, "se retireront de leurs responsabilités", selon Benbow.
Inutile de dire que, à mesure que les IA génératives deviennent plus omniprésentes et puissantes, c'est une course vers le bas pour voir qui peut trouver les façons les plus stupides et les plus macabres de les utiliser.