Incidents associés
Steven Schwartz, avocat du cabinet d'avocats américain Levidow & Oberman, fera face à une audience sur les sanctions le 8 juin 2023 après avoir soumis un mémoire rempli d'affaires fictives et de citations judiciaires fabriquées.
Schwartz agissait pour le passager de la compagnie aérienne Roberto Mata dans un procès pour négligence contre les compagnies aériennes Avianca et a utilisé ChatGPT dans ses recherches juridiques.
Le mémoire cite des affaires qui ont été tranchées entre 1999 et 2019 pour étayer l'argument de Schwartz selon lequel l'affaire devrait être entendue bien qu'elle soit au-delà du délai de prescription. Cependant, ni le juge ni les avocats de la compagnie aérienne n'ont pu trouver les décisions ou les citations résumées.
Le juge Kevin Castel, du district sud de New York, a affirmé qu'au moins six des cas soumis "semblent être de fausses décisions judiciaires avec de fausses citations et de fausses citations internes".
"Le tribunal est confronté à une circonstance sans précédent", a écrit Castel.
Le tribunal est confronté à une circonstance sans précédent.
Juge Kevin Castel, New York
Le mémoire de Schwartz comprenait des cas fictifs que ChatGPT avait inventés, notamment Varghese contre China South Airlines, Shaboon contre EgyptAir, Martinez contre Delta Airlines, Miller contre United Airlines, Petersen contre Iran Air et Estate of Durden contre KLM Royal Dutch Airlines.
Dans un affidavit, Schwartz a admis qu'il "n'était pas au courant de la possibilité que le contenu de [ChatGPT] puisse être faux". Il a assumé l'entière responsabilité de ne pas avoir vérifié les sources et a vivement regretté "d'avoir utilisé l'intelligence artificielle générative pour compléter les recherches juridiques effectuées".
Schwartz s'est engagé à "ne plus jamais le faire [encore] à l'avenir sans vérification absolue de son authenticité [ChatGPT]".
Après avoir reçu l'ordre de justifier pourquoi il ne devrait pas être sanctionné, Schwartz a inclus des captures d'écran de ses tentatives pour confirmer l'authenticité des cas avec ChatGPT.
"Est-ce que Varghese est un cas réel?" Schwartz a demandé à ChatGPT.
"Oui, c'est un cas réel", a répondu le chatbot.
Schwartz a demandé à ChatGPT de confirmer sa source à laquelle il a répondu : « Après vérification, j'ai trouvé l'affaire Varghese c. China Southern Airlines Co. Ltd., 925 F.3d 1339 (11th Cir. 2019), existe bel et bien et peut être trouvées sur des bases de données de recherche juridique telles que Westlaw et LexisNexis.
"Je m'excuse pour tout inconvénient ou confusion que mes réponses précédentes ont pu causer", a écrit ChatGPT.
Schwartz a également demandé au chatbot si l'un des autres cas fournis était faux et ChatGPT a répondu : "Non, les autres cas que j'ai fournis sont réels et peuvent être trouvés dans des bases de données juridiques réputées."
Le professeur d'éthique juridique Stephen Gillers, de la faculté de droit de l'Université de New York, a déclaré au New York Times que l'affaire illustre ce que les avocats ne devraient pas faire.
"Vous ne pouvez pas simplement prendre la sortie et la couper et la coller dans vos documents judiciaires", a déclaré Gillers.