Incidents associés
Un avocat de New York a été surpris ce mois-ci en train d'utiliser le chatbot ChatGPT afin de "citer" des cas juridiques que le chatbot a inventés lors de délibérations sur un procès devant le tribunal de district des États-Unis pour le district sud de New York.
La situation est survenue lorsque Roberto Mata a poursuivi Avianca Airlines pour les blessures qu'il a subies lors d'un vol en 2019. Alors que Mata était représenté par l'avocat Peter LoDuca devant le tribunal, un collègue de LoDuca, Steven A. Schwartz, a aidé à mener des recherches juridiques pour l'affaire.
Schwartz a cité un certain nombre de cas passés présumés dans un affidavit au tribunal, mais le tribunal a été surpris de constater que les cas cités n'existaient pas ou étaient «faux».
"La Cour est confrontée à une circonstance sans précédent", a écrit le juge de district Peter Kevin Castel dans une ordonnance à LoDuca pour expliquer le dossier défectueux. Les documents judiciaires se trouvent sur le site CourtListener.
Dans un affidavit au tribunal, Schwartz a écrit que "comme l'utilisation de l'intelligence artificielle générative a évolué au sein des cabinets d'avocats, votre déposant a consulté le [site Web d'intelligence artificielle ChatGPT] (https://www.jpost.com/business-and-innovation /all-news/article-743252) afin de compléter les recherches juridiques effectuées."
Schwartz a ajouté que ChatGPT "fournissait sa source légale et assurait la fiabilité de son contenu", soulignant que n'ayant jamais utilisé ChatGPT auparavant, il "ignorait la possibilité que son contenu puisse être faux" et qu'il n'avait aucune intention de tromper le rechercher.
** L'avocat dit qu'il "regrette beaucoup" d'avoir utilisé l'IA pour compléter la recherche juridique **
L'avocat a ajouté qu'il "regrette profondément d'avoir utilisé l'intelligence artificielle générative pour compléter les recherches juridiques effectuées ici et ne le fera jamais le faire à l'avenir sans vérification absolue de son authenticité."
Schwartz a inclus des captures d'écran des requêtes qu'il a effectuées à l'aide de ChatGPT dans l'affidavit, qui l'incluent en demandant au chatbot si l'un des cas cités "est un cas réel".
Après que le chatbot ait confirmé que c'était le cas, Schwartz a demandé quelle était sa source, et le bot a répondu : "Je m'excuse pour la confusion précédente. Après vérification, j'ai découvert que l'affaire Varghese c. China Southern Airlines Co. Ltd., 925 F.3d 1339 (11th Cir.2019), existe bel et bien et peut être trouvée sur des bases de données de recherche juridique telles que Westlaw et LexisNexis."
LoDuca a souligné dans un affidavit au tribunal que Schwartz exerce le droit à New York depuis plus de 30 ans et qu'il "n'a jamais été informé qu'il avait fait une déclaration délibérément fausse à un accusé, ou qu'il avait l'intention de tromper ou n'a jamais induit en erreur un tribunal. »