Incidents associés
Un avocat est en difficulté après avoir admis avoir utilisé ChatGPT pour aider à rédiger des documents judiciaires citant six cas inexistants inventés par l'outil d'intelligence artificielle.
L'avocat Steven Schwartz du cabinet Levidow, Levidow, & Oberman "regrette profondément d'avoir utilisé l'intelligence artificielle générative pour compléter les recherches juridiques effectuées ici et ne le fera jamais à l'avenir sans une vérification absolue de son authenticité", a écrit Schwartz dans un [affidavit] (https://storage.courtlistener.com/recap/gov.uscourts.nysd.575368/gov.uscourts.nysd.575368.32.1_1.pdf) le 24 mai concernant les fausses citations précédemment soumises au tribunal de district américain du district sud de New York.
Schwartz a écrit que "l'utilisation de l'intelligence artificielle générative a évolué au sein des cabinets d'avocats" et qu'il "a consulté le site Web d'intelligence artificielle ChatGPT afin de compléter les recherches juridiques effectuées".
Les "citations et opinions en question ont été fournies par ChatGPT qui a également fourni sa source légale et assuré la fiabilité de son contenu", a-t-il écrit. Schwartz a admis qu'il "s'est appuyé sur les avis juridiques qui lui ont été fournis par une source qui s'est révélée peu fiable" et a déclaré que c'était de sa faute de ne pas avoir confirmé les sources fournies par ChatGPT.
Schwartz n'avait pas envisagé auparavant la possibilité qu'un outil d'intelligence artificielle comme ChatGPT puisse fournir de fausses informations, même si des erreurs de chatbot d'IA ont été largement signalées par des intelligences non artificielles telles que les journalistes humains employés par [des organisations de presse réputées] (https:/ /arstechnica.com/information-technology/2023/04/why-ai-chatbots-are-the-ultimate-bs-machines-and-how-people-hope-to-fix-them/). L'affidavit de l'avocat a déclaré qu'il n'avait "jamais utilisé ChatGPT comme source pour mener des recherches juridiques avant cet événement et n'était donc pas au courant de la possibilité que son contenu puisse être faux".
Le juge évalue les "circonstances sans précédent"
Le juge fédéral Kevin Castel envisage des sanctions pour Schwartz et ses associés. Dans une ordonnance du vendredi, Castel a prévu une audience le 8 juin au cours de laquelle Schwartz , son collègue avocat Peter LoDuca et le cabinet d'avocats doivent justifier pourquoi ils ne devraient pas être sanctionnés.
"La Cour est confrontée à une circonstance sans précédent", a écrit Castel dans une précédente [ordonnance du 4 mai](https://storage.courtlistener.com/recap/gov.uscourts.nysd.575368/gov.uscourts.nysd.575368.31 .0_1.pdf). "Une soumission déposée par l'avocat du demandeur en opposition à une requête en rejet est remplie de citations de cas inexistants... Six des cas soumis semblent être de fausses décisions judiciaires avec de fausses citations et de fausses citations internes."
Les dépôts comprenaient non seulement les noms de -up cases mais aussi une série de pièces à conviction avec des "extraits" des fausses décisions. Par exemple, la fausse opinion Varghese v. China Southern Airlines a cité plusieurs précédents qui n'existent pas.
"La fausse décision 'Varghese' contient des citations et des citations internes, qui, à leur tour, sont inexistantes", a écrit Castel. Cinq autres "décisions soumises par l'avocat du demandeur contiennent des lacunes similaires et semblent également fausses", a écrit Castel.
Les cinq autres fausses affaires s'appelaient Shaboon contre Egyptair, Petersen contre Iran Air, Martinez contre Delta Airlines, Estate of Durden contre KLM Royal Dutch Airlines et Miller contre United Airlines.
Avocat : ChatGPT a déclaré que les cas étaient réels
Schwartz a fourni un extrait des requêtes ChatGPT dans lesquelles il a demandé à l'outil d'IA si Varghese était un cas réel. ChatGPT a répondu qu'il "s'agit d'un cas réel" et "peut être trouvé sur des bases de données de recherche juridique telles que Westlaw et LexisNexis". Lorsqu'on lui a demandé si les autres cas fournis par ChatGPT étaient faux, il a répondu : "Non, les autres cas que j'ai fournis sont réels et peuvent être trouvés dans des bases de données juridiques réputées telles que LexisNexis et Westlaw."
L'affaire qui n'a pas été inventée par un chatbot IA est Roberto Mata contre Avianca. Mata demande des dommages-intérêts pour les blessures subies lors d'un vol Avianca d'El Salvador à New York en août 2019 lorsqu'un chariot de collations et de boissons en métal a heurté son genou.
Le procès de Mata contre la compagnie aérienne a été initialement déposé devant un tribunal de l'État de New York, mais Avianca l'a fait transférer devant le tribunal fédéral. Schwartz s'occupait de l'affaire depuis le début, mais n'a pas été admis à pratiquer au tribunal fédéral du district sud de New York. L'équipe juridique a décidé que Schwartz continuerait à faire le travail juridique pendant que LoDuca s'occuperait du dépôt des documents parce qu'il avait été admis à la Cour fédérale.
Le 1er mars, LoDuca a cité les faux cas dans un brief qui s'opposait à Avianca requête en rejet de l'affaire. Apparemment écrit par Schwartz malgré le nom de LoDuca dessus, le mémoire a utilisé les fausses citations pour faire valoir que l'affaire devrait être entendue par un tribunal de l'État de New York où un délai de prescription de trois ans s'appliquerait.
"Dans Shaboon c. Egyptair, la Cour d'appel de l'Illinois a statué que les tribunaux des États avaient une compétence concurrente sur les réclamations découlant d'un accident d'avion international en vertu de la Convention de Montréal, et que le demandeur n'était pas tenu de porter sa réclamation devant un tribunal fédéral", a déclaré le bref. dit, citant l'un des faux cas.
Les fausses citations sèment la confusion
La confusion s'est ensuivie car personne d'autre n'a pu trouver les cas cités. Castel a émis une ordonnance le 11 avril indiquant que LoDuca "doit déposer un affidavit en joignant des copies des affaires suivantes citées dans sa soumission au tribunal », et que « le non-respect entraînera le rejet de cette action ».
L'avocat du plaignant a continué d'insister sur le fait que les cas étaient réels. LoDuca a déposé un affidavit le 25 avril dans lequel il a juré l'authenticité de les faux cas, dont un - Shaboon c. Egyptair - qu'il prétendait être "une opinion non publiée". Un jour après le dépôt, l'équipe juridique d'Avianca a écrit que "l'authenticité de beaucoup de ces cas est discutable." Comme les affaires n'existent pas, les avocats de l'accusé n'ont pas pu les trouver à l'aide d'outils tels que Westlaw, PACER et Lexis Courtlink.
Dans l'ordonnance rendue vendredi la semaine dernière, Castel a déclaré que Schwartz pourrait être sanctionné pour "la citation d'affaires inexistantes à la Cour", "la soumission à la Cour de copies d'avis judiciaires inexistants" et "l'utilisation d'une notarisation fausse et frauduleuse." Schwartz peut également être renvoyé à un comité des griefs des avocats pour une peine supplémentaire.
Castel a écrit que LoDuca pourrait être sanctionné "pour l'utilisation d'une notarisation fausse et frauduleuse dans son affidavit déposé le 25 avril 2023". Le cabinet d'avocats pourrait être sanctionné pour "la citation d'affaires inexistantes à la Cour", "la soumission à la Cour de copies d'avis judiciaires inexistants annexés à l'affidavit déposé le 25 avril 2023" et "l'utilisation d'une notarisation fausse et frauduleuse dans l'affidavit déposé le 25 avril 2023."
L'affidavit de Schwartz a déclaré que LoDuca "n'avait aucun rôle" dans la réalisation de la recherche défectueuse. Schwartz a déclaré qu'il n'avait aucune intention de tromper le tribunal ou le défendeur et que lui et LoDuca n'ont jamais "été cités pour une quelconque faute juridique de quelque nature que ce soit ni jamais été sanctionnés par cette Cour ou par un tribunal en plus de trente ans de pratique".
LoDuca a écrit dans son propre affidavit qu'il "n'a personnellement mené aucune des la recherche juridique » et n'avait aucune « connaissance personnelle de la façon dont la [recherche] a été menée ». LoDuca a déclaré qu'il travaillait avec Schwartz depuis plus de 25 ans et "n'avait aucune raison de douter de l'authenticité de la jurisprudence" fournie par Schwartz. LoDuca a demandé au juge d'éviter de prononcer des sanctions à son encontre car "il n'y avait pas de mauvaise foi ni d'intention de tromper ni la Cour ni l'accusé".