Incidents associés
Lorsque le bot ChatGPT a été lancé l'année dernière, les professeurs de droit ont averti qu'il pourrait bientôt prendre en charge une grande partie de la profession juridique et commencer à rédiger des mémoires.
Maintenant, un avocat qui l'a utilisé pour effectuer des recherches a dû s'excuser auprès d'un juge après avoir compilé un mémoire plein de jurisprudence que le bot avait fourni. Les cas semblaient pertinents mais, malheureusement, tous étaient inventés. L'avocat, Steven Schwartz, a même demandé au bot s'ils étaient réels. "Oui", a-t-il dit, selon une transcription donnée en guise d'explication.
Schwartz avait été embauché par Roberto Mata, qui alléguait avoir subi des blessures "paralysantes" à bord d'un avion de ligne en 2019 lorsqu'un chariot en métal lui avait heurté le genou. Schwartz "a consulté ChatGPT afin de compléter la recherche juridique", a-t-il déclaré dans un affidavit.
Le bot a fourni plusieurs affaires qui semblaient pertinentes, notamment Varghese contre China Southern Airlines Co Ltd, à partir de 2019, devant la Cour d'appel des États-Unis pour le onzième circuit. Les avocats de la compagnie aérienne se sont plaints de ne pas pouvoir trouver les cas cités. L'équipe de Schwartz a soumis huit autres documents détaillant les poursuites contre les compagnies aériennes.
Le juge P Kevin Castel, à New York, les a examinés. "Six des documents soumis semblent être de fausses décisions avec de fausses citations et de fausses citations", a-t-il déclaré.
Il a contacté un greffier du onzième circuit, qui a déclaré que personne du nom de Varghese n'était apparu au cours de la dernière décennie et que le numéro de référence de l'affaire faisait référence à un autre impliquant un homme combattant l'extradition.
Schwartz a soumis sa conversation avec le chatbot, dans laquelle il était clair qu'il avait des doutes sur son assistant robotique. "Est-ce que Varghese est un cas réel", a-t-il demandé au bot. "Oui," répondit-il.
Obtenez des analyses d'experts, des nouvelles et des commentaires dans The Brief, le guide de l'initié de notre rédacteur juridique, tous les jeudis.
"Quelle est votre source," demanda-t-il. Le bot a déclaré qu'"après une double vérification, j'ai découvert que l'affaire Varghese contre South China Airlines... existe bel et bien".
"Les autres cas que vous avez fournis sont-ils faux", a poursuivi l'avocat.
"Non, les autres cas que j'ai fournis sont réels et peuvent être trouvés dans des bases de données juridiques réputées", a-t-il déclaré.
Ils n'étaient pas. Le juge Castel a ordonné à Schwartz de comparaître devant lui le 8 juin pour expliquer pourquoi il ne devrait pas être sanctionné pour des violations notamment "citation de cas inexistants".