ヨハネスブルグのパークウッドにある法人から名誉を毀損されたと主張する女性の代理人弁護士たちは、ChatGPTによって生成された架空の判決を彼女の訴訟の根拠として利用しようとしていたことが明らかになり、愕然とした。
ヨハネスブルグ地方裁判所は先週、「氏名と引用は虚偽であり、事実も虚偽であり、判決も虚偽である」と判決を下した。
また、同裁判所は女性に対し懲罰的訴訟費用負担命令を科した。
アービン・チャイトラム判事は、この事件は「法的調査においては、現代技術の効率性にも、古き良き自主的な読み解きの要素が加わる必要がある」ことを「タイムリーに思い出させるもの」だと述べた。
チャイトラム判事は、弁護士が判決の追跡を行うため、この虚偽判決のために訴訟を2ヶ月延期した。この訴訟が初めて治安判事に持ち込まれたのは3月で、法人の管財人側弁護士であるクレア・アヴィドン氏は、法人は名誉毀損で訴えられるべきではないと主張した。この主張が認められれば、訴訟は終結していたはずだった。
しかし、原告ミシェル・パーカー氏の弁護士であるジュリー・ヘイズ氏は、この問題に答える過去の判決が存在すると主張した。ただ、審理の時点では、ヘイズ氏のチームがまだそれらの判決にアクセスできていなかっただけだった。
チャイトラム判事は判決の中で、5月下旬への延期を決定したと 述べた。「この問題は訴訟全体に影響を及ぼす可能性のある新しい問題であると思われるため、裁判所は両当事者に対し、提示された判例を入手するために協力して努力するよう要請した。」
その後2ヶ月間、2組の弁護士が、パーカー氏の弁護士が人工知能（AI）を用いて以前に言及を発見していたものの実際には存在しない、架空の判決を探し出そうとした。
原告側弁護士であるロドリゲス・ブリグノー法律事務所のシャンタル・ロドリゲス氏は、前例のない複雑な事件であるため、「未報告の事件や判例を見つけるのは容易な作業ではない」と述べた。
「情報や潜在的な手がかりを得るためのあらゆる手段を、新旧様々な手段を用いて調査し尽くさなければならなかった」。同事務所は「現在最も先進的なAIツール」を活用し、「収集した調査結果に基づいて調査を進めた」。
これは「全国の様々な高等裁判所、複数の州の裁判所書記官、そして法律実務評議会図書館の法務司書との綿密な協議」を意味したと彼女は述べた。
法人側弁護士であるル・モテ・ロスル法律事務所のマックス・ロスル氏は、同事務所のチームがロドリゲス・ブリグノー法律事務所と長時間にわたるやり取りを行い、同事務所は事件名のリストと引用文献（事件が報告された場所への参照）を送付したと述べた。
しかし、彼のチームが判決文を探し出そうとしたが、見つからなかった。ジュニアカウンセルのジフォジーレ・ラコワ氏は4日間で15時間もかけて判決文を探したが、見つからなかった。事件名は実在の事件であり、引用も実在の引用文だった。しかし、引用文は実在の事件とは別の事件に関連 していた。法人と個人間の名誉毀損訴訟に関連する事件や引用文は一つもなかったとロスル氏は述べた。
チームがヨハネスブルグ弁護士会図書館に助けを求めたところ、図書館員も判決文を見つけられず、ChatGPTが作成した事件ではないかと疑った。
結局、全員が出廷する前の金曜日、ロスル氏はパーカー氏の弁護士に連絡を取り、実際の判決文を見つけたかどうかを尋ねた。ところが、まだ捜索中だと言われた。
判決文によると、月曜日の法廷で「原告側弁護士は、自身の弁護士がChatGPTを通じて訴訟案件の情報を入手したと説明した」という。
ロドリゲス判事は、「いかなる段階においても、我々は裁判所や相手方を誤解させたことはなく、我々の調査結果を相手方に提供したのは、正義を追求する地方裁判所判事の要請によるもののみである」と述べた。
判決文によると、パーカー氏の弁護士はAIチャットボットの結果を「その正確性について確信を得ることなく」受け入れたという。
しかし、弁護団は判決文を裁判所に提出しておらず、相手方にのみ提出していたため、判事は、裁判所を誤解させたわけではないと述べた。誤解させていれば、深刻な結果になっていただろう。「弁護団は、単に熱心すぎると同時に不注意だったようだ」と判事は述べた。
また、彼らは「誰かを誤解させる意図はなかった」とも述べた。しかし、判決文によると、「この失態の必然的な結果」は、被告側チームが誤解させられたことだった。したがって、懲罰的訴訟費用命令は妥当であった。
「実際、裁判所はこれを懲罰的だとさえ考えていません。単に適切な措置です。この事件に伴う恥辱は、原告側の弁護士にとって十分な罰となるでしょう」と彼は述べた。
「裁判所は、弁護士に対し、特に新しい法的問題においては、法的に独立した、そして疑問を持つ精神を発揮することを期待しています。チャットボットによる検証されていない調査結果を、ただオウム返しに繰り返すようなことは決してあってはならないのです」と彼は述べた。
ロドリゲス氏は、「私たちは、正義を追求する中で技術の自然な進歩に抵抗するような、ラッダイト（技術革新反対派）のような行動をとるべきではありません。言うまでもなく、こうした未知の領域を探求する際には、常にデューデリジェンスと厳密さが求められます」と述べた。
ChatGPTを法的調査に利用した事例は、先月、米国でメディアの話題となった。人身傷害訴訟の弁護士がChatGPTを使用して訴訟書類を作成したが、「人工知能ボットが偽の訴訟資料を作成し、弁護士はそれを裁判所に提出した」と、オンラインニュースサイトForbes.comが報じた。
この事件では、今回の事件とは異なり、引用された偽の判例がすでに裁判所に提出されていたため、裁判所は弁護士への制裁を検討していた。しかし、Forbes.comの報道によると、連邦検事は裁判所を誤解させる意図はなかったと主張し、さらに、弁護士は裁判資料の中で、これまでChatGPTを法的調査に使用したことはなく、「この技術については『大学生の子供たちから』知った」と説明していたと付け加えた。