レポート 5313

全米の法廷で、憂慮すべきほどお馴染みのパターンとなっている、AIツールによって生成された存在しない法廷引用を含む弁論要旨を提出した弁護士の事例が新たに2件発生しました。

この時点で、法曹界に「次のAI幻覚の見出しにならないために」と題された、必須の継続法務教育コースが必要なのではないかと疑問に思う人もいるでしょう。

さらに憂慮すべきなのは、これらの事例の1つが、訴訟能力の高さで知られる大手国際法律事務所に関係している点です。

AI生成研究に対する制裁

直近の2件の訴訟のうち最初の訴訟は、カリフォルニア州中部地区連邦地方裁判所において提起されました。Ellis George LLPとK&L Gates LLPの弁護士は、多数の虚偽の引用を含む弁論要旨を特別マスター判事Michael Wilnerに提出しました。

弁護士は、弁論要旨の概要作成と作成にあたり、CoCounsel、Westlaw Precision、Google GeminiなどのAIツールを利用していました。

エリス・ジョージの弁護士、トレント・コープランド氏は、これらのAIツールを用いてアウトラインを作成し、K&Lゲイツの弁護士を含む同僚と共有したことを認めたが、AIの出所について言及したり、引用文献を確認したりすることはなかった。同僚たちは、捏造された判例を最終弁論要旨に組み込んだが、確認はしなかった。

特別マスターが当初、2つの疑わしい引用文献について質問した際、弁護士らは「修正」版を提出した。K&Lゲイツのアソシエイトは、特別マスターに対し誤りの発見に感謝し、修正された弁論要旨の引用文献が「修正され、更新された」ことを保証した。

問題は、修正された弁論要旨にも、AIによって生成された少なくとも6つの誤りが残っていたことだった。弁論要旨の中で、弁護士らは10ページの弁論要旨に含まれる27件の法廷引用文献のうち、約9件に何らかの誤りがあり、その中には全く存在しない2件の判例も含まれていたことを認めた。

ウィルナー特別判事は言葉を濁さず、弁護士らが「集団的に悪意に等しい行動をとった」と判断した。彼は、最初に弁論要旨を作成した弁護士が、AIの正確性を検証することなくAIに依拠し、その後、その「不確かなAIの出所」を開示せずに同僚に弁論要旨を送付したことを厳しく非難した。

また、K&Lゲイツ法律事務所の弁護士らも厳しく非難し、偽造引用の通知を受けたにもかかわらず、送付された調査資料（当初の弁論要旨と、いわゆる修正された弁論要旨の両方）の妥当性を確認しなかったことを「極めて遺憾」だとした。

その結果、特別判事は制裁を科すことを決定した。具体的には以下のとおりである。

• 弁護士らの補足弁論要旨の全版を却下する。
• 弁護士らが求めていた証拠開示の免除を却下する。
• 両法律事務所に対し、被告の弁護士費用として31,100ドルを共同で支払うよう命じる。
• 依頼人への事案の開示を求める。

ウィルナー氏はこの状況を「恐ろしい」と呼び、「引用された判例に説得され（あるいは少なくとも興味をそそられ）、詳細を知るために判決を調べたが、実際には存在しないことが判明した。これは恐ろしい。（私の見解では）もっと恐ろしい結果、つまり偽の資料を司法命令に含めるという事態に陥るところだった」と述べた。

トロントにおける架空の引用

トロントでは、Ko v. Li事件において、弁護士のジス・リー氏は、オンタリオ州高等裁判所のフレッド・マイヤーズ判事が、彼女の提出した法的事実資料に、実際には存在しない2つの判例の引用が含まれていることを発見し、窮地に立たされた。

裁判官がリー氏にこの点について、そして彼女がファクトムの作成にAIを利用したかどうかを尋ねたところ、彼女は通常はAIを利用していないが、事務員に確認すると答えた。彼女は、当該事件の正しい引用文献やコピーを提供することはできなかった。

審理後、裁判官はファクトムを再度精査し、さらに2つの誤った引用文献を発見した。1つは存在しない事件への引用であり、もう1つは引用された事件とは反対の主張をしている事件への引用であった。

「リー氏のファクトムはAIによって作成された可能性があり、ファクトムを提出し、法廷で依拠する前に、リー氏は当該事件が実在するか、あるいは書面と口頭で裁判所に提出した法理を裏付けているかどうかを確認しなかった可能性がある」と裁判官は結論付けた。

「判例の典拠として裁判所に提出する前に、事件を読むのは弁護士の義務であることは言うまでもない」と裁判官は続けた。 「弁護士の義務は、最低限、存在しない判例や、弁護士の提出した判例と正反対の判例を提出しないことです。」

その結果、裁判官は弁護士に対し、法廷侮辱罪で召喚されるべきでない理由を示すよう命じました。「弁護士が望むのであれば、何が起こったのかを説明する証拠を提出する公正な機会が与えられます。」

弁護士はいつ学ぶのか？

制裁、公的な非難、そして司法からの警告が山積しているにもかかわらず、弁護士はAIが生成した幻覚を裁判所に提出し続けています。これは、弁護士会の倫理に関する意見、司法からの警告、そして仮想図書館を埋め尽くすほどのリーガルテックに関する記事があるにもかかわらず起こっています。

このメッセージが浸透するまでに、あと何人の裁判官が制裁を科す必要があるのでしょうか。AIツールはブレインストーミングには役立つかもしれませんが、伝統的な法的調査や、実際に引用文献を確認するという昔ながらの慣習に取って代わるものではありません。

弁護士がこのメッセージを理解するまで、AI幻覚による恐怖話は今後も続くと予想されます。さて、来月の見出しは「AIが偽の訴訟を作成した弁護士、またもや処罰」となるでしょう。