南アフリカのジュニア・アドボケイトが、法廷提出書類の作成に人工知能ツールを頼りにしていたが、虚偽の判例を書面に記載していたため、法律実務評議会に調査を委託された。この事件は、ラッパ・リソーシズ社をノースバウンド・プロセッシング社に売却したことに関連するライセンスをめぐる紛争で、生成AIの悪用をめぐる同国で最も顕著な訴訟の一つとなっている。
ノースバウンド・プロセッシング社は、南アフリカダイヤモンド・貴金属規制当局に対し、精錬ライセンスの解除を緊急に求め、ライセンスがなければ深刻な商業的損失に直面すると主張していた。裁判所は最終的にノースバウンド社に有利な判決を 下したが、ノースバウンド社の弁護団が提出した弁論要旨の中に、存在しない複数の判例引用を発見したDJ・スミット判事代理は、この件を法規制当局に付託した。
「私の見解では、こうした事件が口頭で提示されたのではなく、書面の論点表に記載されていたことは問題ではない」とスミット判事は判決文で述べた。「書面の論点表は、弁護士の主張を記録する上で口頭弁論と同じくらい重要であり、純粋に実務上の理由から、裁判官は書面の論点表をより重視することが多い。」
若手弁護士、AIツールの使用を認める
尋問に対し、若手弁護士は、南アフリカの判例法に基づいて学習されたと謳われているAIツールであるLegal Geniusを使用したことを認め、誤りは時間的制約と、当初文書を起草した同僚が不在だったことに起因すると説明した。彼は裁判所を誤解させる意図はなかったと主張しつつ、惜しみなく謝罪し、全責任を負った。ノースバウンドのシニアカウンセル、アーノルド・スベル氏も謝罪し、文書については「妥当性確認」を行ったに過ぎず、主張内容は陳腐だと考えていると述べた。
法務実務におけるAIに関するより広範な警告
デジタル・テクノロジー法律事務所、ミカルソンズ・ジャイルズ社のアソシエイト、レフィルウェ・モツォネング氏は、この事件は、法廷で検証されていないAI生成コンテンツがもたらす法的および倫理的リスクを浮き彫りにしていると指摘した。
「この事件は、すべての法的情報源を引用する前に、独立して検証するという倫理的義務を改めて認識させるものです。AIによる意図しない『幻覚』でさえ、評判を損ない、職務上の不正行為の訴えにつながる可能性があります」とモツォネング氏は述べた。
「AIによる幻覚は、適切な法的調査や専門家による監督に取って代わるものではありません。裁判所は、特に書面による提出が求められる緊急の申請においては、高い基準を求めています」とモツォネング氏は付け加えた。
南アフリカの裁判所で増加している傾向の一部
南アフリカにおいて、大規模言語モデルが裁判所への提出書類に虚偽の法的引用文を記載していたことが判明した事例は、これで3件目となります。
-
2023年、区分所有権制度の法定代理人がChatGPTの虚偽の権限を引用し、懲罰的費用命令を受けました。
-
2025年、別の事件において、エルシェ＝マリー・ベズイデンハウト判事は、ウムボティ市長ゴッドフリー・マヴンドラ氏の控訴における9件の引用文のうち、正当と認められたのは2件のみでした。同判事はこの事件を「無責任で全く非専門的」と評し、法律実務評議会に付託しました。
スミット判事もこの判決に同調し、司法行為規範第16条(1)を引用しました。同条項は、判事に対し「重大な職務上の不正行為または重大な無能」を関係当局に報告する義務を課しています。
焦点となる法的原則の明確化
AIをめぐる論争に加え、裁判所の判決は重要な規制上の論点も確認しました。それは、規制当局がライセンスを発行し、伝達した場合、適切な法的手続きを踏まずに一方的に差し止めることはできないという点です。
「裁判所で正式に異議が申し立てられ、取り消されない限り、決定は有効であり、それ に基づいて行動しなければなりません。これは、政府のライセンスや承認に依存して事業を展開するあらゆる企業にとって重要です」とモツォネン氏は述べています。
この事件は、訴訟において生成AIを試行する法律専門家にとって、警告となる前例となる可能性があり、デジタル法務実務における厳格な情報源検証と明確な専門的境界の必要性を改めて認識させるものとなるでしょう。