メルボルン（オーストラリア）（AP通信）-- オーストラリアのベテラン弁護士が、殺人事件の陳述書にAI（人工知能）が生成した偽の引用文や存在しない判決文が含まれていたとして、裁判官に謝罪した。
ビクトリア州最高裁判所でのこの失態は、世界中でAIが司法制度に引き起こした数々の不祥事の一つに過ぎない。
AP通信が金曜日に閲覧した裁判所文書によると、権威ある国王顧問弁護士の称号を持つリシ・ナスワニ弁護士は、殺人罪で起訴された10代の少年の事件で陳述書に誤った情報を提出したことについて「全責任」を負った。
「起きたことについて深くお詫びし、恥ずかしく思っています」と、ナスワニ氏は水曜日、弁護団を代表してジェームズ・エリオット 判事に述べた。
AIが生成したエラーにより、エリオット判事が水曜日に終結を期待していた事件の解決が24時間遅れた。エリオット判事は木曜日、ナスワニ氏の依頼人（未成年のため身元は明らかにできない）は、精神障害を理由に殺人罪で無罪となる判決を下した。
「控えめに言っても、今回の事件の展開は不満足です」とエリオット判事は木曜日に弁護士らに述べた。
「裁判所が弁護士の陳述の正確性に依拠できることは、正当な司法の運営の基本です」とエリオット判事は付け加えた。
偽造された提出書類には、州議会での演説からの捏造された引用や、最高裁判所の判例と称する存在しない引用が含まれていた。
これらの誤りはエリオット氏の同僚によって発見されたが、彼らは当該判例を見つけることができず、弁護側にコピーの提出を求めた。
裁判所の文書によると、弁護士らは引用が「存在しない」こと、そして提出書類には「架空の引用」が含まれていることを認めた。
弁護士らは、最初の引用が正確であることを確認した上で、他の引用も正しいと誤って想定していたと説明した。
提出書類は検察官のダニエル・ポルセドゥ氏にも送付されたが、ポルセドゥ氏はその正確性を確認しなかった。
判事は、最高裁判所が昨年、弁護士によるAIの利用方法に関するガイドラインを発表したことを指摘した。
「AIの利用は、その利用によって得られた成果が独立して徹底的に検証されない限り、容認できない」とエリオット氏は述べた。
裁判所の文書には、弁護士らが使用し た生成型AIシステムが特定されていない。
2023年に米国で起きた同様の事件では、連邦判事が、航空事故による負傷の賠償請求において虚偽の法的調査を提出したとしてChatGPTが非難された後、2人の弁護士と1つの法律事務所に5,000ドルの罰金を科しました。
P・ケビン・カステル判事は、彼らは悪意を持って行動したと述べました。しかし彼は、AIツールが彼ら自身や他者に偽の法廷記録を捏造させ、議論の材料にしてしまうのを防ぐために、より厳しい制裁は必要なかったと説明した彼らの謝罪と是正措置を評価した。
同年後半、ドナルド・トランプ米大統領の元個人弁護士マイケル・コーエン氏の弁護士が提出した訴訟書類には、AIによって捏造されたさらなる虚偽の判決が引用されていた。コーエン氏は、法的調査に使用していたGoogleツールが、いわゆるAI幻覚も生み出す能力があることに気づいていなかったとして、責任を認めた。
英国高等法院判事のビクトリア・シャープは6月、偽の資料を本物であるかのように提供する行為は法廷侮辱罪、あるいは「最も悪質なケース」では司法の妨害罪とみなされ、最高で終身刑が科される可能性があると警告した。