エスケル刑事裁判所は水曜日、6月4日にカルロス・ロヘリオ・リチェリ判事が言い渡したラウル・アメリオ・パヤレフ被告に対する懲役2年6ヶ月の判決を、職権で無効とする決定を下した。
無効の理由は、アルゼンチン司法制度において前例のないものである。判事が判決文中に、判決文の一部に生成型人工知能（AI）アシスタント（おそらくChatGPT）が使用されたことを明らかにする文言を誤って記載してしまったためである。
問題の文言は、決定事項に関するセクションに記載されており、「以下は、引用文献なしで再編集された第4点であり、コピー＆ペースト可能です」とそのまま記載されていた。この誤りにより、カリーナ・エステ ファニア判事、マルティン・ザッキーノ判事、エルナン・ダル・ヴェルメ判事は、判事が自動化ツールを認識せずに、あるいはその内容に対する適切な人間による制御を行わずに使用していたことに気付いた。
「この証拠（「カット・アンド・ペースト」）は、文章のどこまでが生成AIによるもので、どこまでが裁判官によるものかを判断するにはあまりにも大きな隔たりを残している」と裁判官は判決で述べ、この行為は司法判断を自動化システムに委ねることの禁止を危うくし、自然裁判官の原則に違反すると強調した。
裁判所は、リシェリ氏が技術支援によって生成されたコンテンツに対して義務的な人間による監視と管理を行っておらず、さらにAIの引用を認めずに判決に署名したことを理解した。
裁判所は、ツールに何を要求したかの追跡可能性と記録が欠如しているため、裁判官の判断理由を再構築することは不可能であり、「判決は単なる独断的、あるいは根拠のない回答に等しい」と強調した。
これらの理由から、裁判官は判決とそれに先立つ審理の両方を無効とし、別の裁判官の参加を得て審理をやり直すよう命じた。同時に、裁判官らは、リチェリ氏の行為が倫理的および懲戒的な観点からどのような影響を及ぼしたかを調査するため、本件をチュブト州高等裁判所（STJ）に付託するよう命じた。
「生成型人工知能（GAI）の不適切な使用は、本件において深刻な結果をもたらし、訴訟当事者、国民全体、そして司法へのアクセスと効果的な司法保護を保障する責任を負う国家に影響を与えた」と、高等裁判所の判決は述べている。
裁判官らは、倫理違反の可能性 に加え、裁判官がSTJ自体の全体合意第5435号に定められた守秘義務規則に違反した可能性があると指摘した。この規則は、司法情報のデジタル処理において、当事者、証人、専門家の身元を保護することを義務付けている。オンラインアシスタントの使用は、個人情報や機密情報を司法制度外の環境で公開することにつながる可能性があった。
この状況は、本件にとどまらず、AIツールが司法業務にどの程度干渉できるのかという議論を巻き起こしている。文書作成支援や判例分析のための人工知能の利用は、様々な司法制度において広がりを見せていますが、偏見、不透明性、そして検証可能な正当性の欠如といったリスクがあるため、司法判断を自動化システムに委ねることはできないという点で専門家の意見は一致しています。
エスケル事件は、アルゼンチンの司法制度において懲戒処分を伴った初めての事例であり、司法分野における人工知能の倫理的・技術的限界に関する議論を再燃させました。
チュブト州高等裁判所がリチェリ判事の行為を分析する中で、この事件は、公共の意思決定プロセスにおけるこれらのツールの責任ある使用に関する先例となるでしょう。
リチェリ判事とは？
人工知能の誤用に関するこの疑問が浮上する以前から、カルロス・ロジェリオ・リチェリ判事はチュブト州の刑事司法制度において輝かしい経歴を積んでいました。
リチェリ氏は、チュブト治安判事評議会による競争入札を経てエスケル刑事判事に選出され、その結果は議会に提出され、承認を得ました。2023年3月1日、エスケル司法庁で行われた式典で正式に就任しました。
裁判所に入職する前は、エスケルの検事総長を務め、サイバー犯罪専門チームのメンバーとして、高度な技術的複雑性を伴う事件の捜査経験を有していました。また、刑事手続きにおける技術的側面への関心を反映し、訴訟およびデジタル証拠に関する講座も担当しています。
判事在任中、リチェリ氏は、87歳の退職者を狙った数百万ドル規模の「信用詐欺」詐欺で兄弟2人とその母親が有罪判決を受けた事件や、高等裁判所の判事に対する訴状却下の検察官による支持を確定させた判決など、注目を集めた事件を担当しました。この判決では、関係する弁護士に対し厳重な警告を行いました。
一部の人々は、他の裁判官が辞任した複雑な事件を引き受けたとして彼を称賛したが、一方で、彼の管轄外の事件に介入したとして批判した。
いずれにせよ、彼がテクノロジーの訓練を受けた法学者であるという経歴を持つという事実は、人工知能の悪用をめぐる法的論争の中心に彼を位置づける今回の出来事を、より一層印象深いものにしている。