エスケル刑事裁判所は、裁判官が人間の監視や追跡可能性なしに生成型人工知能を使用し、憲法および倫理原則に違反していたことを明らかにした後、単純窃盗罪の有罪判決を覆しました。
エスケル刑事裁判所は、2025年6月4日に下された「PROVINCE OF CHUBUT v. P.R.A.」事件の判決を覆し、裁判官が監視や透明性なしに生成型人工知能を使用して判決の一部を起草したと判断しました。
裁判所は、証拠問題の解決におけるAIの使用は、司法判断の追跡可能性の監視や、判決の人間による作成の保証を不可能にするため、適正手続きに違反すると判断した。
覆された判決は、弁護側が疑問視したビデオ映像と専門家の証言に基づき、被告人を単純強盗罪で実質的懲役2年6ヶ月に処するものであった。
エルナン・ダル・ヴェルメ判事、マルティン・エドゥアルド・ザッキーノ判事、カリーナ・パオラ・エステファニア判事は、判決にはAIの直接的な使用を裏付ける「以下は、引用文献を削除し、コピー＆ペースト可能な状態に再編集したポイントIVである」という文言が含まれていたため、正当な根拠を欠くという点で一致した。
「この文言は、裁判官が、文章作成、計画、学習、アイデアの探求といったタスクを実行するために使用されるタイプの生成型人工知能（AI）アシスタントを使用したことを客観的に示している。このアシスタントは、テキスト、画像、動画など、多様な情報源からの情報を処理・理解し、学習に重点を置いて動作する能力を特徴としている」と裁判官らは述べた。
そして裁判官らは、危機解決の中心的な側面、すなわち本件における重要な2つの証拠の無効性に関する判決において、裁判官がまさに生成型AIを使用したことを強調する。
裁判官らは、「アシスタントが提供したテキスト全体をコピーしたという事実は、少なくとも、裁判官が義務付けられている人間による監督と管理を適切に行わなかったことを示している」と判決を下した。
司法におけるAIの濫用
判決において、裁判官らは、裁判官が生成型AIアシスタントと交わした可能性のある会話について懸念を表明し、*「確かに、もしその文言が書かれていなかったら、裁判官が事件解決のためにAIを用いたこと、そしてそれに伴うあらゆる重大性について、我々は決して 発見することはなかっただろう。なぜなら、私が主張してきたように、AIは裁判官の知的活動を代替するのではなく、その発展を支援するために設計された補完的なツール**であり、透明性と監視の原則は、判決において提供された支援を記録することを義務付けているからだ。」*と述べています。
また、裁判官らは、司法分野におけるAIの濫用についても警告し、書き起こされた文章は、*「**下級裁判所が判決を委任した可能性、すなわち判決を無効と宣言する根拠となるすべての状況について懸念を抱かせる」*と指摘しています。これは、刑事訴訟法第164条の規定に基づくものです。
最後に、AIの使用と判決の根拠について、裁判所は、ツールの使用とその目的が文書化されていないため、必要な支援の程度を検証できず、結果として当事者が裁判官の判断の追跡可能性を監視できないと述べた。
そのため、裁判所は事件を別の刑事裁判官に再割り当てするよう命じ、検察庁が前回の裁判で省略されたビデオを新たな裁判で提示することを禁じ、AIの濫用を調査するため、審理を高等裁判所に付託した。