2人の連邦判事は、職員による人工知能（AI）ツールの使用が誤った判決の原因であると非難し、自らの名義で発行された文書を職員がどの程度精査しているのか疑問を呈した。
ニュージャージー州のジュリアン・ニールズ とミシシッピ州のヘンリー・ウィンゲート の連邦地方判事は、連邦裁判所行政局宛ての書簡の中で、AIの欠陥を認めた。上院司法委員会のチャック・グラスリー委員長（アイオワ州共和党）の質問に応えて10月20日と21日に送付された2通の書簡をブルームバーグ法律事務所が精査した。
フォーダム大学ロースクールのブルース・グリーン教授は、これらの誤りは司法への懸念を生じさせており、生成型AIの登場によっても免責されるものではないと述べた。「裁判官の言い訳は、裁判官が判決草案を定期的に公表しているかどうかという疑問を提起する」とグリーン教授は述べた。
誤った判決とそれに対する裁判官の対応は、裁判官自身が弁護士に課してきたのと同様の、AI利用の監視に対する監視を裁判所が受けることを予期できることを示している。複数の弁護士が、提出書類作成におけるAIの不適切な使用により制裁を受けている。
ニールズ判事は書簡の中で、自身の事務所に所属するロースクールのインターン生がChat GPTを使用して法的調査を行い、その結果、6月30日付の命令書に存在しない判例の引用が含まれていたと述べた。インターンはAIツールを使用する際に、機密情報や非公開情報にアクセスできなかったとグリーン教授は述べた。
ウィンゲート判事は、判事の法務書記官がAIツール「パープレキシティ」を起草の補助として使用した結果、7月20日付の仮差し止め命令が下されたと述べた。この命令では、事件とは無関係の当事者、申し立て、引用が言及されていた。ウィンゲート判事は、法務書記官が事件に関する機密情報や非公開情報をパープレキシティに入力していなかったと述べた。
「これは 本来訴訟記録に載せるべきではない草稿だった」とウィンゲート判事は記し、「これは間違いだった」と付け加えた。さらに、「草稿意見を最終審査プロセスにかけなかった」とも付け加えた。
両判事は木曜日、コメント要請に応じなかった。
司法の説明責任
ニューヨーク大学ロースクールのスティーブン・ギラーズ教授は、AIで起草されたか従来の調査によるものかに関わらず、判事は判決文中の引用が真実であることを確認する責任があると述べた。
「判事は引用する判例を読まなければならない」とギラーズ教授は述べた。 「裁判官が判例を引用する場合、それがAIによるものであれ、事務官による従来の調査によるものであれ、裁判官はその判例を読むべきです。」
フォーダム大学法・倫理センター所長のグリーン氏は、判事たちのミスは、検証されていない草稿をどれほど頻繁に記録しているのかという疑問を提起すると述べた。「稀なケースで、二人の判事が誤って判決草稿を公開し、その草稿が生成AIを誤用していたというのは、単なる信じられない偶然だったのでしょうか？」
ウィンゲート判事は書簡の中で、今後、ウィンゲート判事の法廷で提出されるすべての判決草稿は、提出前に別の事務官による独立した審査を受けなければならないと述べた。また、命令で引用されるすべての判例には、その判例のプリントアウトを添付しなければならないとも述べた。
ニールズ判事は、インターンによるChatGPTの使用は、法務調査および命令草稿作成における生成AIの使用を禁じる法廷の方針に違反していると述べた。以前は口頭での合意だったこの方針を、今では文書化したと述べた。
「私は法廷で予防措置を講じてきました」と彼は述べた。
しかし、AI――「有用な調査ツール」――を禁止するのは過剰反応だとギラーズ氏は述べ、特に法務実務におけるAIの利用がいかに一般的になっているかを考えるとなおさらだと述べた。
「裁判官が言うべきことは、AIの使い方を学び、慎重に使うことです」と彼は述べた。「いかなる状況下でもAIの使用を禁じる裁判官は見当違いです」
上院の調査
グラスリー上院議員は、両裁判官が、これらの訴訟の弁護士が問題視していた判決を取り消し、差し替えた後、調査を開始した。グラスリー議員は、訴訟当事者の権利が新技術によって踏みにじられないよう裁判所に求める以外に、具体的な勧告はしていない。
「司法府は、より明確で、意義深く、永続的なAIに関する政策とガイドラインを策定する必要があります」とグラスリー議員は声明で述べた。 「怠惰、無関心、あるいは人工的な支援への過度の依存によって、司法の誠実性と事実の正確性に対するコミットメントが覆されることは許されない。」
判事たちは、グラスリー議員の質問に対する回答書簡を、米国裁判所行政局長であり、ノースカロライナ州西部地区連邦地方裁判所の元判事であるロバート・コンラッド氏に送付した。コンラッド氏の事務所は、司法と議会議員の間の連絡役を務めている。
コンラッド判事は書簡の中で、今年初めに招集したタスクフォースによるAI活用に関する勧告を盛り込んだ。暫定ガイダンスは、特に新しい法的問題に関しては、事件の審理など「司法の中核機能をAIに委任することに対して警告」 している。
ガイダンスはまた、AIが生成したすべての出力をユーザーが独自に検証すべきであるとし、「裁判官、司法のユーザー、そしてAIの利用を承認する者は、AIの支援を受けて行われたすべての作業に対して責任を負うことを改めて認識している」と述べている。
米裁判所の行政当局はコメント要請に直ちには応じなかった。