ニュージャージー州とミシシッピ州の連邦判事2人が今月、両判事がAIを用いて事実誤認の裁判文書を作成していたことを認めた。これらの文書には偽の引用や架空の訴訟当事者が含まれていたため、上院司法委員会の委員長から非難を浴びた。
チャック・グラスリー上院議員（アイオワ州選出、共和党）は月曜日の上院本会議場での演説で、「連邦裁判所でこのようなことは見たことも聞いたこともない」と述べた。
同委員会は木曜日、ミシシッピ州南部地区のヘンリー・T・ウィンゲート判事とニュージャージー州地区のジュリアン・ザビエル・ニールズ判事が、夏に誤りだらけの訴訟書類を作成する際にAIを使用していたことを認めたと発表した。上院の調査に対する判事らの回答書によると、両判事はそれぞれ法務書記官 とロースクールの研修生のミスによるものだとしている。
不完全な裁判文書はいずれも記録簿に載せられたが、被告からの指摘を受け、急遽撤回された。委員会から連絡を受けるまで、どちらの判事も誤りの原因を説明しなかった。
生成型AI（Generative AI）の利用は、米国の司法制度においてより一般的になってきている。ウィンゲート判事とニール判事は、AIを用いて誤りだらけの訴訟書類を作成したとして非難されてきた多くの弁護士や訴訟当事者に加わった。
法曹界は依然として対応に追われている。連邦裁判所制度を支援する米国裁判所行政局は7月に暫定ガイダンスを発行し、利用者に対し、司法機能において「AIの利用を開示すべきかどうか検討する」よう提言した。また、連邦裁判所におけるAIの利用に関する追加ガイダンスを発行するためのタスクフォースも設置した。
グラスリー上院議員は月曜日、連邦裁判所は訴訟におけるAIの利用に関する規則を策定する必要があると述べた。
「私はアメリカのすべての裁判官に対し、この問題を真剣に受け止め、各裁判官室における人工知能の悪用を防止するための措置を正式に講じるよう求めます」と彼は述べた。
ウィンゲート判事とニールズ判事は書簡の中で、誤りの報告を受けて是正措置を講じ、裁判所提出書類の提出前に追加の審査を実施すると述べた。ニールズ判事は、法務調査や裁判所提出書類の作成における生成AIの使用を禁止する明文の方針を判事室で制定したと述べた。
ウィンゲート判事はコメント要請に直ちに回答しなかっ た。ニールズ判事の事務所もコメントを拒否した。
1985年にロナルド・レーガン大統領によって判事に任命されたウィンゲート判事は、ジャクソン教師連盟などの支援団体がミシシッピ州教育委員会などの州機関を相手取って起こした訴訟を担当していた。この訴訟は、公立学校が人種、性別、性的指向に関する「トランスジェンダー思想」や「多様性研修」を教えることを禁じる州法に異議を唱えるものだった。
7月20日、ウィンゲート判事は州による禁止令の一部執行を差し止める仮差し止め命令を発令した。2日後、ミシシッピ州弁護士は、説明を求める申し立ての中で、ウィンゲート判事の命令には多くの誤りがあると述べた。
ミシシッピ州弁護士の回答によると、命令には複数の原告と被告の名前が記載されており、その中には大学の女子学生クラブ、ミシシッピ州在住の保護者、学生、政府関係者などが含まれていたが、彼らは訴訟の当事者ではなかった。弁護士によると、命令には原告の訴状には記載されていない主張が記載されており、法案が差し止められたと虚偽の引用がなされていた。また、命令には存在しない差し止め命令を支持する個人の宣言も引用されていた。
ウィンゲート判事の事務所は同日夜、修正された差し止め命令を発令し、当事者に対し以前の命令を無視するよう通告した。訴訟は現在も係争中であり、ウィンゲート判事は8月に法案に対する仮差し止め命令を発令したが、ミシシッピ州弁護士は控訴していた。
2021年にジョー・バイデン大統領によって任命されたニールズ氏は、製薬会社CorMedixが医薬品について投資家を欺いたとして提起された連邦証券 集団訴訟において、誤りを含む意見書を提出した。
6月30日、ニールズ氏はCorMedix側の訴訟棄却申し立てを却下した。約1か月後、CorMedix側の弁護士は、ニールズ氏の意見書には捏造された判例や、判決の根拠として引用された実際の判例からの存在しない引用が含まれていると書簡 に記している。ニールズ氏の意見書は、判例の結論や控訴棄却申し立てが認められたかどうかについて誤った記述をしている。また、CorMedixによる引用文が虚偽であるとも述べている。
ニールズ氏の意見は、別の集団訴訟の「補足証拠」としても提出されており、被告側もニールズ氏の提出書類に問題があったと書簡には記されている。
ニールズ氏は、この意見は誤って提出されたと主張し、裁判所の記録から削除した。この訴訟は現在も係争中である。
両判事の命令における誤りは、AIの幻覚によって引き起こされたものと似ていました。生成型AIは、文章の内容を分析して単語の連続性を予測することで文章を生成しますが、自信満々に事実や偽の引用を捏造します。そして、観察者たちはすぐに推測[し、これらの誤りはAIの使用に起因すると推測しました。
当初、弁護士や訴訟当事者からの質問に対し、どちらの判事もこれらの誤りがAIに関連するものであることを認めませんでした。グラスリー上院議員は月曜日の演説で、その「透明性の欠如は…息を呑むほど だ」と述べました。
上院司法委員会は10月初旬、ニールズ判事とウィンゲート判事に書簡を送り、これらのミスについて問い合わせたと発表しました。両判事は回答の中で、これらのミスはAIに起因するものだが、提出書類は審査前に誤って公開された草稿だったと述べています。
ウィンゲート判事によると、ウィンゲート判事の事務所の事務員は、裁判所の訴訟記録に関する公開情報を統合するための「基礎的な起草アシスタント」として、Perplexity AIツールを使用していたとのことです。ニールズ判事のロースクールのインターン生は、法的調査を行うためにChatGPTを使用していたとニールズ判事は述べています。
（ワシントン・ポスト紙は、PerplexityおよびChatGPTの開発元であるOpenAIと提携しています。）
「私は非常に忙しい訴訟記録を管理しており、公正かつ透明性のある方法で司法を執行することで、国民の信頼を維持するよう努めています」とウィンゲート判事は述べています。「私自身とスタッフに最高の行動基準を課しているので、今回のようなミスが将来起こるとは考えていません。」
「CorMedix事件での私の経験は非常に残念で予測不可能なものだったが、少なくともそれが[裁判所行政局]タスクフォースの継続的な作業に役立ち、最終的にはすべての連邦裁判所にとって意味のある新しい政策につながることを期待している」とニールズ氏は記した。