連邦判事は、生成型人工知能（GAI）の使用に誘惑される可能性のある弁護士に対し、新たなメッセージを送った。「常に自分の仕事をチェックせよ」というものだ。
コロラド州連邦地方裁判所のニーナ・Y・ワン判事は月曜日に下した判決で、2020年大統領選挙に関する陰謀論を拡散したことで知られるMyPillowの創設者、マイク・リンデル氏の弁護を担当する2人の弁護士に制裁を科した。
ワン判事によると、2月にリンデル氏を相手取った名誉毀損訴訟において、弁護士らは「約30件の不完全な引用」を含む法廷弁論要旨を提出した。その内容は裁判例を誤って引用し、法原則を歪曲し、そして「最もひどいことに」「存在しない判例」を引用していたとワン判事は記している。
ワン判事は、弁護士のクリストファー・I・カシューロフ氏とジェニファー・T・デマスター氏が、「生成型人工知能の使用や弁護士の重大な不注意がなければ」、どのようにしてこのような誤りが提出書類に生じたのかを説明していないと述べた。
判事は、弁護士に対し、裁判所への提出書類における主張が法律に基づいていることを証明することを義務付ける連邦規則に両氏が違反したと判断した。判事は両氏にそれぞれ3000ドルの罰金を科し、「本件において弁護人を抑止し処罰するのに十分な、最も軽い制裁」だと述べた。
カシューロフ氏とデマスター氏は、罰金に関するコメントを求めるメッセージに対し、火曜日に直ちに回答しなかった。
4月の審理で、ワン判事はカシューロフ氏に対し、誤りを含む裁判所への提出書類は生成型人工知能によって生成されたものかどうかを尋ねた。
裁判所の文書によると、カシューロフ氏は「当初はそうではありませんでした」と答えた。 「最初は自分でアウトラインを作成し、申立書の草稿を作成し、それをAIに通しました。」
ワン判事はカシューロフ氏に対し、提出書類の引用文献を二重チェックしたかどうかも尋ねました。
裁判所の文書によると、ワン判事は「裁判長、私自身は確認していません。確認されなかった責任は私にあります」と述べました。
カシューロフ氏は後に裁判所の文書で、判事の質問に「全く驚かされた」と述べています。
「共同弁護人と私はAIによる法的調査に頼らず、徹底的に引用文献をチェックした最終書類を準備していたため、何が起こっているのか理解できませんでした」とカシューロフ氏は述べました。
しかし、共同弁護人のデマスター氏は、彼らが「慎重に引用文献をチェックし、編集した」最終版ではなく、裁判所への提出書類の草稿を「誤って提出した」と述べています。カシューロフ氏によると、彼女が文書をアップロードした当時、彼はメキシコで休暇中であり、インターネットへのアクセスが限られていたという。
カシューロフ氏は、自身の主張や相手方の主張を分析するためにAIプログラムを使用することは多いものの、「法的調査や判例検索にAIを頼っているわけではない」と付け加えた。
「特定の訴答でAIを使用するかどうかに関わらず、提出前に必ず引用文献の検証を行っている」と付け加えた。
デマスター氏は4月の自身の提出書類の中で、裁判所への提出書類の草稿を最終版だと思い込み、誤ってアップロードしてしまったと述べている。
「誤ったバージョンを提出したこと、そしてこのことが裁判所と当事者に迷惑をかけたことについて、裁判所に心からお詫び申し上げます」と彼女は記した。「これは故意に、裁判所を誤解させる目的で、悪意を持って、あるいは不正な目的で行ったものではありません。」
ワン判事は月曜日の判決文で、矛盾する記述と裏付けとなる証拠の欠如を考慮すると、提出書類が「単なる不注意による誤り」であるとは納得できないと述べた。
リンデル氏は先月、名誉毀損訴訟で敗訴し、ドミニオン・ボーティング・システムズの元従業員であるエリック・クーマー氏に230万ドルの損害賠償を支払うよう命じられた。裁判所の書類によると、クーマー氏はリンデル氏から「アメリカ合衆国の裏切り者」と呼ばれたと非難し、当局に出頭すべきだと訴えていた。
今回の制裁は、弁護士、学生、教師、ジャーナリストなどが、AIの計り知れない力を適切に活用しつつ、作成する作品の独創性と正確性を確保する方法を模索する中で行われた。
アメリカ法曹協会は、昨年、弁護士向けの生成AIの利用に関する最初の倫理ガイダンスにおいて、多くの弁護士が法律サービスの効率性と質を向上させるためにAIツールを活用していると指摘しました。
しかし、同協会は、こうしたツールへの「無批判な依存」は「依頼人への不正確な法的助言や、裁判所や第三者への誤解を招く表現につながる可能性がある」と警告しました。
弁護士は、依頼人に対して適切な弁護を行う義務に違反していないことを確認するため、AI生成コンテンツについて「適切な程度の独立した検証またはレビュー」を行うべきだと述べています。
先月、イングランドとウェールズの高等法院は、一連の訴訟で存在しない引用や判決が捏造されたことを受けて、人工知能によって生成された虚偽の資料を提示した弁護士は刑事訴追を受ける可能性があると警告した。