この弁論要旨には、存在しない判例の引用も含め、約30件の誤りが散見されました。
MyPillowのCEOで選挙陰謀論者のマイク・リンデル氏の弁護士は、AI生成の誤りだらけの弁論要旨を提出したとして罰金を科されました。これは、AI技術は魅力的に見えるかもしれませんが、それでも実際に自ら努力することの代わりにはならないことを改めて示すものです。
コロラド州地方裁判所のニーナ・ワン判事は月曜日に罰金を言い渡した。マクスウィーニー・シンカー・アンド・カシューロフ法律事務所の弁護士、クリストファー・カシューロフ氏とジェニファー・デマスター氏が連邦民事訴訟規則に違反したと判断した。具体的には、ワン判事は両弁護士が「[AI報告書]に記載された請求、抗弁、その他の法的主張が現行法によって正当化されることを証明することは合理的ではなかった」と判断した。
そのため、カシューロフ氏と同法律事務所には3,000ドルの罰金が科せられ、デマスター氏にもさらに3,000ドルの罰金が科せられた。リンデル氏にとって幸運なことに、彼自身もMyPillow社も制裁を受けなかった。裁判所は、カシューロフ氏が業務で生成AIツールを定期的に使用していたことをMyPillow社に報告していなかったと指摘した。
AI使用に関する弁護士の弁護は説得力に欠ける
AIに関するこの弁論要旨は、裁判所がカシューロフ氏に文書の内容について質問した4月に初めて明らかになった。カシューロフ氏とデマスター氏は2月25日にこの弁論要旨を提出し、ドミニオン・ボーティング・システムズ（Dominion Voting Systems）の元従業員エリック・クーマー氏が提起した名誉毀損訴訟（Dominion Voting Systems）でリンデル氏を弁護していた。
しかし、裁判所は、この文書の中に約30件の不完全な引用箇所を特定しました。これには、引用された判例の誤引用、法的原則の誤った表現、判例を別の裁判所に誤って帰属させたもの、さらには存在しない判例の引用などが含まれますが、これらに限定されません。つまり、弁論要旨の大部分は、単に捏造されたものだったのです。
尋問を受けた弁護士らは、弁論要旨の作成にAIを利用した ことを認め、カシューロフ氏は、業務においてMicrosoftのCo-Pilot、GoogleのGemini、XのGrokなどのAIツールを日常的に使用していると述べた。しかし、弁護士らは、AIが生成したエラーがまだ修正されていない以前の草稿を誤って提出したと主張した。そのため、弁護士らは修正された弁論要旨の再提出を認めるよう求め、さらに、彼らに対する懲戒処分の可能性を却下するよう求めた。
今週、裁判所は、AIが作成した弁論要旨に関するカシューロフ氏とデマスター氏の説明に説得力が欠けているとして、恩赦の請求を却下した。
弁護士らは、提出前に弁論要旨の編集について議論した電子メールのやり取りを提出した。しかし、裁判所は、これらのやり取りにおける最終版は、最終的に提出した弁論要旨と「実質的に同一」であり、同様の誤りも含まれていたと指摘した。したがって、弁護士らはその後、誤りを取り除いた「正しい」文書を裁判所に提出したが、AIによる弁論要旨が最初に提出された時点でその文書が存在していたという証拠はない。
「端的に言えば、弁護側のやり取りも、彼らが確認した[弁論要旨]の『最終版』も、『正しい』バージョンの存在を裏付けるものではない」と王氏は記した。 「カシューロフ氏もデマスター氏も、生成型人工知能（AI）の使用や弁護士の重大な不注意がなければ、これらの引用がどのようにして弁論要旨の 草稿に記載されたのかについて、裁判所に一切説明していない。」
裁判所はまた、カシューロフ氏が指摘された際の「不可解なほど反抗的な口調と調子」にも言及したが、これによってカシューロフ氏には何のメリットもなかった。カシューロフ氏は、弁論要旨の事実誤認に関する裁判官の質問に「不意を突かれた」と主張したが、ワン氏は、弁護士が承認し、署名し、裁判所に提出した文書の内容について議論する用意があると期待するのは合理的だと考えた。
カシューロフ氏が、このAI弁論要旨の件は自身の通常の業務からの「明らかな逸脱」であると主張したが、これもまた反駁された。弁論要旨の誤りが発覚してからわずか1週間後、弁護士らは別の事件で同様の文書訂正をひそかに提出していたためである。
「これらの訂正は、提出された弁論要旨にも同じ種類の誤りがあり、存在しない判例の引用も含まれていることを示しています」とワン氏は指摘した。
リンデル氏の弁護士は、生成AIの罠に陥った最初の弁護士ではないが、残念ながら最後になる可能性も低い。近年、複数の法律専門家が人工知能を不適切に使用しているが、その多くはChatGPTやGoogle BardなどのAIツールによって作られた存在しない判例を引用している。