- 連邦判事は、マイク・リンデル氏の弁護士に対し、AI生成の申立てに約30件の不完全な引用と存在しない判例参照を含むとして、それぞれ3,000ドルの罰金を命じた。
- 主任弁護士は、適切な検証を行わずにAIに申立て草案を流用し、引用を検証できなかった共同弁護士に事実確認を委任したことを認めた。
- 裁判所の判決は、法律専門家がAIの能力基準と法律事務所向けの適切な迅速なエンジニアリングプロトコルを確立する必要性を強調した。
連邦判事は、AIの悪用による危険性について法律専門家に厳しい警告を発し、MyPillowのCEOであるマイク・リンデル氏を代理する弁 護士2名に対し、存在しない判例参照を含むAI生成の誤りだらけの裁判所文書を提出したとして、それぞれ3,000ドルの罰金を科した。
米国連邦地方裁判所のニーナ・Y・ワン判事は月曜日、リンデル氏の名誉毀損訴訟において、クリストファー・カシューロフ氏とジェニファー・デマスター氏が約30件の虚偽または不完全な引用を含む申立てを行ったことは裁判所規則に違反するとの判決を下した。弁護士が適切な安全策を講じず、またその限界も理解しないままAIツールに頼るケースが増えていることから、今回の制裁は法務実務における危機の深刻化を浮き彫りにしている。
この不完全な申立ては、ドミニオン・ボーティング・システムズの元セキュリティディレクター、エリック・クマー氏がリンデル氏とその関連会社を相手取って起こした、物議を醸した名誉毀損訴訟から明らかになった。クマー氏は、リンデル氏が不正選挙に関与したという噂を流布して名誉を毀損したと主張し、2024年6月に陪審は230万ドルの損害賠償を認めた。これはクマー氏が求めていた6270万ドルには遠く及ばないものの、それでも大きな勝利と言える。
この訴訟は、2020年の選挙でクマー氏がジョー・バイデン氏に有利になるように投票システムを操作したという主張をリンデル氏が広めた役割をめぐって争われた。クマー氏によると、これらの主張は殺害予告につながり、彼は身を潜めざるを得なくなり、最終的には選挙警備員としてのキャリアを失ってしまったという。
この法廷での悲劇は、カシューロフ氏が2025年2月25日に、一見標準的な反対申立てを提出したことから始まった。しかし、公判前審 理でワン判事が多数の引用誤りを疑問視した際、懸念すべき点が浮かび上がった。
裁判所からの直接尋問に対し、カシューロフ氏は「最初はそうではありませんでした。最初は自分でアウトラインを作成し、申立書の草稿を作成し、それをAIに通しました」と、不利な事実を認めました。王氏が検証についてさらに追及し、「AIに通した後、引用文献を二重チェックしたのか」と尋ねると、カシューロフ氏の返答は衝撃的でした。「裁判長、私は個人的に確認していません。確認されなかった責任は私にあります」
さらに懸念されるのは、カシューロフ氏が、誤りだらけの文書は誤って提出された、つまり「草稿」版であると主張したことです。しかし、王判事は、彼が提出しようとしていたとされる「最終版」にも、さらに重大な誤りが含まれていると判断しました。これは、品質管理手順が完全に崩壊していることを示唆しています。
法曹界では、AIによる「幻覚」とは、言語モデルが事実、引用、または引用文を捏造し、一見すると真実のように見えるものの、実際には全くの虚偽である状況を指します。一般の誤解とは異なり、これらの幻覚はバグではなく、真実を理解せずに人間の推論を模倣しようとする生成モデルの既知の特徴です。
AIを使用する弁護士は、AI生成コンテンツは最終的な法廷提出用資料としてではなく、せいぜい下書きとして扱うべきであることを理解する必要があります。リンデル氏の弁護士による基本的な検証の欠如は、デューデリジェンスの欠如だけでなく、AIとは何か、何ではないのかを理解しきれていないことを示しています。
代わりにすべき だったこと 弁護士が迅速なエンジニアリングの基本原則とAIの限界を理解していれば、当初の草稿を用いてAIの支援をより正確に指示できたはずです。例：
AIを用いた安全な法的文書作成のためのサンプルプロンプトテンプレート：
「下記の動議草案を参考に、より説得力があり法的に妥当な表現となるよう文言を洗練させてください。ただし、判例を捏造しないでください。検証済みの実在の法的根拠のみを引用し、引用された判例からの正確な逐語的引用を含めてください。提出前に手動で検証する必要がある出典や引用は明確に示してください。」
重要な指示：- すべての引用文献は、提供されたとおりにそのまま保存してください。- 追加の裏付けが必要な法的主張にはフラグを立ててください。- 法的根拠、判例名、引用を捏造しないでください。- プレゼンテーションを改善しながら、元の法的論点を維持してください。
弁護士は、それぞれの引用と引用の正確性を相互に確認する必要があります。このプロセスにより、未検証または虚偽の内容が含まれるリスクを招かずに、AIの強み（明瞭性、構成、説得力）を維持できます。
このアプローチにより、弁護士はAIの強みである構成力と文章力強化を活用しつつ、偽造引用という致命的な罠を回避できたはずです。
委任の失敗：致命的な誤り カシューロフ氏が引用チェック業務をデマスター氏に委任したにもかかわらず、それが適切に完了したかどうかを確認できなかったことは、第二の重大な誤り、すなわち法務リーダーシップと説明責任の欠如を浮き彫りにしています。倫理基準と正確性が何よりも重視される専門職において、AI生成コンテンツを監督なしに委任することは職務怠慢に等しい行為です。
ワン判事は明確に述べました。科された制裁は「本件において弁護人を抑止し処罰するのに十分な、最も軽い制裁」でしたが、法曹界にとって、その影響ははるかに永続的なものです。
王判事は、「この裁判所は、出廷する弁護士に制裁を科すことに何の喜びも感じない」と述べ、3,000ドルの罰金は「本件において弁護人を抑止し処罰するのに十分な、最も軽い制裁」であると述べた。しかし、より広範な影響は、これらの個別の制裁をはるかに超える。
法曹界は、AI能力に関する研修と認定プログラムを緊急に必要としている。現在の弁護士会と継続教育の要件は技術の進歩に追いついておらず、実務家はまさに本件で示されたような専門的過失に対して脆弱な立場に置かれている。
より広範な影響
この事件は、制裁に直面した2人の弁護士にとどまらない。法曹界全体への警鐘である。AIツールがますます高度化し、利用しやすくなるにつれ、適切な安全対策なしにそれらを使用する誘惑はますます高まるだろう。
AI監視の不備がもたらす結果は、専門家としての恥辱にとどまらない。弁護士が基本的な専門的基準を維持できない場合、依頼人の代理業務は損なわれ、裁判所の資源は浪費され、法制度に対する国民の信頼は損なわれます。
リンデル事件は、法律実務家にとっていくつかの重要な教訓を提供しています。
- AIはツールであり、専門的判断と検証の代替物ではありません。
- 監視のない委任は、使用するツールの種類に関わらず、専門的過失に該当します。
- 引用検証は、AIシステムではなく人間が行う必要があります。
- 法律実務にAIを導入する前に、適切なトレーニングが不可欠です。
法律専門家がAIツールを効果的に導入するには、実務家はAIツールの能力と限界の両方を理解しなければなりません。そのためには、単純な試行錯誤のアプローチから脱却し、体系化された専門的導入プロトコルへと進化する必要があります。
法律実務の未来には間違いなくAIの支援が含まれるでしょうが、それはこれらのツールを責任を持って使用する方法を理解するために時間を割く人々に限られます。カシューロフ氏とデマスター氏が学んだように、そうでなければ、容易に回避できたはずの専門的制裁と評判の失墜を免れることはできません。