概要: レイシー対ステートファーム事件では、2つの法律事務所が、AIツールを用いて生成された誤った引用文を含む弁論要旨を提出したとして、3万1000ドルの制裁金を科されました。裁判所は、弁護士らがAIの使用を開示せず、その出力結果を検証せず、さらに不正確な点を含む修正弁論要旨を再提出したと判断しました。マイケル・ウィルナー判事は、この行為を無謀と判断し、「不適切」かつ「誤解を招く」法的提出物として制裁を科しました。
Alleged: Unnamed large language model developer developed an AI system deployed by K&L Gates LLP と Ellis George LLP, which harmed K&L Gates LLP , Ellis George LLP , Michael Wilner , Judicial process integrity と Defense counsel in Lacey v. State Farm.
関与が疑われるAIシステム: Unknown large language model
インシデントのステータス
インシデントID
1073
レポート数
2
インシデント発生日
2025-04-15
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン
最初に断っておきたいのは、関係する両事務所（1700人の弁護士を擁する大規模な全国規模の事務所と、主にカリフォルニア州に拠点を置く45人の小規模な事務所）は、私の知る限り、優れた評判を誇っており、今回の誤りは両事務所の業務に全く見られないということです。この件の発端となったとみられる弁護士については、裁判所は「事実を率直に認め、心から反省している」と述べています。さらに裁判所は、「（弁護士らの）供述書および最近の審理において、責任の認諾は完全かつ公正で誠実なものでした。私は彼…
カリフォルニア州の判事は、AIをケースリサーチに利用し、誤りだらけの弁論要旨を作成した法律事務所に対し、制裁を科しました。
Lacey v. State Farm 事件において、マイケル・ウィルナー判事（同事件の特別マスター判事）は、原告を代理する2つの法律事務所に対し、AIによる偽造リサーチを理由に厳しく追及しました。（ウィルナー判事はこれを「虚偽のAI生成リサーチ」と表現しました）
＞ 4月15日と20日に私が発した命令（本命令の付録に添付）に詳細が記載されているように、…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents