アラバマ州バーミングハム郊外のウィリアム・E・ドナルドソン刑務所に収監されているフランキー・ジョンソン氏は、1年半足らずの間に約20回刺されたと証言している。
ジョンソン氏によると、2019年12月には、収容ユニット内で「少なくとも9回」刺されたという。2020年3月、グループセラピーのミーティング後、警官に机に手錠をかけられ、ユニットを出たところ、別の囚人が入ってきて5回刺された。
同年11月、ジョンソン氏は警官に手錠をかけられ、刑務所の敷地内に連れて行かれた。そこで別の囚人にアイスピックで襲われ、「5～6回」刺された。刑務官2人が見守る中、襲撃された という。ジョンソン氏によると、警官の1人は、以前ジョンソン氏と警官の間で口論になったことへの報復として、犯人に暴行を勧めていたという。
2021年、ジョンソン氏は、アラバマ州の刑務所当局に対し、自身の安全確保の不履行、蔓延する暴力、人員不足、過密状態、そして州刑務所における蔓延する汚職を理由に訴訟を起こしました。アラバマ州司法長官事務所は、この訴訟の弁護にあたり、長年にわたり州から数百万ドルの報酬を受け、問題を抱える刑務所システムの弁護を担ってきた法律事務所、バトラー・スノー法律事務所に依頼しました。
州当局は、バトラー・スノー法律事務所の刑務所事件弁護における経験、特に同事務所の憲法・公民権訴訟グループ責任者であるウィリアム・ランスフォード氏を高く評価してきました。しかし今、同法律事務所はジョンソン氏の事件を担当する連邦判事から制裁を受ける危機に直面しています。ランスフォード氏と協力していた同事務所の弁護士が、人工知能（AI）によって生成された事例を引用したためです。しかし、その事例は実際には存在しないことが判明しました。
これは、AIによって生成された虚偽の情報を公式の法的書類に記載したことで、弁護士が制裁を受ける事例が全国で増加している例の一つです。こうした事例の蔓延状況を追跡しようとするデータベースは、世界中で106件の事例を特定しており、裁判所が裁判文書において「AI幻覚」を発見しています。
昨年、フロリダ州中部連邦地方裁判所において、ある弁護士がAIによって生成された捏造された事件を引用していたことが委員会の認定されたため、1年間の弁護士業務停止処分を受けました。カリフォルニア州では今月初め、連邦判事が、ある法律事務所がAI生成の虚偽の調査結果を弁論要旨に記載したとして、3万ドル以上の訴訟費用の支払いを命じた。
水曜日にバーミンガムで行われたジョンソン氏の事件の公聴会で、アンナ・マナスコ連邦地方判事は、バトラー・スノー弁護士に対し、マシュー・リーブス弁護士がChatGPTを利用して、同事件の進行中の証言録取および証拠開示に関する紛争に関連する書類に虚偽の引用を追加したとして、罰金、継続的法律教育の義務付け、ライセンス機関への紹介、一時的な資格停止など、幅広い制裁を検討していると述べた。
マナスコ判事は、これまで全国で下されてきた懲戒処分は不十分だと示唆した。彼女は弁護士らに対し、今回の件は「それらの制裁が不十分であったことを明確に証明するものだ」と述べた。「もし不十分だったなら、私たちはここにいないだろう」。
公聴会中、バトラー・スノー法律事務所の弁護士らは熱烈に謝罪し、マナスコ弁護士が適切と判断した制裁は何でも受け入れると述べた。また、弁護士は法的調査のためにAIを使用する際に承認を得る必要があるという社内規定についても言及した。
リーブス氏は全責任を負おうとした。
「私はAIの使用に関する制限を認識しており、この2つの事例では規定に従わなかった」とリーブス氏は述べた。「裁判長には同僚たちに罰を与えないようお願いしたい」。
バトラー・スノー法律事務所の弁護士らは アラバマ州司法長官事務所によって任命され、この事件でアラバマ州矯正局の元局長ジェファーソン・ダン氏の弁護のために州から報酬を受け取っている。
この事件で州と契約を結んでいるランズフォード氏は、虚偽の召喚状がこれ以上出ていないことを確認するため、過去の提出書類の精査を開始したと述べた。
「これは非常に未解明な問題です」とランズフォード氏はマナスコ弁護士に語った。「事務所の対応はまだ完了していません。」
マナスコ弁護士は、バトラー・スノー氏が10日以内に動議を提出し、制裁措置の決定を下す前に、問題解決のプロセスを説明することを認めると述べた。
この事件におけるAIによる偽の召喚状の使用は、事件の審理日程をめぐる争いの中で発覚した。
バトラー・スノー氏の弁護士は、現在も収監中のジョンソン氏の証言録取手続きを設定するため、ジョンソン氏の弁護士に連絡を取っていた。ジョンソン氏の弁護士は、ジョンソン氏の証言録取手続き開始前に提出する権利があると考える未提出の書類があることを理由に、提案された期日に異議を唱えた。
しかし、5月7日に提出した裁判所への提出書類の中で、バトラー・スノー氏は判例法はジョンソン氏の証言録取手続きを迅速に行うよう義務付けていると反論した。 「第11巡回区控訴裁判所および地方裁判所は、適切な通知が行われ、かつ、他の証拠開示に関する争いにかかわらず、証言録取が請求または抗弁に関連する場合、拘禁中の証言録取を日常的に許可している」と彼らは記している。
弁護士らは、自らの主張を裏付けるように表面上は4つの判例を挙げたが、結局はすべ て捏造であったことが判明した。
引用された判例の中には、実際の判例の引用に類似したものもあったが、いずれも裁判所で争われている問題とは関連していなかった。例えば、1つは2021年の「ケリー対バーミンガム市」という判例だったが、ジョンソン側の弁護士によると、「原告側弁護士が特定できたケリー対バーミンガム市という名称の判例は、1939年にアラバマ州控訴裁判所がスピード違反切符の解決に関して下した唯一の判例」だという。
今週初め、ジョンソン側の弁護士らは、捏造を指摘する動議を提出し、「生成型人工知能」の産物であると主張した。また、証拠開示をめぐる争いに関連した以前の申立ての中にも、明らかに捏造された引用文が見つかりました。
その翌日、マナスコ判事はバトラー・スノー法律事務所の弁護士に制裁を科すべきかどうかを判断するための審問を予定しました。「告発の重大性に鑑み、裁判所は捏造されたとされるそれぞれの引用文について個別に調査を行いましたが、成果はありませんでした」と彼女は述べています。
リーブス判事は裁判所への宣誓供述書の中で、より若い同僚が作成した申立てを検討しており、「確立された法的論点であると考える」ものについて引用文を含めたいと考えていたと述べています。
「私はChatGPTについて大体知っていました」とリーブス判事は記し、申立てに必要な判例を検索した結果、「それらの法的論点に適用可能と思われる引用文が即座に特定されました」と続けました。しかし、「動議を確定させて提出することに急ぐあまり」、彼は「ChatGPTから返された判例引用を、WestlawまたはPacerによる独立 したレビューを通して検証し、提出するのを怠った」と述べている。
「この不注意と判断の怠慢を心から後悔しています」とリーブス氏は述べている。「全責任は私が負います」。
パリを拠点とする法研究者で学者のダミアン・シャルロタン氏は、偽のAIコンテンツが訴訟書類に紛れ込む事件の頻度が増加しているようだと述べ、これらの事件の追跡調査に取り組んでいる。(https://www.damiencharlotin.com/hallucinations/)
「加速しているように感じます」とシャルロタン氏は述べた。「ここ数週間、数ヶ月の間に、以前と比べて非常に多くの事件が発生しています」。
しかしながら、シャルロタン氏によると、これまでのところ、この問題に対する裁判所の対応は驚くほど寛大だ。高額の罰金や業務停止処分など、より厳しい制裁は、弁護士が自身のミスに対する責任を負わない場合に科される傾向がある。
「長くは続かないだろう」とシャーロティン氏は述べた。「いずれ誰もが気付くだろう」
ジョンソン氏の訴訟に加え、ランズフォード氏とバトラー・スノー氏は、アラバマ州矯正局を相手取った複数の大規模な民権訴訟の契約を結んでいる。その中には、ドナルド・トランプ政権下で米国司法省が2020年に提起した訴訟も含まれており、ジョンソン氏が訴訟で指摘した広範な制度的問題の多くを指摘し、その処遇が残虐で異常な刑罰を禁じる憲法修正第8条に違反していると主張している。
この訴訟の契約だけでも、一時は2年間で1500万ドル近くまで膨らんだ。
アラバマ州議会議員の中には、州がこれらの訴訟の弁護のためにランズフォード氏に支払っている金額に疑問を呈する者もいる。しかし、今週のミスによって、ランスフォード氏とバトラー・スノー氏が引き続き職務を遂行するという司法長官の信頼が揺らいだようには見えない。
水曜日、マナスコ氏は公聴会に出席していた司法長官事務所の弁護士に対し、バトラー・スノー氏を引き続き起用するかどうかを尋ねた。
「ランスフォード氏は引き続き司法長官が指名する顧問弁護士です」と弁護士は答えた。