レポート 7722

ヒューストンで発生した爆発事故（死者3名、住宅約200軒を破壊）の責任を問う訴訟で証言する専門家証人が、自身の「専門家報告書」の大部分をChatGPTを使って作成していたことが明らかになった。産業製品大手3Mに雇われたこの男性は、AIが指示した内容を公表した。それによると、彼はChatGPTに対し、「3Mの医療水準を擁護する優れた専門家証人報告書を作成する」よう依頼し、報告書には「ワトソン・グラインディング社での爆発事故について、3Mの責任は0%であることを示す」よう指示していた。

この事件は、人工知能が法廷に進出していることを示している。AIが生成した法的ブリーフィング、AIを使用した弁護士による幻覚事件、AIが裁判で全員を不利な立場に追い込んだ事件だけでなく、専門家証人の証言にもAIが使われている。 404 Mediaが入手した裁判記録、証言録取書、および証拠開示記録は、多数の死者を出した爆発事故をめぐる訴訟において、総額数億ドルに上る賠償責任が争点となっている極めて注目度の高い事件で、AIが広範囲に利用されていたことを示している。この事件はまた、こうした専門家証言を作成するために使用された具体的な指示が訴訟中に開示される可能性があり、それらの指示が非常に恥ずかしい内容である可能性もあることを示している。（事件で使用された指示はこちら：[https://www.documentcloud.org/documents/28560618-ai-prompts-1/?ref=404media.co]）

ザこの訴訟は、ヒューストンにある製造施設ワトソン・グラインディング社で2020年に発生した爆発事故の責任に関する複数の訴訟のうちの1つです。この爆発事故は、「劣化して圧着不良のゴム溶接ホース」が原因で、可燃性ガスが漏れ出し、最終的に施設内で爆発したと、米国化学安全・危険調査委員会は述べています。数十人の住宅所有者が3M社とワトソン・グラインディング社を提訴しました。原告側は、3M社が施設のガス検知システムを適切に保守点検しなかったこと、および爆発事故につながるその他の過失を犯したと主張しています。

訴訟の一環として、3M社はナイトホーク・エンジニアリング社のジョシュ・オーテンリース氏を雇い、爆発事故に関する「専門家報告書」を作成させました。訴訟の証拠開示手続きにおいて、原告側の弁護士の一人であるウィル・モイ氏は、「引用オーバーレイ」と呼ばれる5ページの文書を発見しました。この文書はAIによって作成されたものと思われます。モイ氏は、この引用オーバーレイ文書がChatGPTで作成されたものであることを認識し、3M社の弁護士に対し、オーテンリース氏が使用したすべてのプロンプトの提出を求めました。これらのプロンプトが収集されるまで、証言録取は3時間中断され、モイ氏はオーテンリース氏が報告書作成時に使用したChatGPTの会話記録350ページを受け取りました。これらの文書には、オーテンリース氏の会話全文へのChatGPTの公開リンク（https://chatgpt.com/share/6a2985cb-ecd4-83ea-91ed-8b6f1de4cb09?ref=404media.co）が含まれています。裁判記録によると、3Mはナイトホーク・エンジニアリングに分析費用として約9万ドルを支払っており、3Mの提出書類にはオーテンリース氏の時給が475ドルであったことが示されています。

報告書の表紙より

これらの会話からは、オーテンリース氏がChatGPTに対して「専門家証人として依頼を受けている」と伝えたことなど、彼の一連のプロセスが最初から最後まで明らかになっている。 3M社は、2020年1月にワトソン・グラインディング社で発生した爆発事故に関する訴訟やその他の法的手続きにおいて、3M社を弁護する専門家証人報告書を作成する必要があると、ChatGPTに伝えました。彼は、「3M社の作業における安全基準を擁護するための専門家証人報告書を作成する必要がある」と述べ、特に「訓練を受けていない機器の操作や適切な許可なしでの作業に関する、被告側証人の突飛で虚偽の主張に反論する必要がある」と説明しました。彼はChatGPTに、様々な作業基準違反を見つける手助けを依頼し、数百件の裁判記録を添付しました。

オーテンリース氏はChatGPTに対し、添付されたすべての記録を読み、3M社を弁護するよう依頼しました。「ワトソン・グラインディング社におけるプロセスおよび安全管理の欠如と安全対策の不備を明らかにし、被告側証人の主張を覆し、ワトソン・グラインディング社の爆発事故について3M社に一切の責任がないこと、そして私の経歴と経験がこの専門家意見を述べるのにいかに適しているかを示す」よう求めました。

ChatGPTは、約30ページに及ぶ報告書を作成し、その中に「技術的および標準的な注意義務の観点から、3Mは2020年1月24日の爆発事故について0%の責任を負わない」という一文を含めました。しかし、この一文は（裁判所に提出された最終報告書には）含まれませんでした。なぜなら、後にAutenrieth氏がChatGPTに「相手方弁護士としてこの報告書を精査してほしい」と依頼した際、ChatGPTは「『0%の責任』という表現は弁護士が容易に論点を突いてくる」ものであり、「相手方弁護士に専門家ではなく単なる擁護者として印象づけられる」表現の一つであると判断したからです。

[別の場所で]チャット（https://chatgpt.com/share/6a2987c9-a704-83ea-a804-89aeff60cff7?ref=404media.co）で、オーテンリース氏はガス検知器の画像をアップロードし、ChatGPTに「これは何ですか？」と「工業用ガス検知器の型番は何ですか？」と質問しました。モイ氏は、問題のガス検知器は「この事件全体の主題」であると述べました。

オーテンリース氏は、ChatGPTを使って生成されたレポートに様々な編集を加え、レポートの異なるバージョンを繰り返しアップロードし、ツールから修正を受け取ってから新しいバージョンをアップロードしました（チャットによっては、専門家証人としての証言から、ChatGPTにTシャツの画像を作成させるという話題に変更しました）。また、ChatGPTにレポートの「採点」（97/100点）と「検察が攻撃する可能性のあるレポートの主な5つのポイントは何ですか？そして、それらをどのように弁護すればよいですか？」と質問しました。彼はその後、ChatGPTに対し、自分の経歴が専門家証人として十分かどうかを尋ねた。「検察は、私がこれまで専門家証人として活動したことがないことを理由に、私の経歴の表現を問題視するだろうか？そして、どう弁護すればいいだろうか？」

オーテンリース氏が裁判所に提出した報告書は、ChatGPTが最初に出力した内容と全く同じ構成であり、その大部分はChatGPTが最初に出力した内容と、オーテンリース氏とのその後のチャットでChatGPTが推奨した修正内容と完全に一致している。

「この専門家は、AIを補助ツールとしてではなく、意見形成と報告書作成のすべてをChatGPTに頼っていた」と、モイ氏は404 Mediaの電話インタビューで語った。「彼は（裁判で）3M社が勝訴できるよう、自分が入力した指示が3M社に有利になるように偏っていたことを認めた。（中略）これは実に悪質だ」。モイ氏はさらに、これらの指示の多くは、オーテンリース氏が専門家証人として証言録取を受ける前夜に行われたと付け加えた。 「彼らは裁判の結果を変えるためだけに彼を雇った。彼らは彼を雇い、彼はChatGPTを使ってこれらの報告書を作成した。つまり、この事件における真のエキスパートはChatGPTだったのだ。それは疑いの余地がない。」

モイ氏は404 Mediaに対し、3Mは最終的にオーテンリース氏を裁判から除外しようとしたが、オーテンリース氏が報告書の作成にAIを多用していたことを知った後、モイ氏は、相手側の専門家証人を自らの証人として召喚するという、やや異例の措置を取った。「陪審員にあなたの証言を聞いてもらう必要があるから、あなたを法廷に召喚すると言った。これは非常に深刻な問題だ。そして、まさにその通りにした」とモイ氏は述べた。

裁判記録によると、オーテンリース氏はChatGPTを使用したことを認めているが、自身がガス検知の専門家であると繰り返し主張している。「私はこの業界で20年以上の経験と実績がある」。ChatGPTを使用した理由については説明しなかったが、「私の意見をそこに入力し、AIがそれを基にした論拠を提示するのを手伝ってくれた」と述べ、さらに「出力結果が出る前に、情報と意見を事前に入力した。（中略）出力結果が私の意見や合意内容と異なる場合は、修正した」と付け加えた。裁判での尋問において、モイ氏とオーテンリース氏は、提出された報告書は「90～85％がChatGPTによるもの」であるという点で意見が一致している。オーテンリース氏はまた、ガス検知器の複数のメーカーについて「記憶を呼び起こすため」に、「渋滞中に」ChatGPTにこの件について何度か質問したと述べた。

この事件はそれ自体が非常に興味深いだけでなく、ChatGPTの記録が証拠開示手続きや証言録取の際に相手方弁護士によって入手できることを示している。モイ氏は、「すべての弁護士は、自らの専門家が不誠実な方法で成果物を作成していないか確認する必要がある。そして、その作成過程を召喚状で提出できることを知っておくべきだ。（中略）あちこちの弁護士から、『なんてこった。どうやってその作成過程を入手したんだ？』『うちの事件で、こんなことが起こっているのは一体何件あるんだ？』という声が上がっている」と述べた。

裁判中にAIを使用したことが発覚した専門家は、オーテンリース氏が初めてではない。AIが証拠作成に使用された事例のデータベース（https://www.damiencharlotin.com/ai-evidence/?ref=404media.co）によると、既知の事例のほとんどは国際的なものだ。フランスのある事件では、弁護士が洪水に関する訴訟で雨水のパターンについて主張するためにAIを使用したが、その証拠は却下された。カナダでは、あるアパートで特定の種類の植物が害虫の発生原因であるかどうかについて、AIが意見を生成するために使用された。その訴訟を担当した裁判官は、「私は（AIの証拠を）重視しない。専門家の証拠は、既知の資格を持ち、当該問題について具体的な知識を有する、既知の人物から提出されなければならない」と述べた。

[3M社の訴訟]の陪審は、原告に6100万ドル以上の賠償金を命じ、3M社に30%、ワトソン・グラインディング社に70%の責任があると判断した。過去の判決では、爆発事故の被害者に対し、それぞれ1億1800万ドルと3800万ドルの賠償金が認められており、今後さらに複数の訴訟が控えている。

ナイトホーク・エンジニアリング社、オーテンリース社、3M社は、コメントの要請に応じなかった。