レポート 5063

今年の第一四半期に、最高裁判所はいわゆる幻覚、つまり捏造された情報を含む手続き文書を受け取りました。これは最高裁判所判事トリル・マリー・オイエ氏がAdvokatbladetに語ったことだ。

オイエ氏は、民事訴訟の手続き上の問題に関する控訴に関連して提出されたこの手続き文書には、存在しない法律と準備文書の両方が含まれていたと語る。

これらが捏造された情報源であったことは、最高裁判所で控訴が審理された際に内部的に発覚した。

最高裁判所で審理される事件を準備する調査官は、当事者の答弁書で参照される主要な法的根拠を定期的に検討します。 

-- 訴状では、さまざまな法的資料を参照し、資料からの引用を転載していました。私たちの調査員がこれらの情報源を見つけようとしたところ、情報源は存在しないことが判明しました。この場合、弁護士は訴訟を起こす前にKIの情報源を単に確認していなかっただけだとオイエ氏は言う。

＃＃＃ - 驚いた

人工知能が幻覚を起こすのはこれが初めてではない。偽の法的根拠はすでに米国の裁判所に提出されている（https://advokatwatch.no/nyheter/legaltech/article16154112.ece）。 3月末には、トロムソの学校構造に関する報告書 に架空の情報源が含まれていることも明らかになりました。

ノルウェーの最高裁判所で幻覚の問題が取り上げられるのは今回が初めてだ。 

オイエさんはこの事件に驚いたと語る。

「情報源が管理されていないようだったので驚きました」と彼女は言う。

制裁が適用される場合があります 

• この事件は担当弁護士にどのような影響を及ぼしましたか?

• 問題が発覚した際、当社は関係する弁護士に問題を提起しました。最高裁判所には、手続上の罰金を課したり、事件を弁護士会に持ち込んだりする権限がある。これらの措置は今回のケースでは使用されていないが、将来的に他のケースで使用される可能性も否定できない、とオイエ氏は言う。

最高裁判所は現在、弁護士の責任を強調することに関心を持っていると彼女は言う。

-- 弁護士はそれぞれ異なり、周囲にさまざまな組織があります。誰もが、充実したサポート体制と社内での豊富な指導を備えた大企業で働いているわけではありません。したがって、私たちにとって今重要なことは、適切な情報を提供し、弁護士に対して私たちの期待を強く強調することです、とオイエ氏は言います。

・今後、幻覚に関する訴訟が問題になった場合には、私たちが持っている制裁措置の選択肢を活用することを検討する必要がある。 弁護士からは、将来的にはこれが問題にならないだろうという期待を寄せられています、と彼女は続けます。

人工知能は責任を免除されない

オイエ氏は、人工知能は適切なツールになり得ると信じているが、同時に、弁護士がそれを使用することを選択した場合に負う責任についても私たちに思い出させる。 

-- 最高裁判所は、人工知能が今後も存在し続けること、そしてそれが弁護士にとって有用なツールになり得ることを認識している。 同時に、弁護士は自らの責任を認識しなければなりません。弁護士は、人工知能を使用するかどうかに関わらず、事実と法律の両方の面で事件を明らかにする同じ責任を負います。

彼女は、幻覚に関する知識はよく知られており、この問題は弁護士が認識しておかなければならないものであると指摘している。 

• 私たちは、コンテンツが正しいことを確認できるだけの専門知識を自分自身が備えている領域でのみ AI が使用されることを明確に期待しています。弁護士は、通常どおり、主要な情報源が実際に存在するかどうか、また、再現された内容が正しいかどうかの両面において、正しく提示されていることを確認する必要があります。

弁護士ガイドの変更

最高裁判所は木曜日、AIツールの使用に関する新たな点を盛り込んだ弁護士向けガイドの最新版を公表する予定だ。

このガイドは、最高裁判所での上訴手続きに弁護士を準備することを目的としています。

――今後AIを活用する弁護士にどのような期待をしているのかを伝えていきたいと思います。弁護士ガイドは、弁護士とのコミュニケーションにおける最も重要なチャネルです。最高裁判所や下級裁判所に出席する弁護士はこれをよく利用していることがわかっています。そのため、現在これを更新しています。

新しいポイントには、とりわけ「AIは幻覚を起こしたり、法的根拠を捏造したりできることが知られている」と記されている。 KI が提供するソースおよびその他の情報は品質が保証されている必要があります。 AIは、弁護士がコンテンツを管理できる十分な専門知識を持つ分野でのみ使用されるべきです。」

- 驚くべきことではない

ノルウェー弁護士会会長シリ・テイグム氏はこの問題に驚いていない。 

• ノルウェーでもいつかはこのようなことが起こるだろうと予想されていましたが、最高裁判所への手続き文書でそれが起こっていることに非常に驚いています。 「本当に残念です」と彼女は言う。

テイガム氏は、最高裁判所がこの点に関して法律ガイドを更新したことを肯定的に捉えているが、その内容は弁護士にとって驚くべきものではないと強調している。 

• 弁護士が人工知能を使用するかどうかに関係なく、品質と倫理に関する同じ要件が適用されます。最高裁判所が指針の中でこの点について言及していることは良いことだと思いますが、これはそのような説明がなくても弁護士が理解すべきことです。 

テイグム氏は、ノルウェー弁護士会はこのようなことが二度と起こらないように取り組んでいると語る。

• ノルウェー弁護士会は、このようなことが二度と起こらないように協力したいと考えています。私たちは定期的に AI に関する講座を開催しており、ノルウェー弁護士会の法曹倫理委員会は現在、人工知能の利用に関するガイダンスを準備中です。