Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる

レポート 5484

関連インシデント

インシデント 11384 Report
South African Legal Team Reportedly Relied on Unverified ChatGPT Case Law in Johannesburg Body Corporate Defamation Matter

南アフリカの弁護士がChatGPTを使って訴訟を主張するも、偽情報を捏造され、逮捕される
mybroadband.co.za · 2023

ヨハネスブルグ地方裁判所で訴訟を担当していた弁護士らは、ChatGPTによって生成された偽の参考文献を使用したとして、判決で非難された。

判決は、「氏名と引用は虚偽であり、事実も虚偽であり、判決も虚偽である」と述べた。

サンデー・タイムズによると、判決では弁護士の依頼人に対し懲罰的費用負担命令も下された。

「法的調査に関しては、現代技術の効率性にも、古き良き自主的な調査手法が加わる必要がある」と、アービン・チャイトラム治安判事は今回の件について述べた。

問題の事件は、名誉毀損で法人を訴えていた女性に関するものだった。

法人の管財人側弁護士は、法人は名誉毀損で訴えられるべきではないと主張し、原告側弁護士のミシェル・パーカー氏は、この問題に答える過去の判決は存在するものの、それらにアクセスする時間がなかっただけだと述べた。

チャイトラム判事は、両当事者がそれぞれの主張を証明するために必要な情報を十分に収集する時間を与えるため、この訴訟を5月下旬に延期した。

その後2ヶ月間、この訴訟に関与した複数の弁護士は、弁護士が参照した情報の追跡を試みた。

しかし、ChatGPTは実際の判例を参照し、実際に引用していたものの、引用は実際に挙げられた判例とは異なるものであったことが判明した。

さらに、これらの判例と引用は、法人と個人間の名誉毀損訴訟には全く適切ではなかった。

その後、判決は「ChatGPTを通じて」入手されたことが認められた。

チャイトラム判事は、弁護士らは裁判所を誤解させる意図はなかった――彼らは「単に熱心すぎると同時に不注意だった」と判断した。

これは、懲罰的費用命令以外の法的措置は弁護士らに対して取られなかったことを意味する。

「この事件に伴う恥辱は、原告側弁護士にとって十分な罰となるだろう」とチャイトラム判事は述べた。

ChatGPTによる捏造事件

弁護士らがChatGPTを無批判に信じ、業務の補足として利用した国は、南アフリカが初めてではない。

米国では、ChatGPTによる虚偽の判例引用を多数含む裁判所報告書(https://mybroadband.co.za/news/software/497385-r93000-fine-for-lawyers-that-used-chatgpt-generated-filing-with-made-up-cases.html)を作成した弁護士らが先月、5,000ドル(93,045ランド)の罰金を科せられました。

P・ケビン・カステル連邦地方裁判所判事は、弁護士のスティーブン・シュワルツ氏とピーター・ロドゥカ氏、そして彼らの事務所が「人工知能ツールChatGPTによって作成された偽の引用や引用を含む、存在しない司法意見を提出し、その後、司法命令によってその存在が疑問視された後も偽の意見を主張し続けたことで、責任を放棄した」と判断しました。

シュワルツ氏とロドゥカ氏は、2019年にエルサルバドルからニューヨークへのフライト中に負傷したと主張するロベルト・マタ氏の代理で弁論書を提出していた。マタ氏の訴訟も、提起が遅すぎたため却下された。

カステル判事はまた、ChatGPTによって著者と誤認された各判事に対し、審理の記録とカステル判事の意見書を送付するよう弁護士に命じた。

「裁判所は、被告に謝罪を求めることはありません。強制された謝罪は誠実な謝罪ではないからです」とカステル判事は付け加えた。

「謝罪するかどうかの判断は、被告に委ねられています。」

情報源を読む

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • a9df9cf