Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
自動翻訳済み

インシデント 1139: 南アフリカの北向き処理の法務チームは、緊急裁判所提出書類において、リーガル・ジーニアスAIが存在しない判例を作成したことを認めたと報じられている。

自動翻訳済み
概要:
自動翻訳済み
南アフリカでは、ノースバウンド・プロセッシングの法務チームが、南アフリカダイヤモンド・貴金属規制当局との緊急ライセンス紛争において、存在しない判例引用がリーガル・ジーニアスAIツールによって生成されたと認めたと報じられています。ヨハネスブルグ高等裁判所は、この偽造引用がノースバウンドの提出書類の信頼性を損なっていると判断し、弁護士の行為を法律実務評議会に調査を委託しました。
Editor Notes: For two reported South African legal citation confabulation incidents, please refer to Incident 1138 (from March 2023) and Incident 1137 (from September 2024).

ツール

新しいレポート新しいレポート新しいレスポンス新しいレスポンス発見する発見する履歴を表示履歴を表示
OECD AIインシデントおよびハザードモニター(AIM)は、世界中の信頼できるニュースソースからリアルタイムでAI関連のインシデントやハザードを自動的に収集・分類します。
 

組織

すべての組織を表示
Alleged: Legal Genius developed an AI system deployed by Giles Barclay-Beuthin , Arnold Subel と A legal team representing Northbound Processing, which harmed Giles Barclay-Beuthin , Arnold Subel , A legal team representing Northbound Processing と Northbound Processing.
関与が疑われるAIシステム: Legal Genius

インシデントのステータス

インシデントID
1139
レポート数
4
インシデント発生日
2025-06-30
エディタ
Daniel Atherton
Applied Taxonomies
MIT

MIT 分類法のクラス

Machine-Classified
分類法の詳細

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

3.1. False or misleading information

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Misinformation

Entity

Which, if any, entity is presented as the main cause of the risk
 

AI

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Unintentional

インシデントレポート

レポートタイムライン

Incident Occurrence+1
弁護士は法廷で「幻覚作用のある」GenAIを使用したとして調査を受ける
捏造された引用のもう一つのエピソード、実際の反響:南アフリカの裁判所はAIによる幻覚事件に寛容さを示さない法廷におけるAIの失態:偽の判例により若手弁護士が法廷に召喚される
Loading...
弁護士は法廷で「幻覚作用のある」GenAIを使用したとして調査を受ける

弁護士は法廷で「幻覚作用のある」GenAIを使用したとして調査を受ける

itweb.co.za

Loading...
人工知能の使用が失敗したとき:裁判官は弁護士の法的失策を非難

人工知能の使用が失敗したとき:裁判官は弁護士の法的失策を非難

msn.com

Loading...
捏造された引用のもう一つのエピソード、実際の反響:南アフリカの裁判所はAIによる幻覚事件に寛容さを示さない

捏造された引用のもう一つのエピソード、実際の反響:南アフリカの裁判所はAIによる幻覚事件に寛容さを示さない

cliffedekkerhofmeyr.com

Loading...
法廷におけるAIの失態:偽の判例により若手弁護士が法廷に召喚される

法廷におけるAIの失態:偽の判例により若手弁護士が法廷に召喚される

thehighstreetjournal.com

Loading...
弁護士は法廷で「幻覚作用のある」GenAIを使用したとして調査を受ける
itweb.co.za · 2025
自動翻訳済み

地元の裁判官は、生成型人工知能(GenAI)を用いて法廷で存在しない引用文を提示した弁護士の行為について調査を命じた。

これは、ヨハネスブルグ高等裁判所の訴訟において、ノースバウンド・プロセッシング社が、南アフリカダイヤモンド・貴金属規制当局に対し、既に発行されていたものの一定の条件を満たすまで保留されていた精錬ライセンスの返還を求める暫定的な救済措置を求める緊急申立てを行ったことを受けたものである。

このライセンスは、ノースバウンド社が2024年にラッパ・リソーシズ社から精…

Loading...
人工知能の使用が失敗したとき:裁判官は弁護士の法的失策を非難
msn.com · 2025
自動翻訳済み

ヨハネスブルグのハウテン州高等裁判所で係属中の事件において、存在しない法廷引用文が提示されたことを受け、代理判事は担当弁護士に対し、引用文が人工知能(AI)による「幻覚」に該当するかどうかを尋ねた。弁護士は顔を赤らめ、「そう思われる」と答えた。

DJ・スミット代理判事は、南アフリカダイヤモンド貴金属規制当局に対し精錬ライセンスの付与を命じていたノースバウンド・プロセッシング社を相手取った事件で、判決文を執筆しようとしていた際にこの事実に気づいた。

スミット判事は、判決文を執筆…

Loading...
捏造された引用のもう一つのエピソード、実際の反響:南アフリカの裁判所はAIによる幻覚事件に寛容さを示さない
cliffedekkerhofmeyr.com · 2025
自動翻訳済み

概要

  • 南アフリカの裁判所は、法律専門家に対し、AIによって生成された虚偽の告発状を提示した場合、善意、真摯な謝罪、酌量すべき事情の有無にかかわらず、法律実務評議会への強制的な照会が行われるという、明確な警告を発しました。
  • Northbound Processing (Pty) Ltd v The South African Diamond and Precious Metals Regulator(事件番号:2025-072038)において、ハウテン州高等裁判所は、裁判所文…
Loading...
法廷におけるAIの失態:偽の判例により若手弁護士が法廷に召喚される
thehighstreetjournal.com · 2025
自動翻訳済み

南アフリカのジュニア・アドボケイトが、法廷提出書類の作成に人工知能ツールを頼りにしていたが、虚偽の判例を書面に記載していたため、法律実務評議会に調査を委託された。この事件は、ラッパ・リソーシズ社をノースバウンド・プロセッシング社に売却したことに関連するライセンスをめぐる紛争で、生成AIの悪用をめぐる同国で最も顕著な訴訟の一つとなっている。

ノースバウンド・プロセッシング社は、南アフリカダイヤモンド・貴金属規制当局に対し、精錬ライセンスの解除を緊急に求め、ライセンスがなければ深…

バリアント

「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか?

よく似たインシデント

Selected by our editors

South African Legal Team Reportedly Relied on Unverified ChatGPT Case Law in Johannesburg Body Corporate Defamation Matter

Mar 2023 · 4 レポート
テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

Loading...
Defamation via AutoComplete

Defamation via AutoComplete

Apr 2011 · 28 レポート
Loading...
Tinder's Personalized Pricing Algorithm Found to Offer Higher Prices for Older Users

Tinder's Personalized Pricing Algorithm Found to Offer Higher Prices for Older Users

Mar 2015 · 4 レポート
Loading...
Facial Recognition Trial Performed Poorly at Notting Hill Carnival

Facial Recognition Trial Performed Poorly at Notting Hill Carnival

Aug 2017 · 4 レポート
前のインシデント次のインシデント

よく似たインシデント

Selected by our editors

South African Legal Team Reportedly Relied on Unverified ChatGPT Case Law in Johannesburg Body Corporate Defamation Matter

Mar 2023 · 4 レポート
テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

Loading...
Defamation via AutoComplete

Defamation via AutoComplete

Apr 2011 · 28 レポート
Loading...
Tinder's Personalized Pricing Algorithm Found to Offer Higher Prices for Older Users

Tinder's Personalized Pricing Algorithm Found to Offer Higher Prices for Older Users

Mar 2015 · 4 レポート
Loading...
Facial Recognition Trial Performed Poorly at Notting Hill Carnival

Facial Recognition Trial Performed Poorly at Notting Hill Carnival

Aug 2017 · 4 レポート

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 5440a2a