Incident 1139: L'équipe juridique sud-africaine de Northbound Processing aurait admis que Legal Genius AI avait produit une jurisprudence prétendument inexistante dans un dossier judiciaire urgent
Description: En Afrique du Sud, l'équipe juridique de Northbound Processing aurait admis que des références inexistantes à des affaires dans le cadre d'un litige urgent de licence avec l'Autorité sud-africaine de réglementation des diamants et des métaux précieux auraient été produites par l'outil d'intelligence artificielle Legal Genius. La Haute Cour de Johannesburg a estimé que ces fausses références portaient atteinte à la crédibilité des conclusions de Northbound et a renvoyé la conduite des avocats au Conseil de la pratique juridique pour enquête.
Editor Notes: For two reported South African legal citation confabulation incidents, please refer to Incident 1138 (from March 2023) and Incident 1137 (from September 2024).
Entités
Voir toutes les entitésAlleged: Legal Genius developed an AI system deployed by Giles Barclay-Beuthin , Arnold Subel et A legal team representing Northbound Processing, which harmed Giles Barclay-Beuthin , Arnold Subel , A legal team representing Northbound Processing et Northbound Processing.
Système d'IA présumé impliqué: Legal Genius
Statistiques d'incidents
ID
1139
Nombre de rapports
4
Date de l'incident
2025-06-30
Editeurs
Daniel Atherton
Rapports d'incidents
Chronologie du rapport
Un juge local a ordonné une enquête sur la conduite d'avocats ayant eu recours à l'intelligence artificielle générative (GenAI) pour présenter des citations inexistantes devant un tribunal.
Ceci fait suite à une affaire portée devant la Hau…
Confronté à des citations juridiques inexistantes dans une affaire portée devant la Haute Cour du Gauteng, à Johannesburg, un juge suppléant a demandé à l'avocat responsable si ces citations constituaient des « hallucinations » d'intelligen…
En bref
- Les tribunaux sud-africains ont adressé un nouvel avertissement sans équivoque aux professionnels du droit : la présentation de citations fictives générées par l’IA entraînera une saisine obligatoire du Conseil de la pratique jurid…
Un jeune avocat sud-africain qui s'est appuyé sur un outil d'intelligence artificielle pour rédiger ses conclusions a été renvoyé devant le Conseil de la pratique juridique pour enquête après avoir inclus de la jurisprudence fictive dans se…
Variantes
Une "Variante" est un incident de l'IA similaire à un cas connu—il a les mêmes causes, les mêmes dommages et le même système intelligent. Plutôt que de l'énumérer séparément, nous l'incluons sous le premier incident signalé. Contrairement aux autres incidents, les variantes n'ont pas besoin d'avoir été signalées en dehors de la base de données des incidents. En savoir plus sur le document de recherche.
Vous avez vu quelque chose de similaire ?
