Incidente 1139: El equipo legal sudafricano encargado del procesamiento hacia el norte supuestamente admite ingenio legal. AI produjo jurisprudencia supuestamente inexistente en una presentación judicial urgente.
Descripción: En Sudáfrica, el equipo legal de Northbound Processing admite que citas inexistentes de casos en una disputa urgente de licencias con el Regulador Sudafricano de Diamantes y Metales Preciosos fueron supuestamente generadas por la herramienta de inteligencia artificial Legal Genius. El Tribunal Superior de Johannesburgo determinó que las referencias falsas socavaban la credibilidad de las presentaciones de Northbound y remitió la conducta de los abogados al Consejo de Práctica Legal para su investigación.
Editor Notes: For two reported South African legal citation confabulation incidents, please refer to Incident 1138 (from March 2023) and Incident 1137 (from September 2024).
Entidades
Ver todas las entidadesAlleged: Legal Genius developed an AI system deployed by Giles Barclay-Beuthin , Arnold Subel y A legal team representing Northbound Processing, which harmed Giles Barclay-Beuthin , Arnold Subel , A legal team representing Northbound Processing y Northbound Processing.
Sistema de IA presuntamente implicado: Legal Genius
Estadísticas de incidentes
ID
1139
Cantidad de informes
1
Fecha del Incidente
2025-06-30
Editores
Daniel Atherton
Informes del Incidente
Cronología de Informes
Un juez local ordenó una investigación sobre la conducta de abogados que utilizaron inteligencia artificial generativa (GenAI) para presentar citaciones inexistentes en los tribunales.
Esto ocurrió después de que, en un caso ante el Tribuna…
Variantes
Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.
¿Has visto algo similar?
