Incidente 1137: Citas legales falsas reportadas en el caso sudafricano Mavundla contra MEC generadas por una supuesta herramienta de inteligencia artificial
Descripción: En el caso Mavundla contra MEC: Departamento de Gobierno Cooperativo y Asuntos Tradicionales de KwaZulu-Natal, el bufete de abogados Surendra Singh and Associates, que representaba al político sudafricano Philani Godfrey Mavundla, supuestamente presentó citas legales falsas, aparentemente generadas por AI, en documentos presentados ante el Tribunal Superior de Pietermaritzburg. El tribunal determinó que muchos de los casos citados no existían en ninguna base de datos, y que el equipo legal del bufete y el secretario de artículos supuestamente no verificaron las referencias.
Editor Notes: Timeline note: This incident ID takes 09/20/2024 as its incident date, but it was added to the database on 07/05/2025. The reported timeline is as follows: Surendra Singh and Associates reportedly submitted a court filing with allegedly AI-generated fictitious citations sometime in September 2024; on September 20, 2024, the Pietermaritzburg High Court questioned the firm's representatives about the non-existent cases; the matter was adjourned to September 25 for clarification; the final judgment dismissing the appeal and referring the firm to the Legal Practice Council was handed down on January 8, 2025.
Entidades
Ver todas las entidadesAlleged: Unnamed large language model developers y Unnamed generative AI companies developed an AI system deployed by Surendra Singh and Associates, which harmed Surendra Singh and Associates y Philani Godfrey Mavundla.
Sistema de IA presuntamente implicado: Unknown large language model
Estadísticas de incidentes
ID
1137
Cantidad de informes
2
Fecha del Incidente
2024-09-20
Editores
Daniel Atherton
Informes del Incidente
Cronología de Informes
Un bufete de abogados de Pietermaritzburg ha sido objeto de fuertes críticas tras utilizar, aparentemente, estudios de caso inexistentes generados a partir de una aplicación de Inteligencia Artificial (IA) en procedimientos judiciales.
Esto…
En el caso Mavundla contra MEC: Departamento de Gobierno Cooperativo y Asuntos Tradicionales de KwaZulu-Natal, el Tribunal Superior de Pietermaritzburg abordó las consecuencias de que los profesionales del derecho presentaran citas falsas d…
Variantes
Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.
¿Has visto algo similar?
