Problema 5479

En el caso Mavundla contra MEC: Departamento de Gobierno Cooperativo y Asuntos Tradicionales de KwaZulu-Natal, el Tribunal Superior de Pietermaritzburg abordó las consecuencias de que los profesionales del derecho presentaran citas falsas de casos, probablemente generadas por inteligencia artificial (IA), en sus presentaciones judiciales.

¿A quién debería importarle esta sentencia y por qué?

---

• Los profesionales del derecho que utilizan IA para la investigación jurídica deben tomar nota, ya que el caso pone de relieve los peligros de confiar en contenido generado por IA sin las comprobaciones adecuadas.

• Jueces, magistrados y funcionarios judiciales deben ser conscientes de que el material generado por IA puede introducir errores en los alegatos, sentencias o argumentos.

• Las personas cuyos derechos puedan verse afectados por decisiones basadas en IA deben prestar atención, especialmente cuando se utilizan herramientas de IA en la toma de decisiones legales o administrativas.

¿Qué podría hacer al respecto?

• Verifique siempre la investigación jurídica generada por IA antes de utilizarla en procesos judiciales o administrativos. Implementar medidas para identificar alucinaciones de IA en argumentos legales, alegatos o documentos oficiales. Capacitar a profesionales del derecho y la administración pública sobre los riesgos, limitaciones y cuestiones éticas relacionadas con el uso de IA en su trabajo.

Nuestras reflexiones sobre la sentencia

Esta sentencia es una advertencia a los profesionales del derecho sobre el uso acrítico de herramientas de IA en la investigación y redacción jurídica. Demuestra por qué la verificación exhaustiva de datos sigue siendo esencial, independientemente de la fuente de información, para mantener los estándares profesionales y garantizar la justicia.

El caso demuestra que las herramientas de IA pueden "alucinar", generando jurisprudencia, estatutos o argumentos completamente ficticios. A medida que los sectores legal y administrativo adoptan cada vez más la IA, esta decisión ilustra la importancia de revisar detenidamente el contenido generado por IA antes de permitir que influya en las decisiones oficiales.

También recuerda a los profesionales del derecho sus obligaciones éticas ante el tribunal y sus clientes, así como la necesidad de aplicar un criterio profesional sólido en el desempeño de sus funciones.

Compendio

Hechos y antecedentes

Mavundla impugnó una decisión del Departamento de Gobierno Cooperativo y Asuntos Tradicionales (COGTA) de KwaZulu-Natal en relación con una disputa por el liderazgo tradicional.

Sus representantes legales presentaron una notificación complementaria de apelación, citando a varias autoridades. Tras examinarla, el tribunal determinó que muchos de los casos citados no existían en ninguna base de datos jurídica reconocida.

El juez realizó una búsqueda independiente utilizando ChatGPT, un chatbot de IA, para verificar una de las citas. La IA confirmó incorrectamente la existencia y los detalles del caso, lo que demuestra la poca fiabilidad de estas herramientas para la investigación jurídica. El tribunal determinó que el equipo legal probablemente se basó en material generado por IA sin verificar su exactitud, lo que dio lugar a la presentación de referencias de casos ficticias.

Quedó claro que la investigación generada por IA incluía referencias a casos inventados, lo que suscitó serias dudas sobre la fiabilidad del trabajo jurídico elaborado con IA.

Razonamiento

El tribunal enfatizó que los profesionales del derecho tienen el deber ético de no engañar al tribunal, ya sea intencionalmente o por negligencia. Declaró que el desconocimiento de los riesgos de la IA no excusa el incumplimiento de este deber.

Presentar autoridades legales falsas o inexistentes tergiversa la ley y viola los estándares profesionales. El tribunal también señaló que los profesionales del derecho deben supervisar adecuadamente a su personal y garantizar que toda la información, incluido el contenido procedente de IA, sea precisa y fiable.

Orden

• El tribunal desestimó la solicitud de autorización para apelar del Sr. Mavundla, al no encontrar perspectivas razonables de éxito. Criticó las alegaciones por ser defectuosas y poco profesionales.
• El tribunal ordenó a Surendra Singh and Associates, el bufete de abogados que representa al Sr. Mavundla, el pago de las costas judiciales relacionadas con las comparecencias adicionales en las fechas especificadas. Esta orden indicó la desaprobación del tribunal de la conducta del bufete al presentar citas legales ficticias y no verificadas.
• Se instruyó al registrador que remitiera una copia de la sentencia al Consejo de Práctica Jurídica (Oficina Provincial de KwaZulu-Natal) para su investigación y la posible imposición de medidas disciplinarias contra los profesionales del derecho involucrados. Esta medida refleja la seria preocupación del tribunal por el uso indebido de contenido generado por IA y su impacto en la integridad profesional en los procedimientos judiciales.

Detalles de Mavundla contra MEC: COGTA

• Cita universal: [2025] ZAKZPHC 2
• Número de caso: 7940/2024P
• Nombre completo: Mavundla contra MEC: Departamento de Gobierno Cooperativo y Asuntos Tradicionales de KwaZulu-Natal y otros