Problema 5486

Un abogado junior sudafricano que utilizó una herramienta de inteligencia artificial (https://thehighstreetjournal.com/?s=+artificial+intelligence+) para redactar alegatos judiciales fue remitido al Consejo de Práctica Legal para su investigación tras incluir jurisprudencia ficticia en sus alegatos escritos. El caso, que involucra una licencia en disputa relacionada con la venta de Rappa Resources a Northbound Processing, se ha convertido en uno de los episodios legales más destacados del país por el uso indebido de IA generativa.

Northbound Processing había acudido al tribunal con urgencia, solicitando al Regulador Sudafricano de Diamantes y Metales Preciosos que le otorgara una licencia de refinación, argumentando que sin ella se enfrentaría a graves pérdidas comerciales. Si bien el tribunal finalmente falló a favor de Northbound, el juez interino DJ Smit remitió el asunto a los reguladores legales tras descubrir múltiples citas de casos inexistentes en los argumentos presentados por el equipo legal de Northbound.

"En mi opinión, no importa que dichos casos no se presentaran oralmente, sino que estuvieran contenidos en argumentos escritos", escribió Smit en su fallo. "Los argumentos escritos son tan importantes como memorial de los argumentos del abogado como los argumentos orales y, por razones puramente prácticas, los jueces suelen confiar más en ellos".

Abogado Junior Admite Usar Herramienta de IA

Al ser interrogado, el abogado junior admitió haber usado Legal Genius, una herramienta de IA que se promocionaba como si estuviera capacitada en jurisprudencia sudafricana, y explicó que los errores se debieron a limitaciones de tiempo y a la falta de disponibilidad del colega que redactó inicialmente el documento. Se disculpó sin reservas y asumió toda la responsabilidad, insistiendo en que no hubo intención de engañar al tribunal. El abogado principal de Northbound, Arnold Subel, también emitió una disculpa, afirmando que solo había realizado una "verificación de sentido" del documento y que creía que las propuestas eran triviales.

Advertencias más amplias sobre la IA en la práctica jurídica

Refilwe Motsoeneng, asociada del bufete de abogados especializado en tecnología digital Michalsons Giles Inc., señaló que el caso ilustra los riesgos legales y éticos del contenido generado por IA sin verificar en los tribunales.

"Este caso refuerza el deber ético de verificar de forma independiente todas las fuentes legales antes de citarlas. Incluso las 'alucinaciones' involuntarias de IA pueden dañar la reputación y dar lugar a denuncias por mala praxis profesional", declaró.

"No pueden sustituir la investigación jurídica adecuada ni la supervisión profesional. Los tribunales exigen altos estándares, especialmente en solicitudes urgentes que se basan en presentaciones escritas", añadió.

Parte de un patrón creciente en los tribunales sudafricanos

Este es el tercer caso conocido en Sudáfrica en el que se ha descubierto que modelos lingüísticos extensos introdujeron citas legales falsas en los expedientes judiciales:

• En 2023, los representantes legales de un Plan de Títulos Seccionales citaron autoridad ficticia de ChatGPT y recibieron una orden de costas punitivas.

• En 2025, la jueza Elsje-Marie Bezuidenhout, en un caso aparte, determinó que solo dos de las nueve citas en una apelación del alcalde de Umvoti, Godfrey Mavundla, eran legítimas. Calificó el incidente de "irresponsable y absolutamente poco profesional" y lo remitió al Consejo de Práctica Jurídica.

La jueza Smit se hizo eco de esa decisión, citando el artículo 16(1) del Código de Conducta Judicial, que obliga a los jueces a denunciar "faltas profesionales graves o incompetencia manifiesta" a las autoridades competentes.

Aclarando el principio legal en el punto de mira

Más allá de la controversia sobre la IA, la sentencia del tribunal también confirmó un punto regulatorio clave: una vez que un organismo regulador emite y comunica una licencia, esta no puede denegarse unilateralmente sin seguir los procesos legales adecuados.

"A menos que una decisión sea impugnada formalmente ante un tribunal y anulada, sigue siendo válida y debe ejecutarse. Esto es importante para cualquier empresa que dependa de licencias o aprobaciones gubernamentales para operar", declaró Motsoeneng.

Es probable que el caso sirva como precedente para los profesionales del derecho que experimentan con la IA generativa en litigios, reforzando la necesidad de una verificación rigurosa de las fuentes y de unos límites profesionales claros en la práctica legal digital.