Incidentes Asociados
Un juez local ordenó una investigación sobre la conducta de abogados que utilizaron inteligencia artificial generativa (GenAI) para presentar citaciones inexistentes en los tribunales.
Esto ocurrió después de que, en un caso ante el Tribunal Superior de Johannesburgo, Northbound Processing presentara una solicitud urgente de medidas cautelares para obligar al Regulador Sudafricano de Diamantes y Metales Preciosos a liberar una licencia de refinación que ya se había emitido, pero que estaba retenida pendiente del cumplimiento de ciertas condiciones.
La licencia estaba vinculada a la adquisición por parte de Northbound de un negocio de procesamiento de Rappa Resources en 2024. El regulador exigió la confirmación de la devolución de la licencia de Rappa antes de liberar la de Northbound.
En documentos judiciales vistos por ITWeb el lunes, el juez en funciones DJ Smit señaló que un aspecto preocupante de este caso fue la inclusión de citaciones falsas en los argumentos legales de Northbound, lo cual el tribunal atribuyó a resultados "alucinados" generados por herramientas de IA.
Criticó esta práctica, destacando los peligros de confiar en GenAI sin la debida verificación.
La inexistencia de referencias socavó la credibilidad de los argumentos de Northbound y se consideró un lamentable uso indebido de la IA en los procedimientos legales.
Durante la preparación de la sentencia, Smit descubrió que dos casos citados en los argumentos principales de Northbound Processing —presentados para respaldar puntos importantes relacionados con el mandato judicial— eran ficticios.
El juez interino solicitó aclaraciones a las partes, y el abogado junior de Northbound, Giles Barclay-Beuthin, explicó inicialmente que se había presentado una versión incorrecta de los argumentos principales, atribuyendo el problema a la confusión causada por citas abreviadas utilizadas durante la redacción. También proporcionó una versión corregida en la que se reemplazaron los párrafos problemáticos.
Sin embargo, el abogado de la parte contraria señaló que la versión revisada contenía dos citas incorrectas adicionales. Además, cuestionó si las referencias legales existentes respaldaban con precisión las proposiciones que pretendían respaldar. El abogado de Northbound tuvo otra oportunidad para responder. ### Menos ingenioso
En respuesta a una consulta directa del tribunal, Barclay-Beuthin reconoció que las citas inexistentes probablemente provenían de una herramienta de IA.
Afirmó que, debido a los plazos apremiantes —incluida la urgencia del caso, el tiempo limitado para finalizar los alegatos principales y la retirada anticipada de otro abogado junior—, había utilizado una herramienta llamada "Legal Genius", que afirmaba estar basada exclusivamente en fuentes jurídicas sudafricanas.
El juez interino preguntó si esta situación se correspondía con un caso reciente en la División de KwaZulu-Natal (Mavundla), donde se citaron casos inexistentes basándose en la investigación realizada por un aspirante a abogado.
En el caso Mavundla vs. MEC: Departamento de Gobierno Cooperativo y Asuntos Tradicionales de KwaZulu-Natal, el Tribunal Superior de Pietermaritzburg abordó las consecuencias de que los profesionales del derecho presentaran citas de casos falsas, probablemente generadas por IA, en sus presentaciones judiciales.
Según el bufete de abogados Michalsons, la sentencia Mavundla constituye una advertencia para los profesionales del derecho sobre el uso indiscriminado de herramientas de IA en la investigación y redacción de documentos jurídicos. «Demuestra por qué la verificación exhaustiva de datos sigue siendo esencial, independientemente de la fuente de información, para mantener los estándares profesionales y garantizar la justicia».
Barclay-Beuthin argumentó que se diferenciaba del caso Mavundla, en parte porque el abogado principal, Arnold Subel SC, no había hecho referencia a los casos inventados en el tribunal y nadie sufrió perjuicios debido a los errores.
Subel asumió plena responsabilidad por el descuido, se disculpó y expresó su incredulidad ante la posibilidad de que la información se hubiera generado tal como se describe. Afirmó haber confiado en su experimentado equipo legal, que incluía a dos abogados junior, y que solo había realizado una revisión general (comprobación del sentido) de los encabezamientos antes de su presentación. Consideraba que las proposiciones jurídicas implicadas estaban bien fundamentadas y no requerían citación. Sus alegatos orales se prepararon de forma independiente y no se basaron en los encabezamientos escritos.
El tribunal reiteró la obligación profesional de los profesionales del derecho de no inducir a error al tribunal, ni siquiera por negligencia.
El juez en funciones respaldó el razonamiento de Mavundla y una reciente decisión del Tribunal Superior inglés, que advertía sobre los peligros de confiar en GenAI para la investigación jurídica sin verificación.
El tribunal inglés enfatizó que la IA puede generar resultados convincentes pero falsos, incluyendo fuentes y citas inventadas, y que los profesionales del derecho tienen el deber de verificar dicho contenido antes de utilizarlo en la práctica.
Smit enfatizó que el uso indebido de la IA en procedimientos judiciales puede perjudicar gravemente el sistema judicial y la confianza pública.
El Tribunal Superior de Inglaterra declaró que las medidas disciplinarias, incluyendo amonestaciones públicas, órdenes de costas y remisiones a organismos reguladores, podrían ser apropiadas, dependiendo de las circunstancias.
Disculpa aceptada
Smit concluyó que, si bien aceptaba las disculpas del equipo legal y no halló intención de engañar al tribunal, incluso los errores involuntarios en este contexto pueden tener graves consecuencias.
En consonancia con el caso Mavundla, ordenó que la conducta de los abogados de Northbound se remitiera al Consejo de Práctica Legal para su investigación.
"En el contexto de la investigación jurídica, los riesgos del uso de inteligencia artificial son bien conocidos. Dichas herramientas pueden producir respuestas aparentemente coherentes y plausibles a las indicaciones, pero esas respuestas coherentes y plausibles pueden resultar completamente incorrectas", declaró Smit.
Las respuestas pueden hacer afirmaciones seguras que simplemente son falsas. Pueden citar fuentes inexistentes. Pueden pretender citar pasajes de una fuente genuina que no aparecen en ella. Quienes utilizan inteligencia artificial para realizar investigaciones jurídicas, a pesar de estos riesgos, tienen el deber profesional de comprobar la exactitud de dicha investigación consultando fuentes fidedignas antes de utilizarla en su labor profesional (por ejemplo, para asesorar a clientes o ante un tribunal).
La solicitud de Northbound Processing se tramita con carácter de urgencia, dictaminó el juez en funciones.