Incidentes Asociados
Ante la inexistencia de citaciones legales en un asunto ante el Tribunal Superior de Gauteng, Johannesburgo, un juez interino preguntó al abogado responsable si las citaciones constituían "alucinaciones" de inteligencia artificial (IA), a lo que el abogado, indignado, confirmó que "parece ser así".
El juez interino DJ Smit descubrió esto cuando se disponía a redactar su sentencia en un caso de Northbound Processing, que pretendía obligar al Regulador Sudafricano de Diamantes y Metales Preciosos a otorgarle una licencia de refinación.
El juez Smit señaló que, mientras redactaba la sentencia, se percató de que dos casos citados en los alegatos de Northbound no existían. Invitó al abogado de Northbound a aclarar la situación.
Se alegó la premura del tiempo, ya que el asunto se presentó ante el tribunal con carácter urgente. El abogado explicó que utilizaba una herramienta de suscripción en línea llamada "Legal Genius", que afirmaba estar "exclusivamente especializada en sentencias y legislación sudafricana". Sin embargo, se informó al tribunal que, si bien en los argumentos iniciales figuraban algunas citas inexistentes (de jurisprudencia aplicable previa), el abogado principal que argumentó el asunto no se basó en los casos inexistentes durante la vista oral.
El abogado que explicó la situación al tribunal aceptó toda la responsabilidad por los errores, pero enfatizó que no hubo intención de engañar al tribunal.
El abogado principal (quien no fue responsable de las citas inexistentes) se disculpó profusamente en nombre del equipo legal de Northbound. También explicó que contaba con un equipo legal experimentado (que incluía a dos abogados junior competentes) en quienes creía poder confiar (y de hecho lo hizo).
El abogado principal afirmó que solo realizó una "verificación de sentido" de los argumentos iniciales de Northbound antes de su presentación y que no tuvo suficiente oportunidad de comprobar la exactitud de las citas.
En su sentencia sobre este tema, el juez Smit se refirió a una sentencia reciente de la King’s Bench Division en la que el juez inglés advirtió sobre los riesgos del uso de IA, especialmente en la investigación jurídica, ya que podría ser totalmente incorrecto y citar fuentes inexistentes.
El juez afirmó que el uso indebido de la inteligencia artificial tiene graves consecuencias para la administración de justicia y la confianza pública en el sistema judicial.
El juez Smit reconoció las disculpas de los abogados en este asunto, pero señaló que incluso la negligencia en este contexto puede tener graves repercusiones. Remitió la conducta de los abogados al Consejo de Práctica Jurídica para su investigación.