Incidentes Asociados
Pocos abogados serían tan tontos como para dejar que una IA presente sus argumentos, pero uno ya lo hizo, y el juez Brantley Starr está tomando medidas para garantizar que la debacle no se repita en su sala del tribunal.
El juez federal de Texas agregó el requisito de que cualquier abogado que comparezca en su tribunal debe atestiguar que “ninguna parte de la presentación fue redactada por inteligencia artificial generativa”, o si lo fue, que fue verificada “por un ser humano”.
La semana pasada, el abogado Steven Schwartz permitió que ChatGPT “ complementar” su investigación legal en una presentación federal reciente, brindándole seis casos y precedentes relevantes, todos los cuales fueron completamente alucinados por el modelo de lenguaje. Ahora ["se arrepiente mucho" de haber hecho esto](https://arstechnica.com/tech-policy/2023/05/lawyer-cited-6-fake-cases-made-up-by-chatgpt-judge-calls-it -sin precedentes/), y aunque la cobertura nacional de este error probablemente hizo que otros abogados pensaran en intentarlo, el juez Starr no quiere correr ningún riesgo.
En el sitio federal del Distrito Norte de Texas, Starr tiene, al igual que otros jueces, la oportunidad de establecer reglas específicas para su sala de audiencias. Y se agregó recientemente (aunque no está claro si esto fue en respuesta a la presentación antes mencionada) [“Certificación obligatoria sobre inteligencia artificial generativa”] (https://www.txnd.uscourts.gov/judge/judge-brantley-starr ) Eugene Volokh [informó por primera vez la noticia](https://reason.com/volokh/2023/05/30/federal-judge-requires-all-lawyers-to-file-certificates-related-to-use-of- generativo-ai/).
Todos los abogados que comparecen ante el Tribunal deben presentar en el expediente un certificado que acredite que ninguna parte de la presentación fue redactada por inteligencia artificial generativa (como ChatGPT, Harvey.AI o Google Bard) o que cualquier lenguaje redactado por inteligencia artificial generativa fue verificada por un ser humano para verificar su precisión, utilizando reporteros impresos o bases de datos legales tradicionales.
Se adjunta un formulario para que lo firmen los abogados, en el que se señala que "las citas, las citaciones, las aseveraciones parafraseadas y el análisis legal" están cubiertos por esta proscripción. Dado que el resumen es uno de los puntos fuertes de AI, y encontrar y resumir casos precedentes o anteriores es algo que se ha anunciado como potencialmente útil en el trabajo legal, esto puede terminar entrando en juego con más frecuencia de lo esperado.
Quien redactó el memorándum sobre este asunto en la oficina del juez Starr está al tanto. El requisito de certificación incluye una explicación bastante bien informada y convincente de su necesidad (se agregaron saltos de línea para mejorar la legibilidad):
Estas plataformas son increíblemente poderosas y tienen muchos usos en la ley: divorcios de formularios, solicitudes de descubrimiento, errores sugeridos en documentos, preguntas anticipadas en argumentos orales. Pero la información legal no es una de ellas. Este es el por qué.
Estas plataformas en su estado actual son propensas a alucinaciones y prejuicios. Sobre las alucinaciones, inventan cosas, incluso citas y menciones. Otro problema es la confiabilidad o el sesgo. Mientras que los abogados hacen un juramento para dejar de lado sus prejuicios, prejuicios y creencias personales para defender fielmente la ley y representar a sus clientes, la inteligencia artificial generativa es el producto de la programación ideada por humanos que no tenían que hacer tal juramento.
Como tal, estos sistemas no guardan lealtad a ningún cliente, el estado de derecho o las leyes y la Constitución de los Estados Unidos (o, como se indicó anteriormente, la verdad). Libres de cualquier sentido del deber, el honor o la justicia, estos programas actúan de acuerdo con un código de computadora en lugar de convicciones, basados en programación en lugar de principios. Cualquier parte que crea que una plataforma tiene la precisión y confiabilidad requeridas para la presentación de informes legales puede solicitar una licencia y explicar por qué.
En otras palabras, prepárate para justificarte.
Si bien este es solo un juez en un tribunal, no sería sorprendente que otros tomaran esta regla como propia. Si bien, como dice el tribunal, esta es una tecnología poderosa y potencialmente útil, su uso debe ser, como mínimo, claramente declarado y verificado para verificar su precisión.