Incidentes Asociados
Un fiscal de EE. UU. enfrenta cargos en un tribunal de Nueva York por usar citas falsas generadas por ChatGPT de OpenAI en una investigación legal para un caso que estaba manejando, como se [informó] por primera vez (https://www.nytimes.com/2023/05/27) /nyregion/avianca-airline-lawsuit-chatgpt.html) por The New York Times. Steven Schwartz (sin relación) admitió haber usado ChatGPT para investigar el caso, representando a Roberto Mata en una demanda contra la aerolínea colombiana Avianca por lesiones sufridas a bordo uno de sus aviones en 2019.
ChatGPT Legal
A pesar de las advertencias ampliamente conocidas de ChatGPT de que a veces puede producir información incorrecta, Schwartz se defendió en una declaración jurada que certifica que "no estaba al tanto de que su contenido podría ser falso". El juez Kevin Castel se mostró escéptico sobre el escrito cuando se presentó. Cuestionó las referencias en el escrito a casos anteriores, incluidos Varghese v. China South Airlines, Martinez v. Delta Airlines, Shaboon v. EgyptAir, Petersen v. Iran Air, Miller v. United Airlines y Estate of Durden v. KLM Royal. Aerolíneas Holandesas. Resultó que esos casos no existían.
“Seis de los casos presentados parecen ser decisiones judiciales falsas con citas falsas y citaciones internas falsas”, dijo Castel.
Castel emitió una orden exigiendo una explicación por su citación por parte del equipo legal de Mata. En respuesta, Schwartz se comprometió a nunca usar IA en el futuro para “complementar” su investigación legal “sin una verificación absoluta de su autenticidad”, pero ahora enfrenta sanciones. Una audiencia sobre el asunto ahora está programada para el 8 de junio.
Esto es muy diferente del juez colombiano que usó ChatGPT para ayudar a redactar un fallo legal. En ese caso, el juez Juan Manuel Padilla fue abierto sobre el uso de ChatGPT y le preguntó sobre el caso, aunque no cuánto había ayudado en la redacción del fallo. Le hizo varias preguntas al chatbot, entre ellas: "¿Está [un] menor autista exonerado de pagar las tarifas de sus terapias?" ChatGPT respondió: “Sí, esto es correcto. Según la normativa en Colombia, los menores de edad diagnosticados con autismo están exentos del pago de tasas por sus terapias”. Padilla señaló en una entrevista radial que vio a ChatGPT como un asistente similar a una secretaria capaz de responder rápidamente y, en teoría, mejorar el tiempo de respuesta del sistema de justicia. Sin embargo, se aseguró de no seguir ciegamente la respuesta del chatbot antes de emitir su respuesta, verificándola antes de la publicación.