Incidentes Asociados
Cuando se lanzó el bot ChatGPT el año pasado, los profesores de derecho advirtieron que pronto podría hacerse cargo de gran parte de la profesión legal y comenzar a redactar informes.
Ahora, un abogado que lo utilizó para llevar a cabo una investigación ha tenido que pedir disculpas a un juez tras recopilar un escrito repleto de jurisprudencia que le había facilitado el bot. Los casos parecían relevantes pero, desafortunadamente, todos estaban inventados. El abogado, Steven Schwartz, incluso le preguntó al bot si eran reales. "Sí", dijo, según una transcripción dada a modo de explicación.
Schwartz había sido contratado por Roberto Mata, quien alegó que había sufrido lesiones "incapacitantes" a bordo de un avión en 2019 cuando un carrito de metal golpeó su rodilla. Schwartz "consultó ChatGPT para complementar la investigación legal", dijo en una declaración jurada.
El bot proporcionó varios casos que parecían relevantes, incluido Varghese v China Southern Airlines Co Ltd, de 2019, ante el Tribunal de Apelaciones del Undécimo Circuito de EE. UU. Los abogados de la aerolínea se quejaron de que no pudieron encontrar los casos citados. El equipo de Schwartz presentó ocho documentos más que detallan las demandas contra las aerolíneas.
El juez P Kevin Castel, en Nueva York, los examinó. "Seis de los documentos presentados parecen ser decisiones falsas con citas falsas y citas falsas", dijo.
Se puso en contacto con un secretario del Undécimo Circuito, quien dijo que nadie llamado Varghese había aparecido en la última década y que el número de referencia del caso se refería a otro que involucraba a un hombre que luchaba contra la extradición.
Schwartz envió su conversación con el chatbot, en la que quedó claro que albergaba dudas sobre su asistente robótico. "¿Es Varghese un caso real?", le preguntó al bot. "Sí", respondió.
Obtenga análisis, noticias y comentarios de expertos en The Brief, la guía interna de nuestro editor legal, todos los jueves.
"¿Cuál es tu fuente?", preguntó. El bot dijo que "después de verificar dos veces, descubrí que el caso Varghese v South China Airlines... de hecho existe".
"¿Son falsos los otros casos que proporcionó?", continuó el abogado.
"No, los otros casos que proporcioné son reales y se pueden encontrar en bases de datos legales acreditadas", dijo.
Ellos no eran. El juez Castel ordenó a Schwartz comparecer ante él el 8 de junio para explicar por qué no debe ser sancionado por infracciones que incluyen "citación de casos inexistentes".