Incidentes Asociados
En menos de un año y medio, Frankie Johnson, un hombre encarcelado en la prisión William E. Donaldson, a las afueras de Birmingham, Alabama (https://www.theguardian.com/us-news/alabama), afirma haber sido apuñalado unas 20 veces.
En diciembre de 2019, Johnson afirma haber sido apuñalado "al menos nueve veces" en su unidad de alojamiento. En marzo de 2020, un agente lo esposó a un escritorio después de una sesión de terapia de grupo y salió de la unidad. Tras esto, otro preso entró y lo apuñaló cinco veces.
En noviembre de ese mismo año, Johnson afirma que un agente lo esposó y lo llevó al patio de la prisión, donde otro preso lo atacó con un picahielos, apuñalándolo "cinco o seis veces" ante la mirada de dos agentes penitenciarios. Según Johnson, uno de los agentes instó a su agresor a cometer la agresión en represalia por una discusión previa entre Johnson y el agente.
En 2021, Johnson presentó una demanda contra las autoridades penitenciarias de Alabama por su falta de seguridad, violencia desenfrenada, falta de personal, hacinamiento y corrupción generalizada en las cárceles de Alabama. Para defender el caso, la fiscalía general de Alabama recurrió a un bufete de abogados que durante años ha recibido millones de dólares del estado para defender su problemático sistema penitenciario: Butler Snow.
Las autoridades estatales han elogiado a Butler Snow por su experiencia en la defensa de casos penitenciarios, y en particular a William Lunsford, director del grupo de práctica de litigios constitucionales y de derechos civiles del bufete. Sin embargo, ahora el bufete enfrenta sanciones por parte del juez federal que supervisa el caso de Johnson, después de que un abogado del bufete, en colaboración con Lunsford, citara casos generados por inteligencia artificial, que resultaron ser inexistentes.
Este es uno de los cada vez más numerosos casos en los que abogados de todo el país han enfrentado consecuencias por incluir información falsa generada por IA en documentos legales oficiales. Una base de datos que intenta rastrear la prevalencia de los casos ha identificado 106 casos en todo el mundo donde los tribunales han encontrado alucinaciones causadas por IA en documentos judiciales.
El año pasado, un abogado fue suspendido del ejercicio de la abogacía durante un año en el distrito federal central de Florida, después de que un comité determinara que había citado casos falsos generados por IA. En California, a principios de este mes, una jueza federal ordenó a una firma a pagar más de $30,000 en honorarios legales tras incluir en un escrito investigaciones falsas generadas por IA.
En una audiencia celebrada el miércoles en Birmingham sobre el caso de Johnson, la jueza de distrito estadounidense Anna Manasco declaró que estaba considerando una amplia gama de sanciones —incluyendo multas, formación jurídica continua obligatoria, remisiones a organizaciones de licencias y suspensiones temporales— contra Butler Snow, después de que el abogado, Matthew Reeves, utilizara ChatGPT para añadir citaciones falsas a los documentos relacionados con las disputas en curso sobre declaraciones y descubrimientos en el caso.
Manasco sugirió que, hasta el momento, las medidas disciplinarias impuestas en todo el país no han sido suficientes. El caso actual es "una prueba fehaciente de que esas sanciones fueron insuficientes", declaró a los abogados. “Si lo fueran, no estaríamos aquí”.
Durante la audiencia, los abogados de Butler Snow se disculparon efusivamente y afirmaron que aceptarían las sanciones que Manasco considerara apropiadas. También señalaron una política estricta que exige a los abogados solicitar aprobación al utilizar IA para investigación legal.
Reeves intentó asumir toda la responsabilidad.
“Estaba al tanto de las limitaciones en el uso de IA, y en estos dos casos no cumplí con la política”, declaró Reeves. “Espero que su señoría no castigue a mis colegas”.
Los abogados de Butler Snow fueron designados por la fiscalía general de Alabama y reciben pagos del estado para defender a Jefferson Dunn, excomisionado del Departamento de Correccionales de Alabama, en este caso.
Lunsford, quien tiene el contrato con el estado para el caso, afirmó que había comenzado a revisar los documentos presentados anteriormente para asegurarse de que no hubiera más casos de citaciones falsas.
“Esto es muy reciente y delicado”, declaró Lunsford a Manasco. La respuesta del bufete a esto aún no está completa.
Manasco afirmó que permitiría a Butler Snow presentar una moción en un plazo de 10 días para explicar el proceso que seguirán para abordar el problema antes de tomar una decisión sobre las sanciones.
El uso de las citaciones falsas de IA en el caso salió a la luz en relación con una disputa de programación.
Los abogados de Butler Snow se habían puesto en contacto con los abogados de Johnson para programar una declaración jurada de Johnson, quien aún se encuentra en prisión. Los abogados de Johnson se opusieron a las fechas propuestas, señalando documentos pendientes a los que consideraban tener derecho antes de que Johnson fuera depuesto.
Sin embargo, en una presentación judicial el 7 de mayo, Butler Snow refutó que la jurisprudencia exige que Johnson sea depuesto con celeridad. "Los tribunales del Undécimo Circuito y de distrito autorizan rutinariamente las declaraciones juradas de personas encarceladas cuando se les notifica debidamente y la declaración jurada es relevante para las demandas o defensas, sin perjuicio de otras disputas sobre el descubrimiento de pruebas", escribieron.
Los abogados enumeraron cuatro casos que aparentemente respaldaban su afirmación. Resultó que todos eran inventados.
Si bien algunos de los casos citados se asemejaban a citaciones de casos reales, ninguno era relevante para el asunto planteado ante el tribunal. Por ejemplo, uno correspondía a un caso de 2021 titulado Kelley contra la Ciudad de Birmingham, pero según los abogados de Johnson, «el único caso existente con el título Kelley contra la Ciudad de Birmingham que el abogado del demandante pudo identificar fue resuelto por el Tribunal de Apelaciones de Alabama en 1939 en relación con la resolución de una multa por exceso de velocidad».
A principios de esta semana, los abogados de Johnson presentaron una moción señalando las invenciones y sugiriendo que eran producto de «inteligencia artificial generativa». También encontraron otra citación aparentemente inventada en una presentación anterior relacionada con una disputa sobre el descubrimiento de pruebas.
Al día siguiente, Manasco programó una audiencia para determinar si los abogados de Butler Snow debían ser sancionados. “Ante la gravedad de la acusación, el tribunal ha realizado búsquedas independientes de cada citación presuntamente inventada, sin éxito”, escribió.
En una declaración ante el tribunal, Reeves afirmó haber estado revisando los documentos presentados por un colega de menor rango y que quería incluir citas para lo que consideraba cuestiones de derecho bien establecidas.
“Tenía un conocimiento general de ChatGPT”, escribió Reeves, y añadió que realizó una búsqueda de jurisprudencia que respaldaba las mociones, lo que “identificó de inmediato citas supuestamente aplicables a dichas cuestiones”. Sin embargo, en su “prisa por finalizar las mociones y presentarlas”, “no verificó las citas de los casos devueltos por ChatGPT mediante una revisión independiente en Westlaw o Pacer antes de incluirlas”.
“Lamento sinceramente esta falta de diligencia y criterio”, escribió Reeves. “Asumo toda la responsabilidad”.
Los casos en los que contenido falso de IA se introduce en los expedientes judiciales parecen ser cada vez más frecuentes, afirmó Damien Charlotin, investigador jurídico y académico residente en París que intenta rastrear los casos.
"Observo una aceleración", afirmó. "Hay muchísimos casos en las últimas semanas y meses en comparación con antes".
Sin embargo, hasta ahora, la respuesta de los tribunales al problema ha sido notablemente indulgente, afirmó Charlotin. Las sanciones más graves, como multas cuantiosas y suspensiones, suelen aplicarse cuando los abogados no asumen la responsabilidad de sus errores.
"No creo que esto dure", afirmó Charlotin. "Creo que en algún momento todos estarán al tanto".
Además del caso Johnson, Lunsford y Butler Snow tienen contratos para trabajar en varios casos extensos de derechos civiles contra el Departamento de Correccionales de Alabama, incluyendo uno interpuesto por el Departamento de Justicia de los Estados Unidos bajo el gobierno de Donald Trump en 2020, que identifica muchos de los mismos problemas sistémicos de amplio alcance que Johnson señaló en su demanda y alega que las condiciones violan la prohibición de la octava enmienda sobre castigos crueles e inusuales.
El contrato para ese caso solo alcanzó un valor cercano a los $15 millones en dos años en algún momento.
Algunos legisladores de Alabama han cuestionado la cantidad que el estado está gastando en la firma para defender los casos. Sin embargo, hasta el momento, el error de esta semana no parece haber minado la confianza del fiscal general en Lunsford ni en Butler Snow para que continúen con su trabajo.
El miércoles, Manasco preguntó a un abogado de la fiscalía general, presente en la audiencia, si mantendrían o no a Butler Snow.
"El Sr. Lunsford sigue siendo el abogado de cabecera de la fiscalía general", respondió.