Incidentes Asociados
La Cámara Penal de Esquel anuló una condena por robo simple al detectar que el juez utilizó inteligencia artificial generativa sin control humano ni trazabilidad, violando principios constitucionales y éticos
La Cámara en lo Penal de Esquel anuló el fallo dictado el 4 de junio de 2025 en la causa "PROVINCIA DEL CHUBUT c/ P.R.A.", al comprobar que **el juez de la causa utilizó inteligencia artificial generativa para redactar parte de la sentencia sin supervisión ni transparencia. **
El tribunal consideró que el uso de IA en la resolución de planteos probatorios vulneró el debido proceso, al no permitir controlar la trazabilidad del razonamiento judicial ni garantizar la autoría humana de la decisión.
La sentencia anulada había condenado al imputado a dos años y seis meses de prisión efectiva por robo simple, basado en registros fílmicos y una pericia cuestionada por la defensa.
Los jueces Hernán Dal Verme, Martín Eduardo Zacchino y Carina Paola Estefanía coincidieron en que el fallo carecía de fundamentación válida, al incluir una frase que evidenciaba el uso directo de IA: ***"Aquí tienes el punto IV reeditado, sin citas y listo para copiar y pegar". ***
'Dicha frase da cuenta, objetivamente, que el magistrado ha utilizado un asistente de inteligencia artificial (IA) generativa de aquellos que se utilizan para realizar tareas como escribir, planificar, aprender y explorar ideas y se caracteriza por su capacidad para procesar y comprender información de diversas fuentes, como texto, imágenes y videos, funcionando con un enfoque en el aprendizaje', sostuvieron los magistrados.
Y remarcan que** el magistrado utilizó la IA generativa, ni más ni menos, que en un aspecto central de la resolución en crisis **como es la resolución de las nulidades de dos pruebas esenciales en el proceso.
'La circunstancia de haber copiado todo el texto proporcionado por el asistente, exhibe que, de mínima, no ha ejercido correctamente la supervisión y el control humano obligatorio', sentenciaron los camaristas.
Uso incorrecto de la IA en los poderes judiciales
En la sentencia, los magistrados muestran su preocupación respecto de la 'conversación' que el juez pudo haber mantenido con el asistente de la IA generativa, al manifestar que 'ciertamente, si no hubiera estado escrita dicha frase, nunca hubiéramos descubierto que el magistrado utilizó la IA para la resolución del caso, con la gravedad que ello conlleva, pues como vengo sosteniendo se trata de una herramienta complementaria que no ha sido diseñada para sustituir la actividad intelectual del Juez sino para colaborar con su elaboración, siendo obligatorio por los principios de transparencia y supervisión dejar constancia en la sentencia de las colaboraciones requeridas'.
Y advierten sobre el **uso incorrecto de la IA **en el ámbito jurisdiccional en tanto refieren que la oración transcripta *'alerta sobre la probabilidad de que el a quo haya delegado la decisión, circunstancias todas, que imponen la declaración de la nulidad sentencia, de *conformidad a lo dispuesto en el art. 164 del CPP'.
Finalmente, respecto de la utilización de la IA y la fundamentación de la sentencia señalaron que 'al no dejar constancia del uso de la herramienta y a qué fines, impide controlar cuál ha sido el grado de asistencia requerida y, con ello, el control de las partes en cuanto a la trazabilidad del razonamiento del magistrado'.
Por todo ello, el tribunal ordenó reenviar el caso a otro juez penal, prohibiendo al Ministerio Público Fiscal exhibir en el nuevo juicio los videos omitidos en el anterior, y remitió las actuaciones al Superior Tribunal de Justicia para investigar el uso indebido de IA.