Problema 2591
Un juez en Colombia causó revuelo al admitir que usó la herramienta de inteligencia artificial ChatGPT al decidir si el seguro de un niño autista debería cubrir todos los costos de su atención médica. tratamiento. También utilizó precedentes de sentencias anteriores para respaldar su decisión.
Juan Manuel Padilla, juez de la ciudad caribeña de Cartagena, concluyó que la totalidad de los gastos médicos y los costos de transporte del niño deberían ser pagados por su plan médico ya que sus padres no podían pagarlos.
Si bien el fallo en sí no causó mucho alboroto, la inclusión de las conversaciones de Padilla con ChatGPT en el fallo ha sido más polémica.
Entre las consultas de Padilla con el chatbot, los documentos legales muestran que Padilla le preguntó a ChatGPT el asunto legal preciso en cuestión: "¿Está exonerado un menor autista de pagar las tarifas de sus terapias?"
La respuesta de ChatGPT se correspondió con la decisión final del juez: “Sí, esto es correcto. Según la normativa en Colombia, los menores de edad diagnosticados con autismo están exentos del pago de tasas por sus terapias”.
El caso ha suscitado una discusión sobre el uso de la IA en la ley y ha sido criticado por algunos de los compañeros de Padilla.
ChatGPT busca texto en Internet para generar respuestas informadas pero se ha demostrado que proporciona diferentes respuestas a la misma pregunta. También fabrica información en ocasiones para hacer mentiras inventivas y convincentes.
La plataforma naciente ha causado alarma en las últimas semanas, incluso en las escuelas, donde los maestros temen que los estudiantes puedan usar la plataforma de OpenAI para plagiar.
Padilla defendió su uso de la tecnología, sugiriendo que podría hacer que el sistema legal inflado de Colombia sea más eficiente. El juez también utilizó precedentes de fallos anteriores para respaldar su decisión.
Padilla dijo el martes a Blu Radio que ChatGPT y otros programas similares podrían ser útiles para "facilitar la redacción de textos" pero "no con el objetivo de reemplazar" a los jueces.
Padilla también insistió en que “haciendo preguntas a la aplicación, no dejamos de ser jueces, seres pensantes”.
El juez argumentó que ChatGPT realiza servicios que antes prestaba una secretaria y lo hacía “de manera organizada, sencilla y estructurada” que podría “mejorar los tiempos de respuesta” en el sistema de justicia.
El profesor Juan David Gutiérrez de la Universidad del Rosario estuvo entre los que expresaron su incredulidad ante la admisión del juez.
Pidió capacitación urgente en "alfabetización digital" para los jueces.
Colombia aprobó una ley en 2022 que sugiere que los abogados públicos deben usar tecnologías donde sea posible para hacer su trabajo más eficiente.
Octavio Tejeiro, juez de la corte suprema de Colombia, dijo que la IA causó pánico moral en la ley porque la gente temía que los robots reemplazaran a los jueces, pero predijo que la herramienta probablemente pronto sería aceptada y común.
“El sistema de justicia debe aprovechar al máximo la tecnología como herramienta pero siempre dentro de la ética y teniendo en cuenta que el administrador de justicia es en última instancia un ser humano”, dijo Tejeiro. “Debe ser visto como un instrumento que le sirve al juez para mejorar su juicio. No podemos permitir que la herramienta se vuelva más importante que la persona”.
Tejeiro le dijo a The Guardian que no había usado ChatGPT pero que consideraría usarlo en el futuro.
El propio chatbot estaba más preocupado por su nuevo papel en el sistema de justicia.
“Los jueces no deben usar ChatGPT cuando se pronuncian sobre casos legales… No es un sustituto del conocimiento, la experiencia y el juicio de un juez humano”, respondió a una pregunta de The Guardian.
“Los periodistas deben tener cuidado al usar citas generadas por ChatGPT en sus artículos”, agregó el bot.