Incidentes Asociados
Se han encontrado nuevos errores en un importante informe que Deloitte preparó para el gobierno federal, lo que aumenta las sospechas de que parte del contenido fue generado por inteligencia artificial.
El viernes, Australian Financial Review reveló que el informe de Deloitte para el Departamento de Empleo y Relaciones Laborales sobre los sistemas de cumplimiento de la seguridad social, que costó a los contribuyentes 439.000 dólares, contenía al menos media docena de referencias a obras académicas inexistentes. El académico especializado en bienestar social que descubrió las referencias incorrectas, Chris Rudge, ha descubierto que el informe también contiene una cita aparentemente inventada de la decisión en un caso importante de deudas robóticas, Deanna Amato contra Commonwealth.
Deloitte afirmó que, en ese caso, el juez Davis (un error ortográfico de Davies) había dicho en los párrafos 25 y 26: «La carga de la decisión recae en quien la toma de decisiones, quien debe estar satisfecho con la evidencia de que la deuda existe. Los derechos legales de una persona no pueden reducirse legalmente basándose en una suposición no respaldada por pruebas».
No aparece dicha cita en las órdenes de consentimiento emitidas por la jueza de la Corte Federal Jennifer Davies el 27 de noviembre de 2019; de hecho, las órdenes no contienen los párrafos 25 ni 26. Otra cita, extraída del párrafo 30, en realidad proviene del párrafo 9.
En tres lugares, Deloitte citó el caso Amato como «[2021] FCA 1019». De hecho, esa cita se refiere a un caso de migración no relacionado (CKL21 contra el Ministro del Interior).
Rudge declaró a Financial Review que no encuentra "ninguna fuente" para la cita, lo que le llevó a concluir que fue generada por IA.
"Una cosa es citar [incorrectamente] a académicos o atribuir a académicos obras inexistentes, y otra muy distinta es citar [incorrectamente] a jueces y, por lo tanto, tergiversar el derecho consuetudinario australiano en un asesoramiento al gobierno de la Commonwealth", declaró.
Rudge también señaló que Amato concluyó con órdenes de consentimiento, en lugar de una sentencia.
"El hecho de que el informe no solo no identifique este hecho jurídico histórico, sino que también trate a Amato como un caso resuelto, indica, en el mejor de los casos, descuido y, en el peor, el total desconocimiento de los autores sobre la tramitación de este caso crucial".
Deloitte se negó a responder preguntas sobre si se utilizó IA para redactar el informe y a preguntas adicionales sobre los errores en la cita de Amato. La firma se mantuvo firme en el informe y prometió corregir errores en sus referencias.
Después de que la Revisión Financiera revelara que Deloitte había citado dos obras de Lisa Burton Crawford y una de Carolyn Adams que no existen, la consultora proporcionó una nueva lista de referencias, incluyendo otros tres cap ítulos de Burton Crawford en obras editadas.
La coautora de dos de esos capítulos, la profesora asociada de la Facultad de Derecho de la UNSW, Janina Boughey, afirmó que las nuevas referencias no necesariamente respaldan las proposiciones del informe de Deloitte.
Boughey indicó que las obras "no respaldan" una cita, pero "podrían respaldar" otras dos, "aunque no de forma específica".
"Las afirmaciones no parecen haber sido extraídas de una lectura de nuestro trabajo", afirmó.
Es bastante obvio que al menos algunas de las referencias han sido generadas por IA, ya que simplemente no existen.
Si yo fuera DEWR, pediría una explicación y me mostraría reacio a pagar por trabajos generados por IA. Tampoco volvería a trabajar con Deloitte en un futuro próximo. Se han utilizado fondos públicos para financiar un informe que carece de integridad.
Boughey afirmó que, "casi con toda seguridad", remitiría un trabajo estudiantil por problemas de integridad si contuviera tales errores.
Burton Crawford coincidió con las conclusiones de Boughey sobre la nueva lista de fuentes. "En la medida en que esas publicaciones respalden las afirmaciones del informe, lo hacen solo de forma muy general". No me convence que el informe inicial simplemente citara las publicaciones incorrectas.
Un portavoz del DEWR afirmó que "continúa investigando estas acusaciones y ha solicitado asesoramiento urgente de Deloitte sobre estos asuntos".
"Las preguntas sobre la redacción de los informes independientes deben dirigirse a Deloitte".
El viernes, una portavoz de Deloitte declaró: "Respaldamos nuestro trabajo y las conclusiones del informe. El contenido de cada artículo referenciado es preciso. Al finalizar la elaboración de las referencias en las notas a pie de página para su publicación, algunos títulos no coincidían plenamente con las fuentes correspondientes. Esto se ha comunicado al cliente y se están corrigiendo las referencias".