Incidentes Asociados
Un informe sobre atención médica encargado por Deloitte (https://fortune.com/company/deloitte/), que costó a una provincia casi 1,6 millones de dólares, contiene errores posiblemente generados por inteligencia artificial. Este es el segundo país este año que denuncia deficiencias en la verificación de datos de la consultora.
Los errores, detectados en una investigación publicada el sábado por Independent, un medio de comunicación canadiense progresista que cubre Terranova y Labrador, la provincia más oriental del país, aparecen en un informe de 526 páginas difundido por el gobierno en mayo. El informe asesoró al Departamento de Salud y Servicios Comunitarios del entonces gobierno liberal sobre temas como la atención virtual, los incentivos para la retención y el impacto de la pandemia de COVID-19 en el personal sanitario, en un momento en que el sector sanitario de la provincia se enfrenta a una escasez de personal médico y de enfermería.
El informe de Deloitte contenía citas falsas, se extrajo de artículos académicos inventados para extraer conclusiones para análisis de coste-efectividad, y citaba a investigadores reales en artículos en los que no habían colaborado, según descubrió el Independent. Incluía artículos ficticios escritos en coautoría por investigadores que afirmaron no haber colaborado nunca.
"Deloitte Canadá respalda firmemente las recomendaciones de nuestro informe", declaró un portavoz de Deloitte Canadá a Fortune en un comunicado. "Estamos revisando el informe para realizar algunas correcciones en las citas, que no afectan a las conclusiones del informe. No se utilizó inteligencia artificial para redactar el informe; se utilizó de forma selectiva para respaldar un pequeño número de citas de investigación". El extenso informe también citaba un artículo académico del Canadian Journal of Respiratory Therapy, que aún no se encuentra al buscar en su base de datos.
"Parece que si se están inventando cosas como esta, es posible que estén utilizando la IA de forma intensiva para generar trabajo", declaró Gail Tomblin Murphy, profesora adjunta de la Facultad de Enfermería de la Universidad de Dalhousie en Nueva Escocia, al Independent. Tomblin Murphy fue citada por Deloitte en un artículo académico que "no existe". Añadió que solo había trabajado con tres de los otros seis autores mencionados en la cita falsa.
"Y definitivamente creo que esto presenta muchos desafíos. Debemos ser muy cuidadosos para asegurarnos de que la evidencia que sustenta los informes sea la mejor evidencia, que sea evidencia validada. Y que, en definitiva, estos informes, no solo porque cuestan a los gobiernos y al público, sean precisos, se basen en la evidencia y sean útiles para avanzar". Hasta el lunes, el informe seguía disponible en el sitio web del gobierno canadiense.
El gobierno canadiense gastó poco menos de 1,6 millones de dólares en el informe, pagándolo en ocho cuotas, según una solicitud de acceso a la información publicada en una entrada de blog el miércoles pasado.
Tony Wakeham, líder del Partido Conservador Progresista en la provincia y nuevo primer ministro, asumió el cargo a finales de octubre. La Oficina del Primer Ministro de Terranova y Labrador y el Departamento de Salud y Servicios Comunitarios de la provincia no respondieron de inmediato a la solicitud de comentarios de Fortune sobre el informe de mayo y no han abordado públicamente el tema.
La revelación llega tras la noticia del mes pasado de que Deloitte utilizó IA en un informe de 290.000 dólares (https://fortune.com/2025/10/07/deloitte-ai-australia-government-report-hallucinations-technology-290000-refund/?utm_source=search&utm_medium=suggested_search&utm_campaign=search_link_clicks), publicado en julio para ayudar al gobierno australiano a tomar medidas enérgicas contra la asistencia social. Sin embargo, un investigador detectó alucinaciones en el estudio de 237 páginas, que incluía referencias a artículos académicos inexistentes y una cita inventada de una sentencia de un tribunal federal.
En el estudio revisado, que se subió discretamente al sitio web del gobierno australiano, la consultora admitió haber utilizado el sistema de lenguaje de IA generativa Azure OpenAI para elaborar el informe. "Las actualizaciones realizadas no impactan ni afectan en modo alguno el contenido sustancial, las conclusiones ni las recomendaciones del informe", escribió Deloitte en una sección del estudio actualizado.
La firma miembro de Deloitte en Australia tuvo que pagar al gobierno un reembolso parcial por el informe. Aún no se ha publicado información sobre un posible reembolso por el informe de Canadá.