Incidentes Asociados
Tras un escándalo relacionado con la falsificación de fuentes encontradas en el Acuerdo Educativo provincial, The Independent ha confirmado que otro importante informe de políticas encargado por el gobierno contiene citas falsas, como las generadas por inteligencia artificial, lo que pone en duda la credibilidad de los documentos de políticas que involucran el uso de IA.
El Plan de Recursos Humanos de Salud de Terranova y Labrador, elaborado por la consultora global Deloitte y publicado en mayo por el Departamento de Salud y Servicios Comunitarios, contiene al menos cuatro citas que no existen o parecen no existir.
El informe le costó a la provincia casi 1,6 millones de dólares, según documentos obtenidos mediante una solicitud de acceso a la información y publicados en el sitio web del bloguero Matt Barter.
El Plan de Recursos Humanos de Salud fue encargado por el anterior gobierno liberal como parte de sus esfuerzos por desarrollar una estrategia eficaz de recursos humanos para el sector sanitario de la provincia, que se ha visto afectado por la escasez de personal médico y de enfermería.
Los trabajos de investigación citados en el documento de 526 páginas se utilizan para respaldar afirmaciones relacionadas con estrategias de contratación, incentivos monetarios para la contratación y retención, atención virtual y el impacto de la pandemia de COVID-19 en el personal sanitario.
En un caso, el informe cita a un equipo de investigadores y su trabajo para respaldar la afirmación de que los incentivos monetarios y de contratación "tienen beneficios inherentes de ahorro, ya que costarán menos que contratar y capacitar a nuevos empleados a medio y largo plazo".
Martha MacLeod, profesora emérita de la Facultad de Enfermería de la Universidad del Norte de Columbia Británica y una de las coautoras del artículo citado en dicha afirmación —"La rentabilidad de un programa rural de retención para enfermeras tituladas en Canadá"— declaró a The Independent que la cita es "falsa" y "posiblemente generada por IA".
"Nuestro equipo ciertamente ha realizado investigaciones sobre enfermería rural y remota", declaró en un correo electrónico. "Pero nunca realizamos un análisis de rentabilidad ni dispusimos de los datos financieros para hacerlo".
En otro caso, se cita a un equipo de investigadores para respaldar la afirmación de que "la contratación local suele ser la estrategia más rentable, ya que elimina la necesidad de costosos paquetes de reubicación, reduce la probabilidad de rotación y puede reducir los costos de contratación y capacitación".
Una de las autoras de ese artículo —titulado, según el informe, "La rentabilidad de las estrategias locales de contratación y retención de personal sanitario en Canadá"— declaró a The Independent que, si bien ella y algunos de los investigadores mencionados en la cita han trabajado en la economía de las estrategias de contratación y retención, el artículo en sí "no existe". Gail Tomblin Murphy, profesora adjunta de la Facultad de Enfermería de la Universidad de Dalhousie y exvicepresidenta de investigación, innovación y descubrimiento de la autoridad sanitaria de Nueva Escocia, afirmó que solo ha trabajado con tres de los otros seis autores mencionados en la cita.
"Parece que, si se les ocurren cosas como esta, es posible que estén utilizando la IA de forma intensiva para generar trabajo", afirmó Tomblin Murphy. Y definitivamente creo que esto presenta muchos desafíos. Debemos ser muy cuidadosos para asegurarnos de que la evidencia que sustenta los informes sea la mejor evidencia, que sea evidencia validada. Y que, en definitiva, estos informes —no solo porque cuestan a los gobiernos y al público— sean precisos, se basen en la evidencia y sean útiles para avanzar.
Se utiliza una tercera cita para respaldar la afirmación, no controvertida, de que los terapeutas respiratorios registrados que trabajan en centros de cuidados intensivos informaron un aumento de la carga de trabajo y los niveles de estrés debido a la pandemia. El informe de Deloitte afirma que un grupo de investigadores "descubrió" este hecho en un artículo titulado "El impacto de la COVID-19 en la carga de trabajo y los niveles de estrés de los terapeutas respiratorios en Canadá", publicado en la Revista Canadiense de Terapia Respiratoria.
El informe incluye un hipervínculo a un artículo en el sitio web de la Revista Canadiense de Terapia Respiratoria que no aborda la carga de trabajo ni los niveles de estrés de los terapeutas respiratorios registrados debido a la pandemia. The Independent no ha podido confirmar la existencia del artículo, ya que no aparece en buscadores académicos ni en el sitio web de la Revista Canadiense de Terapia Respiratoria.
No es la primera vez que Deloitte lo hace
El mes pasado, Deloitte acaparó titulares internacionales después de que su firma en Australia elaborara un informe para el gobierno australiano que contenía "aparentes errores generados por IA, incluyendo una cita inventada de una sentencia de un tribunal federal y referencias a artículos de investigación académica inexistentes", según Associated Press.
Según se informa, la firma acordó reembolsar parcialmente al gobierno 290.000 dólares estadounidenses, pero Deloitte no respondió a las preguntas de AP sobre la posible participación de la IA. La firma declaró a AP que "el asunto se resolvió directamente con el cliente".
El informe fue eliminado del sitio web del gobierno australiano y reapareció posteriormente, esta vez con una declaración en su apéndice que indicaba que en parte del informe se utilizó un sistema de IA generativa llamado Azure OpenAI; la empresa no vinculó específicamente los errores con el programa de IA.
Según informes de prensa, la compañía afirmó que el uso de IA no tuvo impacto en el contenido sustancial, los hallazgos ni las recomendaciones del informe.
Deloitte fomenta el uso de tecnologías de IA, tanto dentro de la empresa como con sus clientes. Una declaración del director ejecutivo de Deloitte Canadá, Anthony Viel, publicada en el sitio web de la firma, señala que Deloitte está "ayudando e inspirando a las organizaciones canadienses a aprovechar todas las posibilidades, brindándoles el conocimiento del sector, la infraestructura y los servicios en la nube necesarios para que puedan desarrollar, capacitar e implementar modelos de IA generativa de forma segura, ética y con impacto, que nos sirven a todos en la era de la transformación digital".
En el Plan de Recursos Humanos de Salud de N.L., Deloitte recomienda el uso de IA generativa "para apoyar a los profesionales sanitarios en la toma de decisiones clínicas e informar sobre el desarrollo de planes de tratamiento personalizados". El informe también sugiere que la IA puede "ayudar a analizar datos hospitalarios (por ejemplo, historiales médicos electrónicos, datos de reclamaciones médicas, etc.) y analizar patrones y tendencias para orientar la asignación de recursos".
En un informe publicado en su sitio web a principios de este año, Deloitte Canadá afirma que «la creciente confianza [en la IA generativa] subraya una responsabilidad fundamental para las empresas canadienses: garantizar que la confianza no se dé por sentada, sino que se fomente activamente mediante la transparencia y la colaboración».
«Es fundamental que todas las partes participen y que la gobernanza esté integrada en el diseño, desarrollo e implementación de las soluciones de IA», afirma el informe, y añade que «es crucial establecer barreras para la implementación responsable de las soluciones de IA generativa, priorizando al mismo tiempo la capacitación para garantizar que las personas comprendan la tecnología y sepan cómo utilizarla eficazmente».
Deloitte no respondió a las preguntas de The Independent al momento de la publicación.
Wakeham y los PC guardan silencio hasta el momento
Tras el escándalo del Acuerdo Educativo, el entonces primer ministro electo Tony Wakeham declaró a la Asociación de Maestros de Terranova y Labrador que era «vergonzoso» que el informe contuviera los errores, según informó CBC/Radio-Canadá, y que el «primer paso del PC será revisar el Acuerdo Educativo en detalle». y hablar directamente con los autores sobre el contenido para determinar qué es factual y qué no.
The Independent preguntó recientemente al primer ministro si su gobierno revisaría sus políticas sobre inteligencia artificial, pero un portavoz de la oficina de Wakeham afirmó que no estaba priorizando ninguna.
Ante la detección de un segundo informe importante encargado por el gobierno que contenía errores probablemente generados por la IA, The Independent preguntó a Wakeham y al Departamento de Salud y Servicios Comunitarios de la provincia qué hará el gobierno en respuesta a la situación, cómo verificará la veracidad de las afirmaciones del informe, si solicitará un reembolso a Deloitte y si considerará una política sobre el uso de la IA en informes de terceros.
El gobierno tuvo más de dos días para responder, pero no lo hizo al momento de la publicación.
Líder del NDP Jim Dinn dice estar "indignado" por la revelación, especialmente considerando lo reciente que fue el escándalo del Acuerdo Educativo. "Están jugando con la vida de las personas", dijo el viernes. "Ya tenemos suficientes informes en los medios que están socavando la confianza en el sistema de salud tal como está, y la gente está desesperada". Así que esto no inspira confianza en que estén intentando solucionar el problema.
Dinn afirmó que, independientemente de la medida en que se haya utilizado IA en ambos informes, "socava la confianza en los informes y en las decisiones" que se tomarán.
En junio, el gobierno provincial eligió a Deloitte para realizar una revisión de la dotación básica de personal de enfermería en la provincia, prevista para la primavera.
Al 22 de noviembre, el Plan de Recursos Humanos de Salud permanecía en el sitio web del Gobierno de Terranova y Labrador sin que se revelara el uso de IA.