Incidentes Asociados
UnitedHealthcare, el mayor proveedor de seguros médicos de EE. UU., está actualmente envuelto en una demanda colectiva que alega la denegación injusta de reclamaciones de atención prolongada para pacientes de edad avanzada mediante el uso de un algoritmo de inteligencia artificial (IA) llamado nH Predict.
La demanda, presentada en el Tribunal de Distrito de EE. UU. para el Distrito de Minnesota, acusa a UnitedHealthcare de utilizar el algoritmo nH Predict para tomar decisiones sobre atención médica, lo que llevó a la interrupción prematura y de mala fe del pago de los servicios de atención médica. Los demandantes, que representan los patrimonios de personas fallecidas cubiertas por planes Medicare Advantage proporcionados por UnitedHealthcare, afirman que se vieron obligados a pagar de su bolsillo la atención médicamente necesaria debido a que la aseguradora rechazó las reclamaciones. Esta demanda involucra potencialmente a miles de personas y miles de millones de dólares en daños y perjuicios, según un abogado de los demandantes.
La demanda alega que el algoritmo nH Predict, desarrollado por NaviHealth, una empresa adquirida por UnitedHealth en 2020, negó sistemáticamente las reclamaciones de atención prolongada de los pacientes mayores, incluidas estancias en centros de enfermería especializada y atención domiciliaria. Se afirma que cuando estas denegaciones se apelan ante jueces federales de derecho administrativo, aproximadamente el 90% son revocadas, lo que pone de relieve la supuesta inexactitud del algoritmo. Los demandantes también argumentan que el uso de la tecnología por parte de UnitedHealth es ilegal y viola contratos con pacientes y leyes de seguros en varios estados.
La reciente [orden ejecutiva presidencial sobre IA](https://www.whitehouse.gov/briefing-room/statements-releases/2023/10/30/fact-sheet-president-biden-issues-executive-order-on- safe-secure-and-trustworthy-artificial-intelligence/#:~:text=The%20Executive%20Order%20establece%20new,about%20the%20world%2C%20and%20more.) podría tener implicaciones para casos como este en el futuro. La orden enfatiza la necesidad de transparencia y rendición de cuentas en los sistemas de IA, particularmente en sectores como el de la salud, donde las decisiones tomadas por los algoritmos de IA pueden tener importantes impactos de vida o muerte. Al promover el uso responsable de la IA y garantizar que los sistemas de IA se diseñen e implementen de manera que respeten la justicia y prevengan la discriminación, la orden ejecutiva tiene como objetivo mitigar situaciones en las que los algoritmos de IA niegan indebidamente atención esencial a poblaciones vulnerables, como las personas mayores.
Las acusaciones contra UnitedHealthcare subrayan la importancia de una implementación ética y responsable de la IA, particularmente en la industria de la salud. A medida que la IA continúa desempeñando un papel cada vez más destacado en la toma de decisiones, es crucial que las organizaciones prioricen las consideraciones éticas que rodean su utilización. Esto incluye garantizar que los algoritmos de IA sean precisos, transparentes y alineados con los mejores intereses de los pacientes, especialmente cuando se trata de decisiones críticas relacionadas con la cobertura y el tratamiento de la atención médica.
"En la regulación de la IA, existe una delgada línea entre la supervisión efectiva y los conceptos erróneos sobre la tecnología", dice Ryan Elmore, becario de innovación en IA de West Monroe. "Incluso la gobernanza bien intencionada puede verse obstaculizada por la falta de conocimientos técnicos y por intereses financieros en conflicto".
En el contexto de esta demanda, la atención a las prácticas de gobernanza y gestión de datos es de suma importancia. El gobierno de datos define cómo una organización gestiona sus activos de datos y garantiza la disponibilidad, integridad, seguridad y usabilidad de los activos de datos estructurados y no estructurados de una organización. Las organizaciones que administran mal sus datos como un activo real están preparadas para hacer un mal uso de esos activos.
He aquí por qué es crucial en este contexto:
Seguridad y privacidad del paciente: la gobernanza de datos en la atención médica es crucial para garantizar la seguridad y privacidad del paciente manteniendo la precisión y seguridad de los datos del paciente. En el caso de la toma de decisiones en el sector sanitario impulsada por la IA, los datos precisos y seguros de los pacientes son esenciales para garantizar que los algoritmos de IA tomen decisiones informadas y éticas con respecto a la atención al paciente.
Integridad y usabilidad de los datos: al establecer estándares y políticas para la gestión de datos, las organizaciones pueden garantizar la integridad y seguridad de sus datos, al mismo tiempo que mantienen el cumplimiento de los requisitos reglamentarios. Esto es particularmente importante cuando se utilizan algoritmos de IA para tomar decisiones críticas sobre la atención al paciente, ya que la precisión y la integridad de los datos utilizados por estos algoritmos impactan directamente en los resultados de los pacientes.
Transparencia y responsabilidad: la gobernanza de datos proporciona un marco para gestionar los datos a lo largo de su ciclo de vida, incluida la forma en que se recopilan, almacenan, procesan, analizan y comparten. Este nivel de transparencia y responsabilidad es esencial cuando los algoritmos de IA participan en la toma de decisiones sanitarias, ya que garantiza que las decisiones tomadas por estos algoritmos se basen en datos precisos y fiables.
Responsabilidad compartida y colaboración: el gobierno de datos crea una responsabilidad compartida para los miembros del personal al involucrarlos activamente en la creación de políticas, mejores prácticas, procedimientos y productos de trabajo que mejoran la calidad de los datos demográficos de los pacientes. En el contexto de la toma de decisiones impulsada por la IA, esta responsabilidad compartida garantiza que los datos utilizados por los algoritmos de IA sean de alta calidad y reflejen la experiencia colectiva y la colaboración de los profesionales de la salud.
Toma de decisiones informada: la gobernanza garantiza que las personas adecuadas puedan utilizar los datos en el momento adecuado y por los motivos correctos, apoyando la toma de decisiones y garantizando que la organización alcance con éxito los resultados deseados y reciba valor empresarial de las actividades de gestión de datos. Esto es particularmente relevante cuando se utilizan algoritmos de IA en la atención médica, ya que la toma de decisiones informada es crucial para garantizar el bienestar de los pacientes.
La ética como prioridad empresarial
La demanda contra UnitedHealthcare sirve como un claro recordatorio de las posibles consecuencias del uso indebido de la IA (ya sea intencional o no) en el sector de la salud. La reciente orden ejecutiva sobre IA subraya la necesidad de prácticas de IA éticas y responsables, particularmente en áreas críticas como la atención médica, para evitar situaciones en las que los algoritmos de IA puedan negar injustamente atención esencial a poblaciones vulnerables. De todos modos, es imperativo que las organizaciones de atención médica prioricen la implementación ética de la IA, reduzcan los sesgos en los algoritmos y los datos y mantengan altos estándares de transparencia y equidad en todo tipo de procesos automatizados de toma de decisiones.
"Esta es una preocupación más que se suma a la creciente lista de desafíos empresariales existenciales emergentes para los líderes de datos y análisis", dice Keyur Desai, ejecutivo de datos de la industria de la salud. “Sin embargo, con relaciones y colaboración sólidas entre los ejecutivos de datos, tecnología y negocios, ciertamente no es insuperable. El avance humano nunca se ha detenido para que podamos ponernos al día con la ética, ni debemos esperar que lo haga”.