Incidents associés
UnitedHealthcare, le plus grand fournisseur d'assurance maladie aux États-Unis, est actuellement impliqué dans un recours collectif alléguant le refus injustifié de demandes de soins prolongés pour les patients âgés grâce à l'utilisation d'un algorithme d'intelligence artificielle (IA) appelé nH Predict.
Le procès, déposé devant le tribunal de district américain du district du Minnesota, accuse UnitedHealthcare d'utiliser l'algorithme nH Predict pour prendre des décisions en matière de soins de santé, conduisant à l'arrêt prématuré et de mauvaise foi du paiement des services de santé. Les plaignants, représentant les successions de personnes décédées couvertes par les plans Medicare Advantage fournis par UnitedHealthcare, affirment qu'ils ont été contraints de payer de leur poche des soins médicalement nécessaires en raison des refus de réclamation de l'assureur. Cette poursuite pourrait impliquer des milliers de personnes et des milliards de dollars de dommages, selon un avocat des plaignants.
Le procès allègue que l'algorithme nH Predict, développé par NaviHealth, une société acquise par UnitedHealth en 2020, a systématiquement refusé les demandes de soins prolongés des patients âgés, y compris les séjours dans des établissements de soins infirmiers qualifiés et les soins à domicile. On prétend que lorsque ces refus font l'objet d'un appel devant les juges administratifs fédéraux, environ 90 % sont annulés, ce qui met en évidence l'inexactitude présumée de l'algorithme. Les plaignants soutiennent également que l'utilisation de la technologie par UnitedHealth est illégale et viole les contrats avec les patients et les lois sur les assurances dans divers États.
Le récent [décret présidentiel sur l'IA](https://www.whitehouse.gov/briefing-room/statements-releases/2023/10/30/fact-sheet-president-biden-issues-executive-order-on- intelligence artificielle sûre-sécurisée et digne de confiance/#:~:text=The%20Executive%20Order%20establishes%20new,around%20the%20world%2C%20and%20more.) pourrait potentiellement avoir des implications dans des cas comme celui-ci à l'avenir. L’ordonnance souligne la nécessité de transparence et de responsabilité dans les systèmes d’IA, en particulier dans des secteurs tels que la santé, où les décisions prises par les algorithmes d’IA peuvent avoir des impacts de vie ou de mort importants. En promouvant l’utilisation responsable de l’IA et en garantissant que les systèmes d’IA sont conçus et déployés de manière à garantir l’équité et à prévenir la discrimination, le décret vise à atténuer les situations dans lesquelles les algorithmes d’IA refusent à tort des soins essentiels aux populations vulnérables, telles que les personnes âgées.
Les allégations contre UnitedHealthcare soulignent l’importance d’une mise en œuvre éthique et responsable de l’IA, en particulier dans le secteur de la santé. Alors que l’IA continue de jouer un rôle de plus en plus important dans la prise de décision, il est crucial pour les organisations de donner la priorité aux considérations éthiques entourant son utilisation. Cela implique de garantir que les algorithmes d’IA sont précis, transparents et alignés sur les meilleurs intérêts des patients, en particulier lorsqu’il s’agit de décisions critiques concernant la couverture et le traitement des soins de santé.
"Dans la réglementation de l'IA, la frontière est mince entre une surveillance efficace et des idées fausses sur la technologie", déclare Ryan Elmore, AI Innovation Fellow chez West Monroe. "Même une gouvernance bien intentionnée peut être entravée par un manque de connaissances techniques et des intérêts financiers conflictuels."
Dans le contexte de ce procès, l’attention portée aux pratiques de gestion des données et de gouvernance est d’une importance primordiale. La gouvernance des données définit la manière dont une organisation gère ses actifs de données et garantit la disponibilité, l’intégrité, la sécurité et la convivialité des actifs de données structurés et non structurés d’une organisation. Les organisations qui gèrent mal leurs données en tant qu’actifs réels sont sur le point d’en abuser.
Voici pourquoi c’est crucial dans ce contexte :
Sécurité et confidentialité des patients : la gouvernance des données dans le domaine des soins de santé est cruciale pour garantir la sécurité et la confidentialité des patients en maintenant l'exactitude et la sécurité des données des patients. Dans le cas d’une prise de décision basée sur l’IA dans le domaine des soins de santé, des données précises et sécurisées sur les patients sont essentielles pour garantir que les algorithmes d’IA prennent des décisions éclairées et éthiques concernant les soins aux patients.
Intégrité et convivialité des données : en établissant des normes et des politiques de gestion des données, les organisations peuvent garantir l'intégrité et la sécurité de leurs données, tout en garantissant la conformité aux exigences réglementaires. Ceci est particulièrement important lorsque les algorithmes d’IA sont utilisés pour prendre des décisions critiques concernant les soins aux patients, car l’exactitude et l’intégrité des données utilisées par ces algorithmes ont un impact direct sur les résultats pour les patients.
Transparence et responsabilité : la gouvernance des données fournit un cadre pour gérer les données tout au long de leur cycle de vie, y compris la manière dont les données sont collectées, stockées, traitées, analysées et partagées. Ce niveau de transparence et de responsabilité est essentiel lorsque les algorithmes d’IA sont impliqués dans la prise de décision en matière de soins de santé, car il garantit que les décisions prises par ces algorithmes sont basées sur des données précises et fiables.
Responsabilité partagée et collaboration : la gouvernance des données crée une responsabilité partagée pour les membres du personnel en les impliquant activement dans la création de politiques, de meilleures pratiques, de procédures et de produits de travail qui améliorent la qualité des données démographiques des patients. Dans le contexte d’une prise de décision basée sur l’IA, cette responsabilité partagée garantit que les données utilisées par les algorithmes d’IA sont de haute qualité et reflètent l’expertise collective et la collaboration des professionnels de santé.
Prise de décision éclairée : la gouvernance garantit que les bonnes personnes peuvent utiliser les données au bon moment pour les bonnes raisons, soutenant la prise de décision et garantissant que l'organisation atteint avec succès les résultats souhaités et tire une valeur commerciale des activités de gestion des données. Cela est particulièrement pertinent lorsque les algorithmes d’IA sont utilisés dans le domaine des soins de santé, car une prise de décision éclairée est cruciale pour garantir le bien-être des patients.
L'éthique comme priorité d'entreprise
Le procès contre UnitedHealthcare rappelle brutalement les conséquences potentielles d’une utilisation abusive de l’IA (intentionnelle ou non) dans le secteur de la santé. Le récent décret sur l’IA souligne la nécessité de pratiques d’IA éthiques et responsables, en particulier dans des domaines critiques tels que les soins de santé, afin d’éviter les situations dans lesquelles les algorithmes d’IA pourraient refuser à tort des soins essentiels aux populations vulnérables. Quoi qu’il en soit, il est impératif pour les établissements de santé de donner la priorité au déploiement éthique de l’IA, de réduire les biais dans les algorithmes et les données et de respecter des normes élevées de transparence et d’équité dans toutes sortes de processus décisionnels automatisés.
« Il s’agit d’une préoccupation émergente de plus à ajouter à la liste croissante des défis commerciaux existentiels émergents pour les leaders des données et de l’analyse », déclare Keyur Desai, responsable des données dans le secteur de la santé. « Cependant, avec des relations et une collaboration solides entre les responsables des données, de la technologie et des entreprises, ce n'est certainement pas insurmontable. Le progrès humain ne s’est jamais arrêté pour que nous puissions rattraper notre retard éthique, et nous ne devrions pas non plus nous attendre à ce qu’il le fasse.