Incidents associés
Les successions de deux assurés UnitedHealthcare Medicare Advantage décédés affirment que la compagnie d'assurance utilise un outil d'IA pour refuser illégalement la couverture nécessaire pour les soins post-aigus, y compris les soins infirmiers qualifiés et les soins à domicile, aux membres âgés du régime, selon un recours collectif proposé en justice. le tribunal de district américain du district du Minnesota cette semaine.
Le procès déposé mardi devant un tribunal fédéral du Minnesota allègue que le géant de l'assurance utilise un outil appelé naviHealth, ou le nH Predict AI Model, pour refuser une couverture médicalement nécessaire aux participants du régime.
L'algorithme de nH Predict détermine les critères de couverture des patients Medicare Advantage dans les contextes de soins post-aigus avec des « prédictions rigides et irréalistes » pour la guérison, affirme le procès.
UnitedHealth Group, ainsi que ses filiales UnitedHealthcare et NaviHealth, sont tous nommés défendeurs dans le procès, qui a été intenté par les successions de deux membres décédés du Medicare Advantage Plan, Gene Lokken et Dale Henry Tetzloff, qui se seraient tous deux vu refuser certains soins post-aigus. prise en charge par l'assureur.
Le procès affirme que l'utilisation par l'entreprise du modèle nH Predict AI incite les employés de l'examen médical de UnitedHealthcare à cesser prématurément de couvrir les soins sans tenir compte des besoins individuels d'un patient. L'utilisation de l'outil pour refuser aux membres une couverture post-aiguë est « systématique, illégale, malveillante et oppressive », affirme le procès.
UnitedHealth utilise l'outil nH Predict pour refuser les réclamations afin d'économiser des sommes substantielles qui seraient autrement dépensées par l'entreprise pour couvrir les soins post-aigus médicalement nécessaires pour les assurés Medicare Advantage, ainsi que les coûts de main-d'œuvre et le temps associés à la réalisation d'une « analyse manuelle individualisée ». examen de chacune des réclamations de ses assurés", indique le procès.
L'assureur utilise l'outil NH Predict « pour refuser de manière agressive la couverture parce qu'il sait qu'il ne sera pas tenu responsable des refus injustifiés », car la plupart des membres du secteur de la santé renoncent à une procédure d'appel pour leur refus de couverture, selon le procès.
Les plaignants font état d'une longue liste de violations de « mauvaise foi » en matière d'assurance étatique et fédérale, de rupture de contrat et d'un assortiment d'autres réclamations contre UnitedHealthcare et ses filiales.
Le litige vise des dommages-intérêts réels, légaux, punitifs et autres, ainsi qu'une injonction pour que UnitedHealth mette fin à ses pratiques de traitement des réclamations prétendument inappropriées et illégales.
Déclaration du groupe UnitedHealth
UnitedHealth Group, dans une déclaration à Information Security Media Group, a contesté les allégations du procès. "L'outil de prévision naviHealth n'est pas utilisé pour déterminer la couverture", a déclaré la société.
"L'outil est utilisé comme guide pour nous aider à informer les prestataires, les familles et autres soignants sur le type d'assistance et de soins dont le patient peut avoir besoin à la fois dans l'établissement et après son retour à la maison", indique le document.
"Les décisions en matière de couverture sont basées sur les critères de couverture des Centers for Medicare et Medicaid Services et sur les conditions du plan du membre. Ce procès n'a aucun fondement et nous nous défendrons vigoureusement."
Surveillance croissante
L'utilisation d'outils d'IA et d'autres pratiques controversées par UnitedHealthcare et d'autres compagnies d'assurance dans leurs déterminations de couverture du Medicare Advantage Plan ont également fait l'objet d'un examen récent par le Congrès.
Lors d'une audience en mai, le Sénat de la Sécurité intérieure et le sous-comité d'enquête du Comité des affaires gouvernementales a examiné les refus et les retards de couverture des soins de santé par les plans de santé Medicare Advantage, y compris l'utilisation d'outils d'IA tels que naviHealth de UnitedHealthcare.
Certains experts affirment que l’utilisation croissante de l’IA dans les soins de santé présente d’énormes promesses, mais aussi des risques importants.
"Les trois plus grandes mines terrestres pour les soins de santé et les assureurs sont les résultats négatifs pour les patients, la discrimination et la responsabilité juridique - que ce soit par le biais d'une poursuite pour faute professionnelle médicale, d'une affaire en vertu de la False Claims Act ou d'un recours collectif", a déclaré l'avocate en réglementation Rachel Rose.
"Les algorithmes manipulés ou biaisés, qui ont des effets discriminatoires sur la confidentialité des données et des résultats négatifs pour les patients - tant cliniques que financiers - seront au centre des préoccupations des régulateurs et des avocats civils."
Qu'il s'agisse d'un diagnostic, d'une détermination de couverture ou d'une autre décision clinique, "si les informations entrant dans l'algorithme sont faussées, alors le résultat sera faussé", a déclaré Rose. La surveillance humaine de l’IA est essentielle, a-t-elle déclaré.
La Maison Blanche et certaines agences gouvernementales, telles que la Federal Trade Commission, ont également souligné l'importance d'avoir un « facteur de contrôle de l'être humain » dans l'utilisation de l'IA, a-t-elle déclaré (voir : Biden's Executive Order on AI: What's in It pour les soins de santé ?).
"L'essentiel est que ni les êtres humains ni l'IA générative ne disparaîtront de si tôt. Il est donc essentiel de mettre en place des mesures de protection et de travailler ensemble tout au long du processus et de l'utilisation de l'IA."
La controverse autour de l’utilisation par les assureurs maladie d’outils d’IA pour prétendument refuser certaines couvertures à certains membres de régimes de santé montre la nécessité particulière d’un cadre réglementaire soigneusement élaboré pour l’IA, affirment certains experts.
"Tout outil, y compris l'IA, peut être utilisé à des fins bénéfiques ou inappropriées et illégales", a déclaré l'avocat Steven Teppler, associé et responsable juridique de la cybersécurité du cabinet d'avocats Mandelbaum Barrett PC.
"L'autorégulation de ces outils dans le domaine de la santé présente un risque encore plus grand que dans le domaine financier - pensez à ce qui s'est passé dans le domaine des cryptomonnaies", a-t-il déclaré. "Un certain degré de garde-fous imposés par la réglementation est nécessaire pour minimiser la possibilité de ce qui, si cela est vrai, est allégué dans la plainte."