Incidents associés
UN SOIR DE juillet 2020, une femme nommée Kathryn s'est rendue à l'hôpital dans une douleur atroce. Étudiante diplômée en psychologie de 32 ans dans le Michigan, Kathryn vivait avec l'endométriose, une maladie angoissante qui provoque le développement anormal de cellules de type utérin au mauvais endroit. La menstruation provoque l'excrétion de ces excroissances - et, souvent, des crampes et des cicatrices douloureuses, conduisant parfois les organes internes à adhérer les uns aux autres - avant que tout le cycle ne recommence. Pendant des années, Kathryn avait géré son état en partie en prenant des opioïdes oraux comme le Percocet lorsqu'elle en avait besoin pour soulager la douleur. Mais l'endométriose est évolutive : après avoir été transportée d'urgence en chirurgie d'urgence pour enlever une excroissance potentiellement mortelle sur son ovaire, Kathryn craignait maintenant que quelque chose d'aussi dangereux se produise, compte tenu de la gravité de sa blessure. À l'hôpital, les médecins ont effectué une échographie pour exclure certains des pires scénarios, puis ont admis Kathryn en observation pour vérifier si son ovaire commençait à développer un autre kyste. En attendant, ont-ils dit, ils lui fourniraient des médicaments opioïdes par voie intraveineuse jusqu'à la fin de la crise. Lors de son quatrième jour à l'hôpital, cependant, quelque chose a changé. Un membre du personnel a brusquement informé Kathryn qu'elle ne recevrait plus aucun type d'opioïde. "Je ne pense pas que vous sachiez à quel point certains scores sont élevés dans votre tableau", a déclaré la femme. "Compte tenu des prescriptions que vous prenez, il est tout à fait évident que vous avez besoin d'une aide qui n'est pas liée à la douleur." Kathryn, qui a parlé à WIRED à condition que nous n'utilisions que son deuxième prénom pour protéger sa vie privée, était perplexe. À quel type d'aide la femme faisait-elle référence ? Quelles prescriptions, exactement ? Avant qu'elle ne puisse comprendre ce qui se passait, elle a été sommairement sortie de l'hôpital, toujours très souffrante. De retour à la maison, environ deux semaines plus tard, Kathryn a reçu une lettre du bureau de son gynécologue indiquant que son médecin « mettait fin » à leur relation. Une fois de plus, elle était mystifiée. Mais ce message offrait au moins une explication : il indiquait qu'elle était coupée à cause d'un "rapport de la base de données NarxCare". Comme la plupart des gens, Kathryn n'avait jamais entendu parler de NarxCare, alors elle l'a recherché et a découvert un ensemble de bases de données et d'algorithmes qui jouent un rôle de plus en plus central dans la réponse des États-Unis à sa crise des surdoses. Au cours des deux dernières décennies, le ministère américain de la Justice a investi des centaines de millions de dollars dans le développement et la maintenance de bases de données sur les médicaments d'ordonnance au niveau de l'État - des registres électroniques qui suivent les scripts de certaines substances contrôlées en temps réel, donnant aux autorités un œil sur le marché pharmaceutique. Chaque État américain, sauf un, a maintenant un de ces programmes de surveillance des médicaments sur ordonnance, ou PDMP. Et le dernier récalcitrant, le Missouri, est sur le point de rejoindre le reste. Au cours des dernières années, grâce à une série d'acquisitions et de contrats gouvernementaux, une seule société appelée Appriss en est venue à dominer la gestion de ces bases de données de prescription d'État. Alors que les registres eux-mêmes sont quelque peu balkanisés - chacun étant régi par ses propres bizarreries, exigences et paramètres - Appriss a contribué à les rendre interopérables, en les fusionnant en quelque chose comme un registre national des médicaments sur ordonnance homogène. Il est également allé bien au-delà de la simple collecte et de la récupération d'enregistrements, en développant des algorithmes d'apprentissage automatique pour générer des «informations sur les données» et en indiquant qu'il puise dans d'énormes réservoirs de données en dehors des registres nationaux des médicaments pour y parvenir. NarxCare, le système qui a inspiré le gynécologue de Kathryn à se séparer d'elle, est le produit phare d'Appriss pour les médecins, les pharmacies et les hôpitaux : un "outil d'analyse et une plate-forme de gestion des soins" qui prétend identifier instantanément et automatiquement le risque d'abus d'opioïdes d'un patient. Au niveau le plus élémentaire, lorsqu'un médecin interroge NarxCare à propos d'une personne comme Kathryn, le logiciel explore les registres d'état à la recherche de signaux d'alarme indiquant qu'elle s'est livrée à un comportement de « achat de médicaments » : il note le nombre de pharmacies qu'un patient a visitées, les distances qu'elle parcourt voyagé pour recevoir des soins de santé et les combinaisons d'ordonnances qu'elle reçoit. Au-delà de cela, les choses deviennent un peu mystérieuses. NarxCare offre également aux États un accès à un produit d'apprentissage automatique complexe qui attribue automatiquement à chaque patient un score de risque de surdose unique et complet. Seul Appriss sait exactement comment ce score est dérivé, mais selon le matériel promotionnel de l'entreprise, son modèle prédictif s'appuie non seulement sur les données du registre national des médicaments, mais "peut inclure des données sur les réclamations médicales, les dossiers de santé électroniques, les données EMS et les données de la justice pénale. ” Au moins huit États, dont le Texas, la Floride, l'Ohio et le Michigan, où vit Kathryn, se sont engagés à intégrer cet algorithme dans leurs programmes de surveillance. Malgré toute la complexité apparente de ces entrées, ce que les médecins voient sur leur écran lorsqu'ils appellent le rapport NarxCare d'un patient est très simple : un ensemble de visualisations de données qui décrivent l'historique de prescription de la personne, surmontées d'une poignée de scores à trois chiffres qui prétendre résumer le risque du patient. Appriss est catégorique sur le fait qu'un score NarxCare n'est pas destiné à supplanter le diagnostic d'un médecin. Mais les médecins ignorent ces chiffres à leurs risques et périls. Presque tous les États utilisent désormais le logiciel Appriss pour gérer leurs programmes de surveillance des médicaments sur ordonnance, et la plupart exigent légalement que les médecins et les pharmaciens les consultent lorsqu'ils prescrivent des substances contrôlées, sous peine de perdre leur licence. Dans certains États, la police et les agents chargés de l'application des lois fédérales peuvent également accéder à ces informations médicales hautement sensibles, dans de nombreux cas sans mandat, pour poursuivre à la fois les médecins et les patients. Essentiellement, a constaté Kathryn, presque tous les Américains ont l'équivalent d'un pointage de crédit secret qui évalue le risque de leur prescrire des substances contrôlées. Et les médecins ont des autorités qui regardent par-dessus leurs épaules alors qu'ils pèsent leurs propres réponses à ces scores. Même après que Kathryn ait lu sur NarxCare, cependant, il lui restait encore une question fondamentale : pourquoi avait-elle été signalée avec un score aussi élevé ? Elle n'était pas "médecin shopping". Le seul autre médecin qu'elle a vu était son psychiatre. Elle avait une ordonnance pour une benzodiazépine pour traiter le trouble de stress post-traumatique, et la combinaison de ces médicaments avec des opioïdes est un facteur de risque connu de surdose. Mais cela aurait-il pu suffire à la faire virer d'un cabinet médical ? Alors que Kathryn poursuivait ses recherches en ligne, elle a découvert qu'il y avait tout un monde de patients souffrant de douleur chronique sur Twitter et d'autres forums comparant des notes sur la façon dont ils s'étaient opposés à NarxCare ou à d'autres outils de dépistage. Et finalement, elle est tombée sur une explication qui l'a aidée à comprendre ce qui aurait pu mal tourner : elle avait des animaux malades. Au moment de son hospitalisation, Kathryn possédait deux retrievers à poil plat, Bear et Moose. Les deux étaient le genre de chien qu'elle préférait adopter : des sauvetages plus âgés avec des problèmes médicaux importants que d'autres propriétaires potentiels pourraient éviter. Moose souffrait d'épilepsie et avait dû être opéré des deux pattes arrière. Il avait également été maltraité lorsqu'il était chiot et souffrait d'anxiété grave. Bear, lui aussi, souffrait d'anxiété. Les deux chiens s'étaient vu prescrire des opioïdes, des benzodiazépines et même des barbituriques par leurs vétérinaires. Les prescriptions pour les animaux sont mises sous le nom de leur propriétaire. Donc, pour NarxCare, il semblait que Kathryn consultait de nombreux médecins pour différents médicaments, certains à des doses extrêmement élevées. (Les chiens peuvent avoir besoin de grandes quantités de benzodiazépines en raison de facteurs métaboliques.) Selon Appriss, il est "très rare" que les prescriptions d'animaux domestiques augmentent les scores NarxCare d'un patient. Aussi kafkaïen que ce problème puisse paraître, les critiques disent qu'il ne s'agit pas d'un problème isolé. Un nombre croissant de chercheurs pensent que NarxCare et d'autres outils de dépistage similaires sont profondément défectueux. Selon une étude, 20% des patients les plus susceptibles d'être signalés comme médecins-acheteurs ont en fait un cancer, ce qui nécessite souvent de consulter plusieurs spécialistes. Et bon nombre des drapeaux rouges officiels qui augmentent les scores de risque d'une personne sont simplement des attributs des patients les plus vulnérables et les plus complexes sur le plan médical, ce qui fait parfois refuser à ces groupes le traitement de la douleur aux opioïdes. L'IA qui génère le score de risque de surdose de NarxCare est, pour de nombreux critiques, encore plus troublante. À une époque de préoccupation croissante concernant les algorithmes prédictifs, les propres descriptions d'Appriss de NarxCare - qui se vantent d'un accès extrêmement large aux données sensibles des patients - ont sonné l'alarme parmi les défenseurs des patients et les chercheurs. La page d'accueil de NarxCare, par exemple, décrit comment son algorithme parcourt les dossiers médicaux des patients pour les diagnostics de dépression et de trouble de stress post-traumatique, les traitant comme des "variables qui pourraient avoir un impact sur l'évaluation des risques". À leur tour, les universitaires ont publié des centaines de pages sur NarxCare, explorant comment une telle utilisation des dossiers de diagnostic pourrait avoir un impact disparate sur les femmes (qui sont plus susceptibles de souffrir de traumatismes dus à des abus) et comment sa prétendue utilisation des données de la justice pénale pourrait biaiser contre la race. minorités (qui sont plus susceptibles d'avoir été arrêtées). Mais le plus troublant, selon les chercheurs, est simplement à quel point ces outils quasi médicaux sont opaques et irresponsables. Aucun des algorithmes largement utilisés pour guider les décisions cliniques des médecins, y compris NarxCare, n'a été validé comme sûr et efficace par des recherches évaluées par des pairs. Et parce que les algorithmes d'évaluation des risques d'Appriss sont propriétaires, il n'y a aucun moyen de regarder sous le capot pour les inspecter à la recherche d'erreurs ou de biais. Il n'y a pas non plus, d'ailleurs, de moyens clairs pour un patient de demander réparation. Dès que Kathryn a réalisé ce qui s'était passé, elle a commencé à essayer d'effacer son dossier. Elle y est toujours. En attendant, lorsqu'elle se rend dans une pharmacie ou chez un médecin, elle dit qu'elle peut toujours dire quand quelqu'un a vu son score. « Tout leur comportement a changé », dit-elle. « Cela me rappelle un suspect et un détective. Ce n'est plus une relation bienveillante, empathique et compatissante. C'est plutôt une inquisition. » La relation des ÉTATS-UNIS avec les opioïdes a toujours été tendue. On les aime ou on les déteste. Historiquement, les périodes de disponibilité généralisée stimulent les dépendances, qui conduisent à des répressions, qui conduisent à un sous-traitement de la douleur, puis à un autre balancement extrême du pendule, qui ne semble jamais s'installer à un juste milieu. Le climat anti-opioïde actuel a ses racines dans la surcommercialisation de l'OxyContin de Purdue Pharma au milieu des années 1990. Entre 1999 et 2010, la prescription d'opioïdes aux États-Unis a quadruplé et les décès par surdose ont augmenté en parallèle. Pour de nombreux experts, cela suggérait une solution simple : si vous réduisez la prescription, les taux de mortalité diminueront également. Mais cela ne s'est pas produit. Alors que la quantité totale d'opioïdes prescrits a chuté de 60 % entre 2011 et 2020, le taux de mortalité par surdose déjà record a au moins doublé au cours de la même période. Le simple fait de couper l'approvisionnement médical n'a pas aidé; au lieu de cela, il a alimenté une consommation de drogue plus dangereuse, conduisant de nombreux Américains à des substances comme le fentanyl fabriqué illégalement. Selon certains experts, la raison pour laquelle ces réductions n'avaient pas fonctionné était qu'elles n'avaient pas ciblé les patients les plus à risque. Environ 70 % des adultes ont pris des opioïdes à des fins médicales, mais seulement 0,5 % souffrent de ce que l'on appelle officiellement le « trouble lié à l'utilisation d'opioïdes », plus communément appelé dépendance. Une étude a révélé que même au sein du groupe d'âge le plus à risque, les adolescents et les personnes au début de la vingtaine, seul un patient sur 314 assurés privés à qui on avait prescrit des opioïdes développait des problèmes avec eux. Les chercheurs savaient depuis des années que certains patients présentaient un risque plus élevé de dépendance que d'autres. Des études ont montré, par exemple, que plus une personne a eu d'expériences négatives dans son enfance, comme être maltraitée ou négligée ou perdre un parent, plus son risque est grand. Un autre facteur de risque important est la maladie mentale, qui touche au moins 64 % de toutes les personnes atteintes d'un trouble lié à l'utilisation d'opioïdes. Mais alors que les experts étaient conscients de ces dangers, ils n'avaient aucun bon moyen de les quantifier. Cela a commencé à changer à mesure que l'épidémie d'opioïdes s'intensifiait et que la demande augmentait pour un outil simple qui pourrait prédire avec plus de précision le risque d'un patient. L'une des premières de ces mesures, l'Opioid Risk Tool (ORT), a été publiée en 2005 par Lynn Webster, ancienne présidente de l'American Academy of Pain Medicine, qui travaille maintenant dans l'industrie pharmaceutique. (Webster a également déjà reçu des honoraires de conférencier des fabricants d'opioïdes.) Pour construire l'ORT, Webster a commencé par rechercher des études qui quantifiaient des facteurs de risque spécifiques. Parallèlement à la littérature sur les expériences négatives de l'enfance, Webster a trouvé des études établissant un lien entre le risque et les antécédents personnels et familiaux de dépendance, non seulement aux opioïdes, mais à d'autres drogues, y compris l'alcool. Il a également trouvé des données sur le risque élevé de troubles psychiatriques particuliers, notamment le trouble obsessionnel-compulsif, le trouble bipolaire, la schizophrénie et la dépression majeure. En rassemblant toutes ces recherches, Webster a conçu un court questionnaire destiné aux patients destiné à déterminer si une personne possédait l'un des facteurs de risque connus de dépendance. Ensuite, il a trouvé un moyen d'additionner et de pondérer les réponses pour générer un score global. L'ORT, cependant, était parfois fortement faussé et limité par ses sources de données. Par exemple, Webster a trouvé une étude montrant que des antécédents d'abus sexuels chez les filles triplaient leur risque de dépendance, il a donc dûment inclus une question demandant si les patients avaient subi des abus sexuels et l'a codifié comme un facteur de risque - pour les femmes. Pourquoi seulement eux ? Parce qu'aucune étude analogue n'avait été faite sur les garçons. Le préjugé sexiste que cela a introduit dans l'ORT était particulièrement étrange étant donné que les deux tiers de toutes les dépendances surviennent chez les hommes. L'ORT n'a pas non plus tenu compte du fait qu'un patient s'était vu prescrire des opioïdes pendant de longues périodes sans devenir dépendant. Webster dit qu'il n'avait pas l'intention que son outil soit utilisé pour nier le traitement de la douleur, seulement pour déterminer qui devrait être surveillé de plus près. En tant que l'un des premiers agents de dépistage disponibles, cependant, il s'est rapidement imposé auprès des médecins et des hôpitaux désireux de rester du bon côté de la crise des opioïdes. Aujourd'hui, il a été intégré à de multiples systèmes de dossiers de santé électroniques et il est souvent utilisé par les médecins inquiets de la surprescription. Il est "très, très largement utilisé aux États-Unis et dans cinq autres pays", déclare Webster. Par rapport aux premiers agents de dépistage des risques liés aux opioïdes comme l'ORT, NarxCare est plus complexe, plus puissant, plus enraciné dans l'application de la loi et beaucoup moins transparent. Appriss a commencé dans les années 1990 à fabriquer un logiciel qui avertit automatiquement les victimes d'actes criminels et les autres "citoyens concernés" lorsqu'une personne incarcérée spécifique est sur le point d'être libérée. Plus tard, il est passé aux soins de santé. Après avoir développé une série de bases de données pour le suivi des prescriptions, Appriss a acquis en 2014 ce qui était alors l'algorithme le plus couramment utilisé pour prédire qui était le plus à risque d'"abus de substances contrôlées", un programme développé par la National Association of Boards of Pharmacy, et a commencé à le développer et à le développer. Comme de nombreuses entreprises qui fournissent des logiciels pour suivre et prédire la dépendance aux opioïdes, Appriss est largement financé, directement ou indirectement, par le ministère de la Justice. NarxCare est l'un des nombreux algorithmes prédictifs qui ont proliféré dans plusieurs domaines de la vie ces dernières années. Dans les milieux médicaux, des algorithmes ont été utilisés pour prédire quels patients sont les plus susceptibles de bénéficier d'un traitement particulier et pour estimer la probabilité qu'un patient en soins intensifs se détériore ou meure s'il sort. En théorie, la création d'un tel outil pour guider quand et à qui les opioïdes sont prescrits pourrait être utile, peut-être même pour remédier aux inégalités médicales. Des études ont montré, par exemple, que les patients noirs sont plus susceptibles de se voir refuser des médicaments contre la douleur et plus susceptibles d'être perçus comme des toxicomanes. Un prédicteur plus objectif pourrait, encore une fois, en théorie, aider les patients sous-médiqués à obtenir le traitement dont ils ont besoin. Mais dans la pratique, les algorithmes créés par les forces de l'ordre ont montré un historique de fonctionnement dans la direction opposée. En 2016, par exemple, ProPublica a analysé comment COMPAS, un algorithme conçu pour aider les tribunaux à identifier les accusés les plus susceptibles de commettre de futurs crimes, était beaucoup plus enclin à signaler à tort les accusés noirs comme des récidivistes probables. (La société qui fabrique l'algorithme a contesté cette analyse.) Dans les années qui ont suivi, le problème de l'injustice algorithmique - la tendance de l'IA à obscurcir et à militariser les biais de ses données sous-jacentes - est devenu une préoccupation de plus en plus importante parmi les personnes qui étudient le éthique de l'IA. Au cours des deux dernières années, Jennifer Oliva, directrice du Center for Health and Pharmaceutical Law de l'Université Seton Hall, a entrepris d'examiner NarxCare à la lumière de ces appréhensions. Dans un important article récent intitulé "Dosing Discrimination", elle soutient qu'une grande partie des données que NarxCare prétend retracer peuvent simplement récapituler les inégalités associées à la race, à la classe et au sexe. Vivre dans une zone rurale, par exemple, nécessite souvent de parcourir de plus longues distances pour se faire soigner, mais cela ne signifie pas automatiquement faire les courses chez le médecin. De même, bien que la manière exacte dont NarxCare puisse incorporer des données de justice pénale dans son algorithme reste un mystère, il est clair que les Noirs sont arrêtés beaucoup plus souvent que les Blancs. Cela ne signifie pas que leur prescrire est plus risqué, dit Oliva, mais simplement qu'ils sont davantage ciblés par des systèmes biaisés. "Tout cela ne fait que renforcer cette discrimination historique", déclare Oliva. Appriss, pour sa part, affirme que dans les algorithmes de NarxCare, "il n'y a aucun ajustement de la notation des risques pour tenir compte des biais sous-jacents potentiels" dans ses données sources. D'autres communications de la société, cependant, indiquent que les données sources sous-jacentes de NarxCare peuvent ne pas être ce qu'elles semblent être. Au début du reportage de cet article, Appriss a refusé la demande d'interview de WIRED. Plus tard, dans une réponse par e-mail à des questions spécifiques sur ses sources de données, la société a fait une affirmation surprenante : en contradiction apparente avec son propre matériel marketing, Appriss a déclaré que l'algorithme de risque prédictif de NarxCare n'utilise aucune donnée en dehors des registres nationaux des médicaments sur ordonnance. "Le score de risque de surdose a été initialement développé pour permettre l'ingestion de sources de données supplémentaires au-delà du PDMP", a déclaré un porte-parole de la société, "mais aucun État n'a choisi de le faire. Tous les scores contenus dans NarxCare sont basés uniquement sur les données du programme de surveillance des médicaments sur ordonnance. Certains États intègrent certaines données de justice pénale - par exemple, les dossiers de condamnation pour drogue - dans leurs programmes de surveillance des médicaments sur ordonnance, il est donc concevable que le modèle d'apprentissage automatique de NarxCare s'en inspire. Mais Appriss s'est spécifiquement distancié des autres sources de données revendiquées dans son matériel marketing. Par exemple, la société a déclaré à WIRED que NarxCare et ses scores "n'incluent aucune information de diagnostic" provenant des dossiers médicaux des patients. Cela semblerait suggérer, contrairement à la page d'accueil de NarxCare, que l'algorithme ne tient en fait aucune considération pour les antécédents de dépression et de SSPT des personnes. La société a également déclaré qu'elle ne tenait pas compte de la distance parcourue par un patient pour recevoir des soins médicaux, malgré un article de blog bavard de 2018, toujours disponible sur le site Appriss, qui inclut cette ligne dans une description du modèle d'apprentissage automatique de NarxCare : "On pourrait lui donner d'autres types de données qui impliquent des distances entre le médecin et le pharmacien et le domicile du patient." Ces dernières affirmations d'Appriss ne font qu'aggraver les inquiétudes d'Oliva concernant l'inscrutabilité de NarxCare. "Comme je l'ai dit à plusieurs reprises dans mes propres recherches, la chose la plus terrifiante à propos de la plate-forme de notation des risques d'Appriss est le fait que ses algorithmes sont propriétaires et, par conséquent, il n'y a aucun moyen de les valider en externe", déclare Oliva. "Nous devrions au moins pouvoir croire ce que dit Appriss sur son propre site Web et dans ses documents destinés au public." De plus, selon les experts, même les aspects les plus simples et les plus transparents d'algorithmes comme NarxCare - le décompte des drapeaux rouges censés signifier un comportement de "achat de médecins" - sont profondément problématiques, en ce sens qu'ils sont susceptibles de cibler des patients atteints de conditions complexes. "Plus un patient est vulnérable, plus sa maladie est grave, plus son histoire est complexe, plus il risque de se retrouver avec plusieurs médecins et plusieurs pharmacies", note Stefan Kertesz, professeur de médecine et de santé publique à Université d'Alabama à Birmingham. "L'algorithme est mis en place pour convaincre les cliniciens que les soins à toute personne atteinte d'une maladie plus grave représentent la plus grande responsabilité possible. Et de cette façon, cela incite à l'abandon des patients qui ont les problèmes les plus graves. Pour soulager une partie de la chaleur de ces patients complexes, Appriss dit que son algorithme "se concentre sur les changements rapides" dans la consommation de drogues et minimise les personnes qui ont maintenu plusieurs prescriptions à des niveaux stables pendant une longue période. Mais comme toujours, la société souligne qu'un score NarxCare n'est pas destiné à déterminer le traitement d'un patient - que seul un médecin peut le faire. Cependant, les médecins sont également jugés par des algorithmes et peuvent être poursuivis s'ils rédigent plus d'ordonnances que leurs pairs ou s'ils prescrivent à des patients jugés à haut risque. « Je pense que les prescripteurs ont vraiment eu peur. Ils ont très peur d'être appelés », explique Sarah Wakeman, directrice médicale de la Substance Use Disorder Initiative au Massachusetts General Hospital, professeure adjointe de médecine à Harvard et médecin qui utilise elle-même régulièrement NarxCare. La recherche a révélé qu'environ 43 % des cliniques médicales américaines refusent désormais de voir de nouveaux patients qui ont besoin d'opioïdes. Les médecins ne sont pas non plus, dit Wakeman, "tout simplement pas vraiment sûrs de ce qu'il faut faire". Quelques enquêtes universitaires ont révélé que les médecins apprécient les registres de médicaments sur ordonnance, car ils veulent vraiment être en mesure d'identifier les patients qui abusent des opioïdes. Mais les médecins ont également déclaré que certains registres peuvent prendre trop de temps à accéder et à digérer. NarxCare est en partie une solution à ce problème : il accélère tout. Il distille. Le résultat de toute cette rapidité et de toute cette peur, dit Kertesz, est que les patients qui souffrent de douleur chronique mais qui n'ont pas de dépendance peuvent se retrouver coupés des médicaments qui pourraient les aider. Dans des cas extrêmes, cela peut même pousser certaines personnes souffrant de douleur chronique à se tourner vers des approvisionnements illégaux plus dangereux, ou à se suicider. Parmi les patients ayant des prescriptions d'opioïdes à long terme, la recherche montre que l'arrêt de ces prescriptions sans fournir de soins alternatifs efficaces est associé à près du triple du risque de décès par surdose. "Le problème qui imprègne vraiment la discussion sur NarxCare est que l'environnement dans lequel il est utilisé comporte un élément intense d'application de la loi, de peur et de méfiance à l'égard des patients", déclare Kertesz. «Cela s'ajoute à un environnement où les médecins craignent profondément pour leur capacité future à maintenir une profession, où la société a pris une tournure particulièrement vindicative contre les médecins et les patients. Et où l'entreprise qui développe cet outil intéressant est capable de le forcer sur les écrans de presque tous les médecins en Amérique. ALORS QUE KATHRYN DEVENAIT de plus en plus ancrée dans les communautés en ligne de patients souffrant de douleur chronique, l'une des personnes avec laquelle elle est entrée en contact était une femme de 44 ans nommée Beverly Schechtman, qui avait été galvanisée par sa propre mauvaise expérience avec le dépistage du risque d'opioïdes. En 2017, Schechtman a été hospitalisé pour des calculs rénaux, qui peuvent causer certaines des pires douleurs connues de l'homme. Dans son cas, ils étaient associés à la maladie de Crohn, une maladie inflammatoire chronique de l'intestin. Parce que les poussées de Crohn peuvent à elles seules causer une douleur intense, Schechtman avait déjà une ordonnance pour des opioïdes oraux, mais elle est allée à l'hôpital ce jour-là en 2017 parce qu'elle était tellement nauséeuse à cause de la douleur qu'elle ne pouvait pas les retenir ou quoi que ce soit d'autre. . Comme Kathryn, elle a également pris des benzodiazépines pour un trouble anxieux. Cette combinaison, à la fois populaire auprès des toxicomanes et considérée comme un facteur de risque de surdose, a rendu méfiant l'hospitaliste en charge des soins de Schechtman. Sans même se présenter, il a exigé de savoir pourquoi elle prenait des médicaments. Elle a donc expliqué qu'elle souffrait de SSPT, s'attendant à ce que cette divulgation soit suffisante. Néanmoins, il l'a pressée sur la cause du traumatisme, alors elle a révélé qu'elle avait été abusée sexuellement dans son enfance. Après cela, dit Schechtman, le médecin est devenu encore plus brusque. "A cause de cela, je ne peux vous donner aucun type d'analgésique IV", se souvient-elle en disant. Lorsqu'elle a demandé pourquoi, elle a dit qu'il avait affirmé que la consommation de drogues intraveineuses et les abus sexuels sur les enfants modifiaient le cerveau. « ‘Vous me remercierez un jour, parce qu’en raison de ce que vous avez vécu dans votre enfance, vous avez un risque beaucoup plus élevé de devenir toxicomane, et je ne peux pas participer à cela’ », dit-elle. Schechtman dit qu'elle avait l'impression que le médecin la blâmait d'avoir été maltraitée. Elle était également perplexe. Elle prenait des opioïdes par intermittence depuis une vingtaine d'années et n'était jamais devenue dépendante. N'était-ce pas pertinent ? Et comment pourrait-il être éthique de refuser le soulagement de la douleur sur la base d'un risque théorique lié à la maltraitance ? Elle ne demandait pas de médicaments à emporter chez elle; elle voulait juste être soignée à l'hôpital, comme elle l'avait été auparavant, sans problème. Comme cela arrivera plus tard pour Kathryn, l'expérience a conduit Schechtman sur Internet. "Je suis juste devenu obsédé par la recherche de tout cela", dit Schechtman. « Je demandais aux membres de ces groupes en ligne : « Est-ce que l'un d'entre vous s'est vu refuser des opioïdes en raison d'antécédents d'abus sexuels ? » Et les femmes se sont manifestées. » Schechtman a finalement rejoint un groupe de défense appelé le Don't Punish Pain Rally. Avec d'autres militants du groupe, elle a découvert que la question sur les antécédents d'abus sexuels dans l'ORT ciblait injustement les femmes, mais pas les hommes. (Une version mise à jour de l'outil de Webster exclut désormais la différence entre les sexes, mais l'ancienne semble perdurer dans certains systèmes de dossiers médicaux électroniques.) Elle a également trouvé de nombreux patients souffrant de douleur qui ont déclaré avoir des problèmes avec NarxCare. Bizarrement, même les personnes qui reçoivent le traitement de référence pour la toxicomanie peuvent être signalées à tort par NarxCare, puis se voir refuser ce même traitement par les pharmaciens. La buprénorphine, mieux connue sous le nom de marque Suboxone, est l'un des deux seuls médicaments dont il a été prouvé qu'ils réduisent de 50 % ou plus le taux de mortalité dû aux troubles liés à l'utilisation d'opioïdes, principalement en prévenant les surdoses. Mais parce qu'il s'agit d'un opioïde lui-même, la buprénorphine fait partie des substances qui peuvent élever son score NarxCare, bien qu'elle soit généralement répertoriée dans une section distincte d'un rapport NarxCare pour indiquer que la personne suit un traitement. Cette séparation, cependant, n'empêche pas nécessairement un pharmacien de regarder le score élevé d'un patient et de refuser de lui proposer des ordonnances. Ryan Ward, un défenseur du rétablissement basé en Floride, prend de la buprénorphine depuis près d'une décennie. Il a également des antécédents de douleurs dorsales sévères et de chirurgies connexes. En 2018, lorsque sa pharmacie a cessé de vendre de la buprénorphine, il a essayé de remplir son ordonnance dans un Walmart et a été refoulé. Puis il a visité deux CVS et trois Walgreens, et a été bloqué de la même manière. "Je m'habille bien. J'ai l'air bien. Et je serais amical », dit-il. « Et dès qu'ils obtiendraient mon permis de conduire, oh boy, ils changeraient d'attitude. Je n'arrivais pas à comprendre pourquoi. Après avoir paniqué à l'idée qu'il pourrait plonger dans le sevrage - et, ironiquement, être exposé à un risque beaucoup plus élevé de surdose - il a changé de tactique. Il a approché une pharmacienne dans un Publix, lui montrant d'abord sa page LinkedIn, qui met en évidence son plaidoyer et son emploi. Il a décrit ce qui s'était passé dans les autres pharmacies. Lorsqu'elle a vérifié la base de données, elle a immédiatement vu le problème : un score de risque de surdose extrêmement élevé. Contrairement à ses collègues, cependant, elle a accepté de remplir l'ordonnance, se rendant compte qu'il était absurde de refuser à un patient un médicament qui prévient le surdosage au nom de la prévention du surdosage. Pourtant, même trois ans plus tard, s'il essaie une autre pharmacie, il est rejeté. Appriss souligne que ses données ne sont pas censées être utilisées de cette manière. "Les pharmaciens et les médecins utilisent ces scores comme indicateurs ou appels à l'action pour examiner plus en détail les détails de l'historique de prescription du patient en conjonction avec d'autres informations pertinentes sur la santé du patient", a écrit la société dans un communiqué. "L'analyse et les scores associés ne sont pas destinés à fonctionner comme seuls déterminants du risque d'un patient." Appriss indique également que les prescriptions de buprénorphine ont augmenté dans les régions du pays qui utilisent NarxCare. Mais comme les autres, Ward n'a pas réussi à résoudre son problème. Et comme la plupart des États exigent désormais que les médecins et les pharmaciens utilisent ces bases de données, des millions de personnes sont potentiellement concernées. Une enquête auprès de patients dont les prestataires ont vérifié ces systèmes a révélé qu'au moins la moitié ont déclaré avoir été humiliés et 43% ont signalé des réductions de prescription qui augmentaient la douleur et réduisaient la qualité de vie. Appriss indique sur son site Web qu'il appartient à chaque État de traiter les plaintes des patients. Pourtant, peu savent vers qui se tourner. "Les États ont rendu les choses très difficiles", explique Oliva. Certains ne permettent même pas la correction des erreurs. Et lorsque Ward a essayé de contacter Appriss directement, dit-il, il a été ignoré. AU DÉBUT DES ANNÉES 2010, Angela Kilby cherchait un sujet pour sa thèse de doctorat en économie au MIT. Lorsqu'un membre de sa famille, un médecin du sud rural, lui a dit à quel point il était difficile de prendre des décisions concernant la prescription d'opioïdes dans une communauté dévastée par des surdoses, Kilby a senti qu'elle avait trouvé son sujet. Elle a décidé d'étudier le dilemme du médecin en examinant comment un contrôle accru sur la prescription d'opioïdes affectait réellement les patients. Pour suivre les résultats en matière de santé, elle a utilisé les données des réclamations d'assurance de 38 États qui avaient mis en place des bases de données de surveillance des ordonnances à des moments différents entre 2004 et 2014. » la répression et les réactions négatives contre la surprescription, ce qui suggère que les opioïdes sont non seulement addictifs, mais aussi inefficaces et même nocifs pour les patients souffrant de douleur chronique. Elle avait prédit que la réduction des prescriptions augmenterait la productivité et la santé. "Je m'attendais à voir le contraire de ce que j'ai vu", dit-elle. En fait, ses recherches ont montré que la réduction des prescriptions médicales d'opioïdes entraînait une augmentation des dépenses médicales, des niveaux de douleur plus élevés chez les patients hospitalisés et davantage de journées de travail manquées. «Ce sont des gens qui perdent probablement l'accès aux opioïdes, qui ont plus de mal à retourner au travail après des blessures et qui ont du mal à obtenir un traitement contre la douleur», dit-elle. Intriguée, elle a voulu en savoir plus. Ainsi, à la fin des années 2010, devenue professeure adjointe à la Northeastern University, elle a décidé de simuler le modèle d'apprentissage automatique qui génère la mesure la plus sophistiquée sur le plan algorithmique de NarxCare, le score de risque d'overdose. Bien qu'Appriss n'ait pas rendu publics les facteurs qui entraient dans son algorithme, Kilby a procédé à l'ingénierie inverse de ce qu'elle pouvait. N'ayant pas accès aux données du registre des médicaments sur ordonnance, Kilby a décidé d'utiliser des données anonymisées sur les réclamations d'assurance maladie, une source qui sous-tend tous les autres algorithmes d'apprentissage automatique publiés qui prédisent le risque d'opioïdes. En utilisant à peu près la même méthode qu'Appriss expose dans les comptes rendus de son propre travail d'apprentissage automatique, elle a formé son modèle en lui montrant des cas de personnes chez qui on avait diagnostiqué un trouble lié à l'utilisation d'opioïdes après avoir reçu une prescription d'opioïdes. Elle l'a envoyé chercher des ressemblances et des prédicteurs de risque dans leurs dossiers. Ensuite, elle a lâché son modèle sur un échantillon beaucoup plus large, cette fois avec ces diagnostics de troubles liés à l'utilisation d'opioïdes cachés de l'algorithme, pour voir s'il identifiait réellement des cas réels. Ce que Kilby a découvert, c'est que même si le modèle de NarxCare peut parcourir un ensemble de données différent, il partage presque certainement une limitation essentielle avec son algorithme. "Le problème avec tous ces algorithmes, y compris celui que j'ai développé", dit Kilby, "est la précision". L'ensemble de données complet de Kilby comprenait les fichiers d'environ 7 millions de personnes qui étaient assurées par leurs employeurs entre 2005 et 2012. Mais parce que la dépendance aux opioïdes est si rare dans la population générale, l'échantillon d'apprentissage que l'algorithme pouvait utiliser pour faire des prédictions était petit : certains 23 000 sur tous ces millions. De plus, 56 % de ce groupe avaient des dépendances avant de recevoir leur première ordonnance, ce qui signifie que le médicament ne pouvait pas avoir causé le problème. Ils ont donc dû être exclus de l'échantillon de formation. (Cela corrobore d'autres données montrant que la plupart des personnes ayant une dépendance aux opioïdes commencent par une utilisation récréative plutôt que médicale.) Le résultat était que l'algorithme de Kilby a généré un grand nombre de résultats faux positifs et faux négatifs, même lorsqu'elle a défini ses paramètres si strictement. qu'une personne devait obtenir un score égal ou supérieur au 99e centile pour être considérée comme à haut risque. Dans ce cas, a-t-elle découvert, seuls 11 % des personnes ayant obtenu des scores élevés avaient effectivement reçu un diagnostic de trouble lié à l'utilisation d'opioïdes, tandis que 89 % avaient été signalés à tort. Assouplir ses critères n'a pas amélioré les choses. L'utilisation du 95e centile comme seuil a permis d'identifier plus de vrais positifs, mais également d'augmenter les faux : cette fois, moins de 5 % des positifs étaient de vrais positifs. (Dans sa propre littérature, Appriss mentionne ces deux seuils comme étant cliniquement utiles.) Les recherches de Kilby ont également identifié un problème encore plus fondamental. Des algorithmes comme le sien ont tendance à signaler les personnes qui ont accumulé une longue liste de facteurs de risque au cours de leur vie, même si elles ont pris des opioïdes pendant des années sans aucun problème signalé. Inversement, si l'algorithme contient peu de données sur quelqu'un, il est susceptible de le qualifier de faible risque. Mais cette personne peut en fait être plus à risque que les patients souffrant de douleur chronique à long terme qui se font maintenant le plus souvent souffrir. "Il n'y a tout simplement aucune corrélation entre la probabilité d'être considéré comme à haut risque par l'algorithme et la réduction de la probabilité de développer un trouble lié à l'utilisation d'opioïdes", explique Kilby. En d'autres termes, l'algorithme ne peut essentiellement pas faire ce qu'il prétend faire, c'est-à-dire déterminer si le fait d'écrire ou de refuser la prochaine ordonnance de quelqu'un modifiera sa trajectoire en termes de dépendance. Et cette faille, dit-elle, affecte tous les algorithmes actuellement connus pour être utilisés. DANS SON ARTICLE "Dosing Discrimination", sur des algorithmes comme NarxCare, Jennifer Oliva décrit un certain nombre de cas similaires à ceux de Kathryn et Schectman, dans lesquels des personnes se sont vu refuser des opioïdes en raison d'antécédents de traumatisme sexuel et d'autres facteurs potentiellement trompeurs. Le document aboutit à un argument selon lequel l'approbation de la FDA - qui n'est actuellement pas requise pour NarxCare - devrait être obligatoire, en particulier compte tenu de la domination du marché par Appriss. La question plus large, bien sûr, est de savoir si des algorithmes devraient être utilisés pour déterminer le risque de dépendance. Lorsque j'ai parlé avec Elaine Nsoesie, boursière en science des données à l'Université de Boston et titulaire d'un doctorat en épidémiologie informatique, elle a soutenu que l'amélioration de la santé publique nécessite de comprendre les causes d'un problème, sans utiliser de mesures indirectes qui peuvent ou non être associées au risque. "Je ne penserais pas aux algorithmes", dit-elle. « J'irais dans la population pour essayer de comprendre, pourquoi avons-nous ces problèmes en premier lieu ? Pourquoi avons-nous une surdose d'opioïdes? Pourquoi avons-nous des dépendances ? Quels sont les facteurs qui contribuent à ces problèmes et comment pouvons-nous les résoudre ? » En revanche, tout au long de la crise des surdoses, les décideurs se sont concentrés sans relâche sur la réduction de la consommation d'opioïdes médicaux. Et selon cette métrique, ils ont connu un succès écrasant : la prescription a été réduite de plus de moitié. Et pourtant, 2020 a vu le plus grand nombre de décès par surdose aux États-Unis - 93 000 - jamais enregistrés, une augmentation étonnante de 29% par rapport à l'année précédente. De plus, même parmi les personnes ayant une dépendance connue, il y a peu de preuves que le fait d'éviter l'utilisation appropriée d'opioïdes médicaux les protégera en soi. "Je pense que la douleur sous-traitée chez une personne ayant des antécédents de dépendance est tout, sinon plus, un facteur de risque de rechute", déclare Wakeman. Elle appelle à une meilleure surveillance et à un meilleur soutien, et non au refus obligatoire des opioïdes. Appriss a reconnu la nécessité d'étudier les effets de NarxCare sur la santé et la mortalité des personnes signalées par le système, et pas seulement si cela entraîne une réduction des prescriptions. Lors d'un récent webinaire, la responsable de la science des données de l'entreprise, Kristine Whalen, a mis en évidence de nouvelles données montrant que la mise en œuvre de NarxCare a accéléré la baisse de la prescription d'opioïdes dans six États d'environ 10 %, par rapport aux réductions avant son utilisation. Lorsqu'on lui a demandé si la société mesurait également les effets réels de NarxCare sur la vie des patients, Whalen a déclaré: "Nous recherchons activement des ensembles de données de résultats supplémentaires pour pouvoir faire ce que vous décrivez." Pour Kathryn, au moins, l'effet de NarxCare sur sa vie et sa santé a été assez brutal. À part son psychiatre, elle dit: "Je n'ai pas de médecin à cause de ce score NarxCare." Elle s'inquiète de ce qu'elle fera la prochaine fois que son endométriose éclatera ou qu'une autre urgence surviendra, et elle a toujours du mal à obtenir des médicaments pour traiter sa douleur. Et ce ne sont pas seulement les propres prescriptions de douleur de Kathryn qui doivent être remplies. Bien que son chien Moose soit décédé fin 2020, Bear continue d'avoir besoin de ses médicaments et Kathryn a depuis adopté un autre chien médicalement exigeant, Mouse. Certains États ont reconnu le problème des ordonnances vétérinaires mal identifiées et exigent que NarxCare les marque d'une empreinte de patte ou d'une icône d'animal sur les écrans des prestataires de santé. regarde avec méfiance un écran d'ordinateur.