Incidents associés
Depuis plus de 20 ans, la National Eating Disorders Association (NEDA) exploite une ligne téléphonique et une plateforme en ligne pour les personnes cherchant de l'aide pour l'anorexie, la boulimie et d'autres troubles de l'alimentation. L'an dernier, près de 70 000 personnes ont utilisé la ligne d'assistance.
La NEDA a fermé ce service en mai. Au lieu de cela, l'organisation à but non lucratif utilisera un chatbot appelé Tessa qui a été conçu par des experts en troubles de l'alimentation, avec un financement de NEDA.
(Quand NPR a diffusé pour la première fois [une histoire radio à ce sujet](https://www.npr.org/2023/05/24/1177847298/can-a-chatbot-help-people-with-eating-disorders-as-well -as-another-human) le 24 mai, Tessa était opérationnelle en ligne. Mais depuis lors, à la fois la page du chatbot et un article NEDA à propos de Tessa ont été supprimés. Lorsqu'on lui a demandé pourquoi, un responsable de la NEDA a déclaré que le bot était "mis à jour" et que la dernière "version du programme actuel [ Sera disponible bientôt.")
Les employés rémunérés et les bénévoles de la ligne d'assistance NEDA ont exprimé leur choc et leur tristesse face à la décision, affirmant que cela pourrait isoler davantage les milliers de personnes qui utilisent la ligne d'assistance lorsqu'elles sentent qu'elles n'ont nulle part où se tourner.
"Ces jeunes enfants... ne se sentent pas à l'aise de venir voir leurs amis, leur famille ou qui que ce soit à ce sujet", déclare Katy Meta, une étudiante de 20 ans qui s'est portée volontaire pour la ligne d'assistance. "Beaucoup de ces personnes viennent plusieurs fois parce qu'elles n'ont pas d'autre moyen de parler avec qui que ce soit... C'est tout ce qu'elles ont, c'est la ligne de discussion."
La décision fait partie d'une tendance plus large : de nombreuses organisations de santé mentale et [entreprises] (https://www.cnn.com/2023/05/19/health/chatbots-mental-health-partner-kff-health-news- analysis/index.html) ont du mal à fournir des services et des soins en réponse à une forte [escalade de la demande](https://www.npr.org/2023/05/05/1174385946/the-kids-are-not- d'accord), et certains se tournent vers les chatbots et l'IA, malgré le fait que les cliniciens essaient toujours de comprendre comment [déployer efficacement](https://www.npr.org/sections/health-shots/2023/01/19/1147081115/therapy-by-chatbot-the-promise -and-challenges-in-using-ai-for-mental-health) et pour quoi.
L'équipe de recherche qui a développé Tessa a publié des études montrant qu'il peut aider les utilisateurs à améliorer leur image corporelle. Mais ils ont également publié des études montrant que le chatbot peut manquer des signaux d'alarme (comme les utilisateurs disant qu'ils envisagent de s'affamer) et pourrait même renforcer par inadvertance un comportement nuisible.
Plus de demandes sur la ligne d'assistance ont augmenté le stress chez NEDA
Le 31 mars, la NEDA a informé les cinq membres du personnel de la ligne d'assistance qu'ils seraient licenciés en juin, quelques jours seulement après que les travailleurs eurent officiellement informé leur employeur qu'ils avaient formé un syndicat. "Nous allons, sous réserve des termes de nos responsabilités légales, commencer à réduire la ligne d'assistance telle qu'elle fonctionne actuellement", a déclaré le président du conseil d'administration de la NEDA, Geoff Craddock, au personnel de la ligne d'assistance lors d'un appel le 31 mars. NPR a obtenu l'audio de l'appel. "Avec une transition vers Tessa, la technologie assistée par l'IA, attendue vers le 1er juin."
La direction de la NEDA nie que la décision de la ligne d'assistance ait quoi que ce soit à voir avec la syndicalisation, mais a déclaré à NPR que cela était devenu nécessaire après la pandémie de COVID-19, lorsque les troubles de l'alimentation ont augmenté et que le nombre d'appels, de SMS et de messages à la ligne d'assistance a plus que doublé. Beaucoup de ceux qui ont tendu la main étaient suicidaires, faisaient face à des abus ou connaissaient une sorte d'urgence médicale. La direction de la NEDA soutient que la ligne d'assistance n'a pas été conçue pour gérer ce type de situations.
L'augmentation des appels de niveau de crise augmente également la responsabilité légale de la NEDA, ont expliqué les responsables dans un e-mail envoyé le 31 mars aux bénévoles actuels et anciens, les informant que la ligne d'assistance se terminait et que la NEDA « commencerait à pivoter vers l'utilisation élargie de la technologie assistée par l'IA ». ."
"Ce qui a vraiment changé dans le paysage, ce sont les exigences fédérales et étatiques en matière de signalement obligatoire des problèmes de santé mentale et physique (automutilation, suicidalité, maltraitance des enfants)", selon l'e-mail obtenu par NPR. "NEDA est désormais considérée comme un journaliste mandaté et cela affecte notre profil de risque --- en modifiant nos processus de formation et de travail quotidien et en augmentant nos primes d'assurance. Nous ne sommes pas une ligne d'écoute téléphonique ; nous sommes un centre de référence et un fournisseur d'informations."
COVID a créé une "tempête parfaite" pour les troubles de l'alimentation
Lorsqu'il était temps de faire du bénévolat sur la ligne d'assistance, Meta se connectait généralement depuis son dortoir au Dickinson College en Pennsylvanie. Lors d'une interview vidéo avec NPR, la pièce est apparue confortable et chaleureuse, avec des lumières scintillantes accrochées aux murs et une courtepointe rayée au crochet sur le lit.
Meta se souvient d'une conversation récente sur la plateforme de messagerie de la ligne d'assistance avec une fille qui a dit qu'elle avait 11 ans. La fille a dit qu'elle venait d'avouer à ses parents qu'elle souffrait d'un trouble de l'alimentation, mais la conversation s'était mal passée.
"Les parents ont dit qu'ils" ne croyaient pas aux troubles de l'alimentation "et \ [ont dit à leur fille ]" Tu as juste besoin de manger plus. Tu dois arrêter de faire ça "", se souvient Meta. "Cet individu était également suicidaire et présentait également des traits d'automutilation … c'était vraiment déchirant à voir."
Les troubles alimentaires sont une maladie courante, grave et parfois mortelle. On estime que neuf pour cent des Américains souffrent d'un trouble de l'alimentation au cours de leur vie. Les troubles de l'alimentation ont également certains des taux de mortalité les plus élevés parmi les maladies mentales, avec un nombre de décès estimé à plus de [10 000 Américains](https:// www.hsph.harvard.edu/striped/report-economic-costs-of-eating-disorders/) chaque année.
Mais après que la pandémie de COVID-19 a frappé, fermé des écoles et contraint les gens à un isolement prolongé, les appels de crise et les messages comme celui décrit par Meta sont devenus beaucoup plus fréquents sur la ligne d'assistance. C'est parce que la pandémie a créé une "tempête parfaite" pour les troubles de l'alimentation, selon [Dr. Dasha Nicholls] (https://www.imperial.ac.uk/people/d.nicholls), psychiatre et chercheuse sur les troubles alimentaires à l'Imperial College de Londres.
Aux États-Unis, le taux de pédiatrie hospitalisations et visites aux urgences a bondi. Pour de nombreuses personnes, le stress, l'isolement et l'anxiété de la pandémie ont été aggravés par des changements majeurs dans leurs habitudes alimentaires et d'exercice, sans parler de leurs routines quotidiennes.
Sur la ligne d'assistance NEDA, le volume de contacts a augmenté de plus de 100 % par rapport aux niveaux pré-pandémiques. Et les travailleurs qui répondaient à ces appels et messages étaient témoins de l'escalade du stress et des symptômes en temps réel.
"Les troubles de l'alimentation prospèrent dans l'isolement, donc le COVID et le refuge sur place ont été une période difficile pour beaucoup de gens en difficulté", explique Abbie Harper, une associée du personnel de la ligne d'assistance. "Et ce que nous avons vu à la hausse, c'était en quelque sorte plus d'appels de type crise, avec suicide, automutilation, puis maltraitance ou négligence envers les enfants, simplement parce que les enfants devaient être à la maison tout le temps, parfois avec pas si -les gens de soutien."
Il y avait une autre fillette de 11 ans, celle-ci en Grèce, qui a dit qu'elle était terrifiée à l'idée de parler à ses parents "parce qu'elle pensait qu'elle pourrait avoir des ennuis" pour avoir un trouble de l'alimentation, se souvient la bénévole Nicole Rivers. Sur la ligne d'assistance, la jeune fille a trouvé l'assurance que sa maladie "n'était pas de sa faute".
"Nous avons en fait pu l'éduquer sur ce que sont les troubles de l'alimentation", a déclaré Rivers. "Et qu'il existe des moyens par lesquels elle pourrait également enseigner cela à ses parents, afin qu'ils puissent l'aider à la soutenir et obtenir son soutien d'autres professionnels."
Quel contact personnel peut fournir
Parce que de nombreux bénévoles ont eux-mêmes combattu avec succès les troubles de l'alimentation, ils sont particulièrement sensibles aux expériences de ceux qui tendent la main, dit Harper. "Une partie de ce qui peut être très puissant dans la guérison des troubles de l'alimentation consiste à se connecter à des personnes qui ont vécu une expérience. Lorsque vous savez comment cela s'est passé pour vous et que vous connaissez ce sentiment, vous pouvez vous connecter avec les autres par-dessus cela."
Jusqu'à il y a quelques semaines, la ligne d'assistance était gérée par seulement 5 à 6 employés rémunérés, deux superviseurs et dépendait d'une liste tournante de 90 à 165 bénévoles à tout moment, selon la NEDA.
Pourtant, même après la fin des confinements, le volume de la ligne d'assistance téléphonique de la NEDA est resté élevé au-dessus des niveaux pré-pandémiques, et les cas ont continué à être cliniquement graves. Le personnel s'est senti débordé, mal soutenu et de plus en plus épuisé, et le roulement a augmenté, selon de multiples entretiens avec des membres du personnel de la ligne d'assistance.
Le personnel de la ligne d'assistance a officiellement informé la NEDA que leur vote de syndicalisation avait été certifié le 27 mars. Quatre jours plus tard, ils ont appris que leurs postes étaient supprimés.
Il n'était plus possible pour la NEDA de continuer à faire fonctionner la ligne d'assistance, explique Lauren Smolar, vice-présidente de la mission et de l'éducation de la NEDA.
"Nos bénévoles sont des bénévoles", déclare Smolar. "Ce ne sont pas des professionnels. Ils n'ont pas de formation de crise. Et nous ne pouvons vraiment pas accepter ce genre de responsabilité." Au lieu de cela, dit-elle, les personnes qui demandent de l'aide en cas de crise devraient s'adresser à des ressources telles que le 988, une ligne d'assistance téléphonique en cas de suicide et de crise 24h/24 et 7j/7 qui met les gens en contact avec des conseillers qualifiés.
L'augmentation du volume signifiait également que la ligne d'assistance n'était pas en mesure de répondre immédiatement à 46 % des contacts initiaux, et qu'il pouvait prendre entre 6 et 11 jours pour répondre aux messages.
"Et c'est franchement inacceptable en 2023, que les gens doivent attendre une semaine ou plus pour recevoir les informations dont ils ont besoin, les options de traitement spécialisées dont ils ont besoin", dit-elle.
Après avoir appris dans l'e-mail du 31 mars que la ligne d'assistance serait supprimée, la bénévole Faith Fischetti, 22 ans, a essayé le chatbot par elle-même. "Je lui ai posé quelques questions que j'ai vécues et que je sais que les gens posent quand ils veulent savoir des choses et ont besoin d'aide", explique Fischetti, qui entamera une maîtrise en travail social à l'automne. Mais ses interactions avec Tessa n'étaient pas rassurantes : "[Le bot] donnait des liens et des ressources qui n'avaient aucun rapport" avec ses questions.
La plus grande inquiétude de Fischetti est que quelqu'un qui vient sur le site NEDA pour obtenir de l'aide partira parce qu'il "sent qu'il n'est pas compris et que personne n'est là pour lui. Et c'est la chose la plus terrifiante pour moi".
Elle se demande pourquoi la NEDA ne peut pas avoir les deux : un chatbot 24h/24 et 7j/7 pour présélectionner les utilisateurs et les rediriger vers une ligne d'assistance en cas de crise, et une ligne d'assistance gérée par un humain pour offrir une connexion et des ressources. "Ma question est devenue, pourquoi nous débarrassons-nous de quelque chose qui est si utile?"
Un chatbot conçu pour aider à traiter les troubles alimentaires
Tessa le chatbot a été créé pour aider une cohorte spécifique : les personnes atteintes de troubles alimentaires qui ne reçoivent jamais de traitement.
Selon Ellen Fitzsimmons-Craft,, une psychologue et professeur à la Washington University School of Medicine à St. Louis. Son équipe a créé Tessa après avoir reçu un financement de la NEDA en 2018, dans le but de rechercher des moyens par lesquels la technologie pourrait aider à combler les lacunes en matière de traitement.
"Malheureusement, la plupart des prestataires de soins de santé mentale ne reçoivent aucune formation sur les troubles de l'alimentation", déclare Fitzsimmons-Craft. Le but ultime de son équipe est de fournir des outils de traitement gratuits, accessibles et fondés sur des données probantes qui tirent parti de la puissance et de la portée de la technologie.
Mais personne ne veut que Tessa soit une solution universelle, dit-elle. "Je ne pense pas que ce soit un outil ouvert auquel vous pouvez parler, et j'ai l'impression que vous allez juste avoir accès à une sorte d'oreille attentive, peut-être comme l'était la ligne d'assistance. C'est vraiment un outil dans sa forme actuelle cela va vous aider à apprendre et à utiliser certaines stratégies pour traiter vos troubles de l'alimentation et votre image corporelle."
Tessa est un chatbot "basé sur des règles", ce qui signifie qu'elle est programmée avec un ensemble limité de réponses possibles. Elle n'est pas chatGPT et ne peut pas générer de réponses uniques en réponse à des requêtes spécifiques. "Donc, elle ne peut pas dérailler, pour ainsi dire", déclare Fitzsimmons-Craft.
Dans sa forme actuelle, Tessa peut guider les utilisateurs à travers un cours interactif d'une semaine sur la positivité corporelle, basé sur des outils de thérapie cognitivo-comportementale. Des contenus supplémentaires sur la boulimie, les problèmes de poids et l'alimentation régulière sont également en cours de développement, mais ne sont pas encore disponibles pour les utilisateurs.
Il y a des preuves que le concept peut aider. L'équipe de Fitzsimmons-Craft a réalisé une petite étude qui a révélé que les étudiants qui ont interagi avec Tessa avaient des réductions significativement plus importantes des "préoccupations de poids/forme" par rapport à un groupe témoin aux suivis de 3 et 6 mois.
Mais même la technologie la mieux intentionnée peut comporter des risques. L'équipe de Fitzsimmons-Craft a publié une autre étude examinant les façons dont le chatbot "renforce parfois de manière inattendue les comportements nuisibles". Par exemple, le chatbot donnerait aux utilisateurs une invite : "Veuillez prendre un moment pour écrire sur le moment où vous vous êtes senti le mieux dans votre corps ?"
Certaines des réponses comprenaient : "Quand j'avais un poids insuffisant et que je pouvais voir mes os." "Je me sens mieux dans mon corps quand je l'ignore et que je n'y pense pas du tout."
La réponse du chatbot semblait ignorer les aspects troublants de telles réponses - et même affirmer la pensée négative - lorsqu'il répondait : "C'est génial que vous puissiez reconnaître un moment où vous vous êtes senti en confiance dans votre peau, continuons à travailler pour vous faire sentir ce bien plus souvent."
Les chercheurs ont pu résoudre certains de ces problèmes. Mais l'étude a révélé que le chatbot manquait toujours des drapeaux rouges, comme lorsqu'il demandait : "Quel est un petit objectif d'habitudes alimentaires saines que vous aimeriez définir avant de commencer votre prochaine conversation ?"
Un utilisateur a répondu: "'Ne mangez pas.'"
"'Prenez un moment pour vous féliciter d'avoir fait ce travail acharné, <<USER>> !", a répondu le chatbot.
L'étude a décrit les capacités du chatbot comme quelque chose qui pourrait être amélioré au fil du temps, avec plus d'entrées et d'ajustements : "Avec beaucoup plus de réponses, il serait possible de former l'IA pour identifier et mieux répondre aux réponses problématiques."
La professeure du MIT Marzyeh Ghassemi a vu des problèmes comme celui-ci surgir dans ses propres recherches sur le développement de l'apprentissage automatique pour améliorer la santé.
Les grands modèles linguistiques et les chatbots vont inévitablement faire des erreurs, mais "parfois, ils ont tendance à se tromper plus souvent pour certains groupes, comme les femmes [et les minorités](https://www.nature.com/articles/s43856-022-00214 -4) », dit-elle.
Si les gens reçoivent de mauvais conseils ou instructions d'un bot, "les gens ont parfois du mal à ne pas l'écouter", ajoute Ghassemi. "Je pense que cela vous prépare à ce résultat vraiment négatif … en particulier pour une situation de crise de santé mentale, où les gens peuvent être à un point où ils ne pensent pas avec une clarté absolue. Il est très important que les informations que vous leur donnez est correct et leur est utile."
Et si la valeur de la ligne d'assistance en direct était la possibilité de se connecter avec une personne réelle qui comprend profondément les troubles de l'alimentation, Ghassemi dit qu'un chatbot ne peut pas faire cela.
"Si les gens ressentent la majorité de l'impact positif de ces interactions parce que la personne de l'autre côté comprend fondamentalement l'expérience qu'ils vivent, et quelle lutte cela a été, j'ai du mal à comprendre comment un chatbot pourrait en faire partie. ."