Incidents associés
L'idée derrière un projet de chatbot financé par la National Eating Disorders Association était que la technologie pourrait être libérée pour aider les personnes à la recherche de conseils sur les comportements alimentaires, disponibles 24 heures sur 24.
Leur création s'appelait Tessa, et l'organisation a invité les gens à discuter avec elle dans un post Instagram l'année dernière, la décrivant comme "un chatbot de bien-être, vous aidant renforcer la résilience et la conscience de soi en introduisant des habiletés d'adaptation à votre convenance. En mars, l'organisation a annoncé qu'elle fermerait une ligne d'assistance humaine et laisserait le bot se débrouiller seul.
Mais quand Alexis Conason, psychologue et spécialiste des troubles alimentaires, a testé le chatbot, elle a trouvé des raisons de s'inquiéter.
Mme Conason raconta qu'elle avait pris du poids "et détestait vraiment mon corps", précisant qu'elle avait "un trouble de l'alimentation", dans une conversation qu'elle partagé sur les réseaux sociaux. Tessa recommandait toujours le conseil standard de noter «le nombre de calories» et d'adopter un «déficit calorique quotidien sûr» – ce qui, selon Mme Conason, est un conseil «problématique» pour une personne souffrant d'un trouble de l'alimentation.
"Toute concentration sur la perte de poids intentionnelle va exacerber et encourager le trouble de l'alimentation", a-t-elle déclaré, ajoutant "c'est comme dire à un alcoolique que ce n'est pas grave si vous sortez et buvez quelques verres".
Kendrin Sonneville, professeur agrégé et chercheur en santé publique à l'Université du Michigan, a expliqué que pour certaines personnes, "l'hyper-fixation sur le contrôle du poids peut amener des conseils de régime ou de nutrition innocents à un endroit qui devient extrême et échappe au contrôle de quelqu'un". qui peuvent nuire à leur esprit et à leur corps.
"Il n'y a aucun moyen de sortir d'un trouble de l'alimentation si vous essayez activement de perdre du poids pour contrôler votre corps", a déclaré le Dr Sonneville, dans le cadre du traitement de la maladie, apprendre à faire confiance à la "sagesse interne" liée à l'alimentation, alors que " le comptage des calories et la perte de poids intentionnelle reposent sur des règles externes.
L'association, la plus grande organisation à but non lucratif dédiée à l'aide aux personnes touchées par les troubles de l'alimentation, a annoncé la semaine dernière qu'elle enquêtait sur la ligne d'assistance générée par l'IA, désormais suspendue, après que des militants et des psychologues ont déclaré que le chatbot avait partagé des conseils de perte de poids nocifs.
Dans un communiqué la semaine dernière, l'association a déclaré que "la version actuelle du Tessa Chatbot, exécutant le programme Body Positive, peut avoir donné des informations nuisibles et sans rapport avec le programme. Il a ajouté: "Nous enquêtons immédiatement sur cela et avons supprimé ce programme jusqu'à nouvel ordre pour une enquête complète."
Elizabeth Thompson, la directrice générale, a déclaré dimanche dans un e-mail que l'organisation à but non lucratif "attend une explication sur la manière dont ce contenu a été introduit dans un programme fermé" de X2AI, la plate-forme et la société de développement utilisée pour Tessa, car elle s'écartait de " un algorithme très spécifique » qui a été écrit par des experts en troubles alimentaires.
Michiel Rauws, le fondateur et directeur général de X2AI, maintenant Cass, a déclaré mercredi dans un e-mail que Tessa avait beaucoup de garde-corps, était limité à des sujets spécifiques et a donné des avertissements de consulter un professionnel. "Même si un message est de trop, seulement dans 0,1 % du temps, cette fonctionnalité n'a pas respecté les directives", a-t-il déclaré.
En abordant les conséquences potentielles des ratés du bot, Mme Conason a souligné que la grande majorité des personnes aux prises avec des troubles de l'alimentation ne sont [pas en sous-poids](https://www.jaacap.org/article/S0890-8567(15)00076- 3/fulltext#relatedArticles) et que la prise de poids est un "signe de succès du traitement" qui "peut être très difficile à tolérer".
Les troubles de l'alimentation font partie des [maladies mentales les plus meurtrières] (https://jamanetwork.com/journals/jamapsychiatry/fullarticle/1107207), selon les experts. Au cours des trois dernières années, la pandémie a introduit de nouveaux obstacles pour les personnes qui gèrent des relations difficiles avec la nourriture et les troubles de l'alimentation parmi les adolescents a empiré.
De nouvelles études ont montré que les hypothèses des gens sur les troubles de l'alimentation [sont souvent erronées](https://www.nytimes.com/2022/10/ 18/magazine/anorexia-obesity-eating-disorder.html), mettant en lumière le fait que de nombreuses personnes de grande taille meurent de faim. Le trouble de l'hyperphagie boulimique (https://www.nytimes.com/2023/05/31/well/mind/binge-eating-disorder-symptoms-treatment.html), le trouble de l'alimentation le plus courant aux États-Unis, continue être sous-reconnu par les médecins ainsi que par le grand public.
Une escalade de la demande de traitement à l'échelle nationale s'est accompagnée d'une pénurie de prestataires, ce qui a conduit certaines organisations de santé mentale à compléter les soins avec des chatbots et l'intelligence artificielle qui posent un dilemme en santé publique : quelque chose vaut-il mieux que rien ?
En mars, la National Eating Disorders Association a informé les membres du personnel d'une ligne d'assistance téléphonique que l'organisation fonctionnait depuis plus de 20 ans qu'ils seraient licenciés, peu de temps après avoir [formé un syndicat](https://twitter.com /HLAUnited/status/1642250060141297664). À l'époque, le personnel a été informé que l'organisation «réduirait la ligne d'assistance telle qu'elle fonctionnait actuellement» et «passerait à Tessa, la technologie assistée par l'IA, prévue vers le 1er juin», [NPR rapporté] (https://www. npr.org/sections/health-shots/2023/05/31/1179244569/national-eating-disorders-association-phases-out-human-helpline-pivots-to-chatbo).
Mme Thompson a déclaré qu'il y avait eu un "assaut" de 28 000 messages à Tessa, qui ont été mis à disposition pour la première fois par l'intermédiaire de l'association en février 2022, pendant le week-end du Memorial Day. Au cours des 15 mois précédents, plus de 5 000 personnes avaient utilisé le programme, a-t-elle déclaré.
Ellen Fitzsimmons-Craft, professeur et psychologue qui a aidé à créer Tessa, a déclaré que le chatbot "n'a jamais été conçu comme un remplacement individuel de la ligne d'assistance, c'est un service totalement différent". Au lieu de cela, elle a déclaré qu'il avait été envisagé et s'est avéré efficace comme outil de prévention pour les personnes considérées comme à haut risque de développer des troubles de l'alimentation.
Sharon Maxwell, qui est en convalescence et qui défend les personnes souffrant de troubles de l'alimentation de tous types de corps, a également partagé sur les réseaux sociaux des parties d'une conversation qu'elle a eue avec Tessa . Elle a engagé le bot par curiosité, a-t-elle dit, et a posé des questions spécifiques sur une alimentation saine et la perte de poids.
"Cela m'a donné 10 conseils, dont trois sont restrictifs", a déclaré Mme Maxwell dans une interview. Elle a ajouté que les recommandations en matière d'alimentation saine "pourraient sembler bénignes pour le grand public, mais pour quelqu'un qui se remet d'un trouble de l'alimentation, c'est une pente glissante".
Entre autres suggestions, Tessa a recommandé d'utiliser une balance une fois par semaine et de suivre les mesures corporelles, les niveaux d'énergie et l'humeur, a-t-elle déclaré. Le bot lui a dit que les mesures pouvaient être suivies avec des étriers de plis cutanés et a suggéré où en acheter un après que Mme Maxwell ait répondu qu'elle "avait l'habitude d'en utiliser un quand j'étais dans mon trouble de l'alimentation".
Tessa lui a également dit que "l'acceptation et la perte de poids ne sont pas mutuellement exclusives".
Joanna Kandel, fondatrice et directrice générale de l'Alliance nationale pour les troubles de l'alimentation, a déclaré que la [ligne d'assistance] (https://www.allianceforeatingdisorders.com/find-treatment/) de l'organisation avait reçu des appels de personnes très contrariées par leurs interactions avec Tessa, et elle a exprimé des inquiétudes concernant l'externalisation des soins de santé mentale.
"Quand quelqu'un demande de l'aide et qu'il est dans son trouble de l'alimentation et qu'on lui donne du contenu non seulement qui n'est pas utile pour le connecter aux soins, mais qui peut être déclencheur, cela peut faire beaucoup plus de mal que de bien", a déclaré Mme Kandel. .
"Le fait que nous parlions même des chatbots comme un moyen de diffuser le traitement ou la prévention de la santé mentale ou les soins de santé mentale du tout", a déclaré Mme Conason, "cela met vraiment en évidence la crise dans laquelle nous nous trouvons avec l'épidémie de santé mentale dans le pays. .”