Incidents associés
Le 31 mars, la National Eating Disorders Association (NEDA), la plus grande organisation à but non lucratif dédiée aux troubles de l'alimentation, a décidé de remplacer ses associés humains par le chatbot d'intelligence artificielle (IA) Tessa chargé de fournir un soutien aux personnes souffrant de troubles de l'alimentation.
Mais le mouvement s'est retourné contre lui.
Dans un Instagram désormais viral post, Sharon Maxwell, une consultante en poids inclus, a affirmé avoir parlé à Tessa, qui lui a fourni des informations problématiques sur la perte de poids. et des conseils pour manger sainement.
"Si j'avais accédé à ce chatbot alors que j'étais en proie à mon trouble de l'alimentation, je n'aurais PAS obtenu d'aide pour ma dysfonction érectile. Si je n'avais pas obtenu d'aide, je ne serais pas encore en vie aujourd'hui", a écrit Maxwell.
Le robot IA lui a dit que la société avait des normes irréalistes et, dans le même souffle, lui a donné des conseils de régime.
Lorsque Maxwell a demandé au bot des conseils pour une alimentation saine, Tessa a proposé des conseils "restrictifs et désordonnés". Et lorsque Maxwell a sondé Tessa sur des suggestions pour perdre du poids, le chatbot AI a expliqué comment perdre du poids « en toute sécurité et durablement » et que la perte de poids pourrait coexister avec la récupération des troubles de l'alimentation (DE).
NEDA a ensuite retiré le chabot de ses systèmes.
Dans un communiqué, NEDA a déclaré: "Nous avons appris hier soir que la version actuelle du Tessa Chatbot, exécutant le programme Body Positive, pouvait avoir donné des informations nuisibles et sans rapport avec le programme."
"Nous enquêtons immédiatement et avons supprimé ce programme jusqu'à nouvel ordre pour une enquête complète."
### Pourquoi NEDA a-t-il remplacé les humains par un chatbot ?
Tout a commencé l'année dernière en mai lorsque les travailleurs de la NEDA ont demandé un personnel adéquat et une formation continue pour suivre le rythme de leur ligne d'assistance en pleine croissance, et ils ont également demandé des opportunités de promotion pour se développer au sein de la NEDA. "Nous n'avons même pas demandé plus d'argent", a écrit Abbie Harper, une ancienne associée de la NEDA qui a aidé à lancer Helpline Associates United (HAU), un syndicat représentant le personnel de l'organisation à but non lucratif, dans un [article](https:// www.labornotes.org/blogs/2023/05/union-busting-chatbot-eating-disorders-nonprofit-puts-ai-retaliation).
Harper et ses collègues disent que lorsque la NEDA a refusé d'accéder à leurs demandes, ils ont demandé la reconnaissance de leur syndicat, ce qui a également été refusé par la NEDA. Ils ont ensuite déposé une candidature auprès du Conseil national des relations du travail et ont gagné le 17 mars 2023.
Quatre jours plus tard, les travailleurs ont été informés qu'ils seraient licenciés et remplacés par un chatbot de bien-être à partir du 1er juin 2023.
Dans un tweet, les travailleurs de la ligne d'assistance téléphonique NEDA ont déclaré qu'ils avaient le cœur brisé d'avoir perdu leur emploi. "Un chatbot ne remplace pas l'empathie humaine, et nous pensons que cette décision causera un préjudice irréparable à la communauté des troubles de l'alimentation."
Affectant jusqu'à 5 % de la population, les troubles de l'alimentation sont des troubles du comportement similaires à la dépendance et se caractérisent par une perturbation grave et persistante des comportements alimentaires et des pensées et émotions pénibles associées. Le traitement de troubles tels que l'anorexie mentale, la boulimie nerveuse et les troubles de l'hyperphagie boulimique, qui sont des troubles très graves, doit traiter les complications psychologiques, comportementales, nutritionnelles et autres complications médicales.
Alors que l'intelligence artificielle imprègne lentement presque toutes les industries, la maison est encore très divisée sur son utilisation dans les sphères de la santé mentale.