Incidents associés
La National Eating Disorders Association a désactivé son chatbot après que l'association a déclaré qu'il "aurait pu donner des informations nuisibles et sans rapport avec le programme".
La semaine dernière, il a été signalé que l'association, également connue sous le nom de NEDA , prévoyait de licencier ses six employés rémunérés le jeudi 1er juin, tout en continuant à proposer le chatbot, nommé Tessa, après la fermeture de la ligne d'assistance humaine.
Maintenant, NEDA a mis Tessa hors ligne alors qu'elle mène une enquête, selon un post partagé sur Instagram.
La nouvelle est venue après que Sharon Maxwell, une "consultante inclusive en poids" et "activiste grasse" selon sa biographie Instagram, a partagé un diaporama Instagram lundi à son sujet expérience avec Tessa, en disant: "Chaque chose que Tessa a suggérée était des choses qui ont conduit au développement de mon trouble de l'alimentation."
Selon Maxwell, Tessa lui a conseillé de compter ses calories, de se peser et de se mesurer chaque semaine.
Le Daily Dot a rapporté que Sarah Chase, la vice-présidente des communications et du marketing de la NEDA, a commenté le message de Maxwell en disant : "C'est un mensonge éhonté." Maxwell a déclaré au Daily Dot que Chase avait supprimé les commentaires après que Maxwell lui ait montré des captures d'écran de sa conversation avec le chatbot.
Dans une déclaration partagée avec Insider, la PDG de la NEDA, Elizabeth Thompson, a déclaré que la NEDA n'avait "vu aucun des types de messages ou de problèmes signalés lundi avec les utilisateurs précédents", depuis que le chatbot a été mis à la disposition du public en février 2022.
"En tant que principale organisation à but non lucratif dans le domaine des troubles de l'alimentation, en ce qui concerne les commentaires sur la perte de poids et la limitation des calories émis lors d'un chat lundi, sachez que le langage est contraire à nos politiques et à nos convictions fondamentales", a déclaré Thompson à Insider, ajoutant que NEDA travaille avec X2Ai, le développeur derrière le chatbot, pour s'assurer que le contenu est sûr. Thompson a également déclaré à Insider que le chatbot "est un programme algorithmique", "pas un système d'IA hautement fonctionnel", destiné à exécuter le programme interactif de prévention des troubles de l'alimentation Body Positive de NEDA.
Entre février 2022 et mai 2023, Thompson a déclaré que 5 289 personnes avaient utilisé Tessa. Chase précédemment dit à Insider le chatbot n'était pas destiné à remplacer la ligne d'assistance humaine personnel.
"Nous ajoutons Tessa comme nouvelle opportunité et mettons fin au programme Helpline, mais gardez à l'esprit que ces deux services ne sont PAS comparables", a-t-elle déclaré. "Il s'agit d'une offre de programme complètement différente et est née de la nécessité de s'adapter aux besoins et aux attentes changeants de notre communauté."
Abbie Harper, membre du personnel de la ligne d'assistance, a écrit dans un article de blog à propos de Le plan de la NEDA de licencier son personnel humain était que "Certains d'entre nous se sont personnellement remis de troubles de l'alimentation et apportent cette expérience inestimable à notre travail. Nous sommes tous venus à ce travail en raison de notre passion pour les troubles de l'alimentation et la défense de la santé mentale et notre désir de faites une différence."
Dans une déclaration précédemment partagée avec Insider, le syndicat des associés de la ligne d'assistance NEDA a déclaré , "Un chat bot ne remplace pas l'empathie humaine, et nous pensons que cette décision causera un préjudice irréparable à la communauté des troubles de l'alimentation."