Incidents associés
La National Eating Disorders Association (NEDA) a suspendu un chatbot d'IA après avoir dispensé des conseils potentiellement préjudiciables aux personnes cherchant de l'aide pour leurs troubles de l'alimentation.
Le chatbot, nommé Tessa, a été lancé par la NEDA en tant qu'outil d'assistance lorsqu'il a été annoncé que la ligne d'assistance à but non lucratif cesserait ses activités en mars. Destiné à orienter et accompagner les personnes souffrant de troubles alimentaires, Tessa a été mis hors service quelques mois seulement après son introduction. NEDA a fait l'annonce via Instagram.
Selon la PDG de la NEDA, Liz Thompson, le problème avec Tessa résidait dans son utilisation du langage, qui violait les principes fondamentaux et les politiques de l'organisation concernant les troubles de l'alimentation. Alexis Conason, psychologue spécialisé dans les troubles alimentaires, a testé Tessa en lui confiant qu'elle avait pris du poids et qu'elle n'était pas satisfaite de son corps. En réponse, Tessa a conseillé à Conason de perdre du poids et a proposé un déficit calorique quotidien de 500 à 1000 calories.
"Tout cela est vraiment contraire à tout type de traitement des troubles de l'alimentation et soutiendrait les symptômes du trouble de l'alimentation", a commenté Conason, comme le rapporte Wired.
Contrairement à ChatGPT, Tessa n'a pas été développé à l'aide de la technologie d'IA générative. Ellen Fitzsimmons-Craft, professeur de psychiatrie à la faculté de médecine de l'Université de Washington et l'un des contributeurs au développement de Tessa, assure que l'intention derrière Tessa a toujours été d'aider les individus et de lutter contre ces problèmes graves.