Incidents associés
Un chatbot alimenté par l'IA qui a remplacé les employés d'une hotline pour les troubles de l'alimentation a été fermé après avoir fourni des conseils préjudiciables aux personnes cherchant de l'aide.
La saga a commencé plus tôt cette année lorsque la National Eating Disorder Association (NEDA) a annoncé qu'elle fermait sa ligne d'assistance téléphonique gérée par l'homme et remplaçait les travailleurs par un chatbot appelé "Tessa". Cette décision est intervenue après que les employés de la ligne d'assistance ont voté pour se syndiquer.
L'IA pourrait être annoncée comme un moyen de booster la productivité sur le lieu de travail et même de faciliter certains travaux, mais Tessa's séjour a été de courte durée. Le chatbot a fini par fournir des conseils douteux, voire nuisibles, aux personnes souffrant de troubles de l'alimentation, comme leur recommander de compter les calories et de s'efforcer d'atteindre un [déficit](https://www.healthline.com/nutrition/calorie-deficit#definition-and -importance) allant jusqu'à 1 000 calories par jour, entre autres "conseils", selon les critiques.
"Tout ce que Tessa a suggéré était des choses qui ont conduit au développement de mon trouble de l'alimentation", écrit Sharon Maxwell, qui se décrit comme une consultante inclusive en matière de poids et une militante pour les graisses, sur Instagram. "Ce robot fait du mal."
Dans une publication Instagram mercredi, NEDA a annoncé qu'elle fermait Tessa, au moins temporairement.
"Il a été porté à notre attention hier soir que la version actuelle du Tessa Chatbot, exécutant le programme Body Positive, pouvait avoir donné des informations nuisibles et sans rapport avec le programme", a déclaré le groupe dans un communiqué. "Nous enquêtons immédiatement sur cette affaire et avons supprimé ce programme jusqu'à nouvel ordre pour une enquête complète."
La déclaration n'indiquait pas si la NEDA remplacerait Tessa par une ligne d'assistance humaine. L'organisation n'a pas renvoyé immédiatement une demande de commentaire.
Les travailleurs de la ligne d'assistance téléphonique NEDA qui avaient été licenciés et remplacés par Tessa ont écrit le 26 mai qu'ils étaient déçus de la décision de les remplacer par la technologie de l'IA. "Un chatbot ne remplace pas l'empathie humaine", ont-ils déclaré dans un tweet, ajoutant que la décision nuirait aux personnes souffrant de troubles de l'alimentation.
Tessa a également conseillé d'acheter de la peau étriers pour tester la composition corporelle, suggérant même où acheter les étriers, a écrit Maxwell. Le chatbot "a souligné que la société a des normes de beauté irréalistes, alors qu'elle m'a donné des conseils de régime", a-t-elle déclaré.