Incidentes Asociados
La Asociación Nacional de Trastornos de la Alimentación deshabilitó el chatbot que reemplazó a su línea de ayuda administrada por personal y voluntarios después de que dos usuarios informaron haber recibido consejos dañinos.
A principios de esta semana, Sharon Maxwell y Alexis Conason publicaron en Instagram sus experiencias con el chatbot. Ambos escribieron que el bot, llamado Tessa, les aconsejó perder una o dos libras por semana y comer con un déficit de 500 a 1000 calorías.
“Cada cosa que sugirió Tessa fueron cosas que llevaron al desarrollo de mi trastorno alimentario”, escribió Maxwell, quien, según su sitio web, tiene una “misión para ayudar a las personas gordas a experimentar la seguridad en los entornos de atención médica y experimentar la alegría de vivir en sus cuerpos gordos”.
“Imagínese a las personas vulnerables con trastornos alimentarios que se acercan a un robot en busca de apoyo porque eso es todo lo que tienen disponible y reciben respuestas que promueven aún más el trastorno alimentario”, escribió Conason, autor de “The Diet-Free Revolution”, [en Instagram] (https ://www.instagram.com/p/Cs18IeRPRl6/).
La Asociación Nacional de Trastornos de la Alimentación ha operado su chatbot desde el año pasado, pero hasta el 1 de junio también operaba una línea de ayuda telefónica operada por personal y cientos de voluntarios. La organización cerró la línea de ayuda y despidió a esos trabajadores, NPR [informó el mes pasado](https://www.npr.org/2023/05/24/1177847298/can-a-chatbot-help-people-with-eating- trastornos-así como-otro-humano).
Liz Thompson, directora ejecutiva de la Asociación Nacional de Trastornos de la Alimentación, le dijo a HuffPost en un correo electrónico que Tessa fue eliminada durante el fin de semana después de que "proporcionó un lenguaje fuera del guión".
Thompson dijo que Tessa fue "atacada y de alguna manera pudo salir de las respuestas programadas preaprobadas".
Dijo que Tessa ha estado en el sitio web de la organización desde febrero de 2022 y ha tenido “resultados increíblemente positivos”. Pero los mensajes dañinos del chatbot eran inaceptables, dijo.
“Tenga en cuenta que en NEDA no creemos que sea aceptable ni siquiera el 0,1% del tiempo para mensajes dañinos”, dijo Thompson en el correo electrónico. “El lenguaje compartido sobre consejos para perder peso y dietas va en contra de nuestras filosofías y políticas organizacionales, y no se incluyó en la programación original de Body Positive”.
Ella dijo que Cass, la compañía que programa a Tessa, le dijo que los malos actores intentaron engañar a Tessa y que las respuestas de Tessa se produjeron después de la "actividad nefasta" de los malos actores.
El fundador y CEO de Cass, Michiel Rauws, le dijo a HuffPost que hubo un aumento del 600% en el tráfico al chatbot.
“Estamos agradecidos de que algunas personas probaron el servicio debido a su preocupación y destacaron esos problemas”, dijo en un correo electrónico. “Otros mostraron comportamientos no relacionados con trastornos alimentarios, sino que indicaron varias formas de actividad nefasta de malos actores que intentaban engañar a Tessa. Si bien se vieron afectados muy pocos mensajes, incluso un mensaje es demasiado. No tomamos esto a la ligera y nos disculpamos por haber ocurrido”.
El mes pasado, el sindicato que representa al personal de la línea de ayuda publicó una declaración advirtiendo que un chatbot no podría ofrecer la misma ayuda que una persona.
“Un bot de chat no sustituye a la empatía humana, y creemos que esta decisión causará un daño irreparable a la comunidad de trastornos alimentarios”, escribió en mayo Helpline Associates de la National Eating Disorders Association.
Si tiene problemas con un trastorno alimentario, llame o envíe un mensaje de texto al 988 o chatee 988lifeline.org para obtener ayuda.