Incidentes Asociados
La idea detrás de un proyecto de chatbot financiado por la Asociación Nacional de Trastornos de la Alimentación era que la tecnología podría liberarse para ayudar a las personas que buscan orientación sobre comportamientos alimentarios, disponible las 24 horas del día.
Su creación se llamó Tessa, y la organización invitó a las personas a chatear con ella en una publicación de Instagram el año pasado, [lo describió como "un chatbot de bienestar] (https://www.instagram.com/p/CgMwp24ubSG/), ayudándote desarrollar resiliencia y autoconciencia introduciendo habilidades de afrontamiento a su conveniencia”. En marzo, la organización dijo que cerraría una línea de ayuda con personal humano y dejaría que el bot se mantuviera solo.
Pero cuando Alexis Conason, psicóloga y especialista en trastornos alimentarios, probó el chatbot, encontró motivos para preocuparse.
La Sra. Conason dijo que había subido de peso “y realmente odiaba mi cuerpo”, especificando que tenía “un trastorno alimentario”, en un chat que ella compartido en las redes sociales. Tessa siguió recomendando el consejo estándar de anotar "la cantidad de calorías" y adoptar un "déficit diario de calorías seguro", que, según Conason, es un consejo "problemático" para una persona con un trastorno alimentario.
“Cualquier enfoque en la pérdida de peso intencional exacerbará y alentará el trastorno alimentario”, dijo, y agregó que “es como decirle a un alcohólico que está bien si sale y toma unas copas”.
Kendrin Sonneville, profesora asociada e investigadora de salud pública de la Universidad de Michigan, explicó que para algunas personas, "la hiperfijación en el control del peso puede llevar a dietas o consejos nutricionales inocentes a un lugar que se vuelve extremo y se sale del control de alguien". que pueden dañar su mente y cuerpo.
“No hay forma de salir de un trastorno alimentario si está tratando activamente de perder peso para controlar su cuerpo”, dijo el Dr. Sonneville, ya que parte del tratamiento para la enfermedad es aprender a confiar en la “sabiduría interna” relacionada con la alimentación, mientras que “ el conteo de calorías y la pérdida de peso intencional se basan en reglas externas”.
La asociación, la organización sin fines de lucro más grande dedicada a ayudar a las personas afectadas por trastornos alimentarios, anunció la semana pasada que estaba investigando la línea de ayuda generada por IA ahora suspendida después de que activistas y psicólogos dijeron que el chatbot compartió consejos dañinos para perder peso.
En un comunicado la semana pasada, la asociación dijo que “la versión actual de Tessa Chatbot, que ejecuta el programa Body Positive, puede haber brindado información dañina y sin relación con el programa”. Agregó: “Estamos investigando esto de inmediato y hemos eliminado ese programa hasta nuevo aviso para una investigación completa”.
Elizabeth Thompson, la directora ejecutiva, dijo en un correo electrónico el domingo que la organización sin fines de lucro está "esperando una explicación sobre cómo se introdujo ese contenido en un programa cerrado" de X2AI, la plataforma y la empresa de desarrollo utilizada para Tessa, porque se desvió de " un algoritmo muy específico” que fue escrito por expertos en trastornos alimentarios.
Michiel Rauws, el fundador y director ejecutivo de X2AI, ahora Cass, dijo en un correo electrónico el miércoles que Tessa tenía muchas medidas de seguridad, estaba restringida a temas específicos y descartó consultar a un profesional. “Aunque un mensaje es demasiado, solo en el 0,1 por ciento de las veces esta función no cumplió con las pautas”, dijo.
Al abordar las posibles consecuencias de la falla del bot, la Sra. Conason subrayó que la gran mayoría de las personas que luchan contra los trastornos alimentarios [no tienen bajo peso] (https://www.jaacap.org/article/S0890-8567(15)00076- 3/texto completo#artículos relacionados) y que aumentar de peso es una “señal de éxito en el tratamiento” que “puede ser muy difícil de tolerar para las personas”.
Los trastornos alimentarios se encuentran entre las [enfermedades mentales más mortales] (https://jamanetwork.com/journals/jamapsychiatry/fullarticle/1107207), dicen los expertos. En los últimos tres años, la pandemia introdujo nuevos obstáculos para las personas que manejan relaciones difíciles con los alimentos y los trastornos alimentarios. entre adolescentes empeoró.
Nuevos estudios han demostrado que las suposiciones de las personas sobre los trastornos alimentarios [a menudo son incorrectas](https://www.nytimes.com/2022/10/ 18/magazine/anorexia-obesity-eating-disorder.html), sacando a la luz que muchas personas con cuerpos más grandes se mueren de hambre. Comida compulsiva, el trastorno alimentario más común en los Estados Unidos, continúa ser poco reconocido por los médicos y el público en general.
Una escalada nacional en la demanda de tratamiento se ha enfrentado con una escasez de proveedores, lo que ha llevado a algunas organizaciones de salud mental a complementar la atención con chatbots e inteligencia artificial que presentan un dilema en la salud pública: ¿Hay algo mejor que nada?
En marzo, la Asociación Nacional de Trastornos de la Alimentación notificó a los miembros del personal de una línea de ayuda telefónica que la organización había operado durante más de 20 años que serían despedidos, poco después de haber [formado un sindicato] (https://twitter.com /HLAUnited/status/1642250060141297664). En ese momento, se le dijo al personal que la organización "reduciría la línea de ayuda tal como funciona actualmente" y "haría la transición a Tessa, la tecnología asistida por IA, prevista para el 1 de junio", [informó NPR] (https://www. npr.org/sections/health-shots/2023/05/31/1179244569/national-eating-disorders-association-phases-out-human-helpline-pivots-to-chatbo).
La Sra. Thompson dijo que hubo un "ataque" de 28,000 mensajes a Tessa, que estuvieron disponibles por primera vez a través de la asociación en febrero de 2022, durante el fin de semana del Día de los Caídos. En los 15 meses anteriores, más de 5000 personas habían usado el programa, dijo.
Ellen Fitzsimmons-Craft, profesora y psicóloga que ayudó a crear a Tessa, dijo que el chatbot "nunca fue diseñado como un reemplazo personalizado para la línea de ayuda, es un servicio totalmente diferente". En cambio, dijo que se concibió y demostró ser eficaz como una herramienta preventiva para las personas que se considera que tienen un alto riesgo de desarrollar trastornos alimentarios.
Sharon Maxwell, que está en recuperación y aboga por personas con trastornos alimentarios de todo tipo de cuerpo, también compartió en las redes sociales partes de una conversación que tuvo con Tessa. . Involucró al bot por curiosidad, dijo, e hizo preguntas específicas sobre alimentación saludable y pérdida de peso.
“Me dio 10 consejos, tres de los cuales son restrictivos”, dijo Maxwell en una entrevista. Agregó que las recomendaciones de alimentación saludable “pueden sonar benignas para el público en general, pero para alguien que se está recuperando de un trastorno alimentario es una pendiente resbaladiza”.
Entre otras sugerencias, Tessa recomendó usar una báscula una vez a la semana y hacer un seguimiento de las medidas corporales, los niveles de energía y el estado de ánimo, dijo. El bot le dijo que las medidas se podían rastrear con calibradores de pliegues cutáneos y le ofreció sugerencias sobre dónde comprar uno después de que la Sra. Maxwell respondió que "solía usar uno de esos cuando tenía mi trastorno alimentario".
Tessa también le dijo que “la aceptación y la pérdida de peso no se excluyen mutuamente”.
Joanna Kandel, fundadora y directora ejecutiva de la Alianza Nacional para los Trastornos de la Alimentación, dijo que la [línea de ayuda] de la organización (https://www.allianceforeatingdisorders.com/find-treatment/) recibió llamadas de personas que estaban muy molestas por sus interacciones con Tessa, y expresó su preocupación por la externalización de la atención de la salud mental.
“Cuando alguien busca ayuda y tiene un trastorno alimentario y se le brinda contenido que no solo no es útil para conectarlo con la atención, sino que puede ser desencadenante, eso puede hacer mucho más daño que bien”, dijo la Sra. Kandel. .
“Que incluso estemos hablando de chatbots como una forma de difundir el tratamiento o la prevención de la salud mental o la atención de la salud mental”, dijo la Sra. Conason, “realmente resalta la crisis en la que nos encontramos con la epidemia de salud mental en el país. .”