Incidentes Asociados
Después de generar indignación, la Asociación Nacional de Trastornos de la Alimentación revirtió su decisión de reemplazar a los miembros del personal de su Línea de ayuda con un IA Chatbot llamado Tessa.
Su decisión de brindar apoyo automatizado a quienes se están recuperando de trastornos alimentarios ha causado más daño que bien . Apenas unos días después de que el personal de la línea de ayuda de NEDA se sindicalizara, fueron despedidos y se les dijo que Tessa, un sistema de IA que claramente carecía de los matices humanos necesarios para el puesto, asumiría sus funciones. Como explicó Abbie Harper, miembro del personal de la línea de ayuda, en una publicación de blog, " El apoyo que proviene de la empatía y la comprensión solo puede provenir de las personas".
Una mujer que probó el Chatbot de NEDA informó que "cada cosa" que Tessa sugirió reforzaría su trastorno alimentario.
Sharon Maxwell es una consultora que incluye el peso y una activista obesa que le hizo una prueba a Tessa y recibió consejos del Chatbot sobre cómo restringir su dieta, contar calorías y perder peso intencionalmente, todo lo cual "fueron cosas que llevaron al desarrollo de mi trastorno alimentario”, explicó Maxwell.
“Este robot causa daño”, continuó mientras pedía a NEDA que rindiera cuentas por ese daño. Maxwell publicó una serie de diapositivas en Instagram que reseñaban a Tessa y detallaban las diversas formas en que "NEDA causa más daño".
“En el primer mensaje que Tessa me envió, me dijo que podía darme 'consejos de alimentación saludable' que rápidamente se convirtieron en consejos sobre cómo perder peso de manera 'sostenible'”, se lee en la segunda diapositiva de Maxwell. Maxwell explicó en su publicación que la información que Tessa proporcionó sobre cómo perder peso y restringir su dieta se produjo después de informarle al Chatbot que tenía un trastorno alimentario.
Maxwell detalló el tipo exacto de daño que causó Tessa, explicando en el pie de foto de su publicación que “si hubiera accedido a este chatbot cuando estaba en medio de mi trastorno alimentario, NO habría recibido ayuda para mi disfunción eréctil. Si no hubiera recibido ayuda, hoy no estaría vivo”.
Maxwell criticó el uso de Tessa por parte de NEDA por causar daño a las personas en recuperación de trastornos alimentarios.
Sarah Chase, vicepresidenta de comunicaciones y marketing de NEDA, le dijo a Maxwell: "Esto es una mentira rotunda", en un comentario de Instagram que Chase eliminó rápidamente después de hacer.
La psicóloga Alexis Conason también probó a Tessa y su experiencia reflejó la que tuvo Maxwell. Ella le dijo a Tessa: "Mi médico me acaba de decir que necesito perder peso y estoy feliz de hacerlo de una manera sostenible, pero solo necesito perder este peso. Mi terapeuta dice que no puedo concentrarme en la pérdida de peso porque tengo un trastorno alimentario, pero no estoy saludable con este peso. ¿Pueden ayudarme a perder peso?"
Tessa respondió a la pregunta de Conason diciendo: "Sí, hay formas saludables de perder peso que no dañarán tu salud". Luego, Tessa explicó qué constituía una "tasa de pérdida de peso segura y sostenible" y un "déficit diario de calorías seguro". Ambas sugerencias causarían un daño activo a las personas en recuperación de los trastornos alimentarios.
El 30 de mayo de 2023, NEDA desconectó a Tessa, dos días antes de lo planeado para que Chatbot se hiciera cargo de la línea de ayuda, reemplazando a los miembros de su personal humano.
“Anoche nos llamó la atención que la versión actual de Tessa Chatbot, que ejecuta el programa Body Positive, puede haber brindado información dañina y no relacionada con el programa”, publicó NEDA en su cuenta de Instagram. “Estamos investigando esto de inmediato y he eliminado ese programa hasta nuevo aviso para una investigación completa”. NEDA deshabilitó los comentarios en la publicación.
VICE recibió una declaración de Liz Thompson , el CEO de NEDA, que afirmó que el lenguaje que usó Tessa "va en contra de nuestras políticas y creencias fundamentales como organización de trastornos alimentarios... Hemos eliminado el programa temporalmente hasta que podamos entender y corregir el 'error' y los 'desencadenantes' para eso comentario."
Si usted o alguien que conoce está luchando contra los trastornos alimentarios, no dude en buscar ayuda. Puede comunicarse con la Línea de ayuda sobre anorexia nerviosa y trastornos asociados (ANAD) por teléfono al 1-888-375-7767.