Incidentes Asociados
El 31 de marzo, la Asociación Nacional de Trastornos de la Alimentación (NEDA), la organización sin fines de lucro más grande dedicada a los trastornos de la alimentación, decidió reemplazar a sus asociados humanos con el chatbot de inteligencia artificial (IA) Tessa, encargado de brindar apoyo a las personas con trastornos de la alimentación.
Pero la medida fracasó.
En una [publicación] ahora viral de Instagram (https://www.instagram.com/p/Cs4xUNHPmn4/), Sharon Maxwell, una consultora de peso incluido, afirmó que habló con Tessa, quien le brindó información problemática sobre cómo perder peso. y consejos de alimentación saludable.
"Si hubiera accedido a este chatbot cuando estaba en medio de mi trastorno alimentario, NO habría recibido ayuda para mi disfunción eréctil. Si no hubiera recibido ayuda, todavía no estaría vivo hoy", escribió Maxwell.
El bot de IA le dijo que la sociedad tiene estándares poco realistas y, al mismo tiempo, le dio consejos sobre dietas.
Cuando Maxwell le pidió al bot consejos sobre alimentación saludable, Tessa le dio consejos que eran "restrictivos y desordenados". Y cuando Maxwell investigó más a Tessa sobre las sugerencias para perder peso, el chatbot de IA describió cómo perder peso de forma "segura y sostenible" y que la pérdida de peso podría coexistir con la recuperación del trastorno alimentario (DE).
NEDA luego eliminó el chabot de sus sistemas.
En un comunicado, NEDA dijo: "Nos llamó la atención anoche que la versión actual de Tessa Chatbot, que ejecuta el programa Body Positive, puede haber brindado información dañina y no relacionada con el programa".
“Estamos investigando esto de inmediato y hemos eliminado ese programa hasta nuevo aviso para una investigación completa”.
¿Por qué NEDA reemplazó a los humanos con un chatbot en primer lugar?
Todo comenzó el año pasado en mayo cuando los trabajadores de NEDA solicitaron personal adecuado y capacitación continua para mantenerse al día con su creciente línea de ayuda, y también solicitaron oportunidades de promoción para crecer dentro de NEDA. "Ni siquiera pedimos más dinero", escribió Abbie Harper, ex asociada de NEDA que ayudó a lanzar Helpline Associates United (HAU), un sindicato que representa al personal de la organización sin fines de lucro, en una [publicación](https:// www.labornotes.org/blogs/2023/05/union-busting-chatbot-eating-disorders-nonprofit-puts-ai-retaliation).
Harper y sus colegas dicen que cuando NEDA se negó a aceptar sus demandas, pidieron el reconocimiento de su sindicato, lo que también fue rechazado por NEDA. Luego se presentaron a una elección ante la Junta Nacional de Relaciones Laborales y ganaron el 17 de marzo de 2023.
Cuatro días después, se les dijo a los trabajadores que serían despedidos y reemplazados por un chatbot de bienestar a partir del 1 de junio de 2023.
En un tweet, los trabajadores de la línea de ayuda de NEDA dijeron que estaban desconsolados por haber perdido sus trabajos. "Un chatbot no sustituye a la empatía humana, y creemos que esta decisión causará un daño irreparable a la comunidad de trastornos alimentarios".
Los trastornos de la alimentación, que afectan hasta al 5 % de la población, son trastornos del comportamiento que son similares a la adicción y se caracterizan por alteraciones graves y persistentes en los comportamientos alimentarios y pensamientos y emociones angustiosas asociadas. El tratamiento de trastornos como la anorexia nerviosa, la bulimia nerviosa y los trastornos alimentarios compulsivos, que son trastornos muy graves, debe abordar las complicaciones psicológicas, conductuales, nutricionales y otras complicaciones médicas.
Si bien la inteligencia artificial está penetrando lentamente en casi todas las industrias, la casa todavía está muy dividida sobre su uso en las esferas de la salud mental.