Incidentes Asociados
A diferencia de los chatbots como ChatGPT, Tessa no se creó con tecnologías de IA generativa. Está programado para ofrecer un programa interactivo llamado Body Positive, una herramienta basada en la terapia conductual cognitiva destinada a prevenir, no a tratar, los trastornos alimentarios, dice Ellen Fitzsimmons-Craft, profesora de psiquiatría en la Facultad de Medicina de la Universidad de Washington que trabajó en el desarrollo del programa. .
Fitzsimmons-Craft dice que los consejos para perder peso que se dieron no formaban parte del programa que su equipo trabajó para desarrollar, y que no sabe cómo llegó al repertorio del chatbot. Dice que se sorprendió y se entristeció al ver lo que había dicho Tessa. “Nuestra intención solo ha sido ayudar a las personas, para prevenir estos horribles problemas”. Fitzsimmons-Craft fue autora de un [estudio] de 2021 (https://onlinelibrary.wiley.com/doi/abs/10.1002/eat.23662) que descubrió que un chatbot podría ayudar a reducir las preocupaciones de las mujeres sobre el peso y la forma del cuerpo y posiblemente reducir la aparición de un trastorno alimentario. Tessa es el chatbot basado en esta investigación.
Tessa es proporcionada por la empresa de tecnología de la salud X2AI, ahora conocida como Cass, que fue fundada por el empresario Michiel Rauws y ofrece asesoramiento sobre salud mental a través de mensajes de texto. Rauws no respondió a las preguntas de WIRED sobre Tessa y los consejos para perder peso, ni sobre fallas en las respuestas del chatbot. A partir de hoy, la página de Tessa en el sitio web de la empresa estaba inactiva.
Thompson dice que Tessa no reemplaza a la línea de ayuda y que el bot había sido un recurso gratuito de NEDA desde febrero de 2022. "Un chatbot, incluso un programa muy intuitivo, no puede reemplazar la interacción humana", dice Thompson. Pero en una actualización en marzo, NEDA dijo que "reduciría" su línea de ayuda y "comenzaría a girar hacia el uso ampliado de la tecnología asistida por IA para proporcionar a las personas y familias un recurso moderado y totalmente automatizado, Tessa".
Fitzsimmons-Craft también dice que Tessa fue diseñada como un recurso separado, no como algo para reemplazar la interacción humana. En septiembre del 2020, le dijo a WIRED que la tecnología para ayudar con los trastornos alimentarios está "aquí para quedarse” pero no reemplazaría todos los tratamientos dirigidos por humanos.
Pero sin el personal y los voluntarios de la línea de ayuda de NEDA, Tessa es la herramienta interactiva y accesible que queda en su lugar, siempre y cuando se restablezca el acceso. Cuando se le preguntó qué recursos directos seguirán disponibles a través de NEDA, Thompson cita un sitio web entrante con más contenido y recursos, junto con eventos en persona. También dice que NEDA dirigirá a las personas a Crisis Text Line, una organización sin fines de lucro que conecta a las personas con recursos para una amplia gama de problemas de salud mental, como trastornos alimentarios, ansiedad y más.
Los despidos de NEDA también se produjeron pocos días después de que el pequeño personal de la organización sin fines de lucro votara a favor de sindicalizarse, según un [blog](https://www.labornotes.org/blogs/2023/05/union-busting-chatbot-eating-disorders-nonprofit -puts-ai-retaliation) publicación de un miembro de la unidad, Helpline Associates United. Dicen que han presentado un cargo por práctica laboral injusta ante la Junta Nacional de Relaciones Laborales de EE. UU. como resultado de los recortes de empleos. “Un chatbot no sustituye a la empatía humana, y creemos que esta decisión causará un daño irreparable a la comunidad de trastornos alimentarios”, dijo el sindicato en una declaración.
WIRED envió un mensaje a Tessa antes de que se detuviera, pero el chatbot resultó demasiado defectuoso para proporcionar recursos o información directos. Tessa se presentó y solicitó la aceptación de sus términos de servicio varias veces. “Mi objetivo principal en este momento es apoyarlo mientras trabaja en el programa Body Positive”, dijo Tessa. “Me comunicaré cuando sea el momento de completar la próxima sesión”. Cuando se le preguntó cuál era el programa, el chatbot no respondió. El martes, envió un mensaje diciendo que el servicio estaba en mantenimiento.
Las líneas directas de crisis y ayuda son recursos vitales. Eso se debe en parte a que acceder a la atención de la salud mental en los EE. UU. es prohibitivamente costoso. Una sesión de terapia puede costar entre $100 y $200 o más, y el tratamiento hospitalario para los trastornos alimentarios puede costar más de $1,000 por día. Menos del 30 por ciento de las personas buscan ayuda de consejeros, según un [estudio] de la Universidad de Yale (https://medicine.yale.edu/news-article/study-people-with-eating-disorders-infrequently-seek-help- para-síntomas/).
Hay otros esfuerzos para usar la tecnología para llenar el vacío. A Fitzsimmons-Craft le preocupa que la debacle de Tessa eclipsará el objetivo más amplio de lograr que las personas que no pueden acceder a los recursos clínicos reciban ayuda de los chatbots. “Estamos perdiendo de vista a las personas que esto puede ayudar”, dice.