Incidentes Asociados
La Asociación Nacional de Trastornos de la Alimentación (NEDA) enfrentó recientemente críticas y se vio obligada a eliminar su chatbot Tessa debido a la preocupación de que estaba proporcionando información dañina e irrelevante, como se indica en una publicación oficial en las redes sociales. Desafortunadamente, el chatbot, diseñado para ayudar a las personas que experimentan angustia emocional, exacerbó sus problemas al ofrecer consejos dietéticos equivocados y alentar a los usuarios a concentrarse en la medición del peso.
Numerosos usuarios y expertos en el campo de los trastornos alimentarios informaron encuentros de primera mano con las respuestas problemáticas del bot. Señalaron que el chatbot no abordó mensajes simples como "Odio mi cuerpo", sino que enfatizó constantemente la importancia de hacer dieta y aumentar la actividad física. Es importante enfatizar que esta línea de ayuda fue diseñada para ayudar a las personas que enfrentan trastornos alimentarios y no para funcionar como un grupo de apoyo para la pérdida de peso.
Reconociendo la gravedad de la situación, NEDA decidió cerrar temporalmente el chatbot hasta que pudiera abordar los problemas subyacentes y rectificar los "errores" y "desencadenantes" que llevaron a la difusión de información dañina.
La confianza de NEDA en el chatbot se debió a las acusaciones de que la organización había despedido a los miembros de su personal humano cuando intentaron sindicalizarse, como informó inicialmente Vice. La línea de ayuda de larga data había sido atendida por una combinación de empleados pagados y voluntarios. Los ex miembros del personal afirman que el despido masivo fue una respuesta directa a sus esfuerzos de sindicalización.
"Si bien la NEDA afirma que este fue un cambio anticipado durante mucho tiempo y que la IA puede servir mejor a las personas con trastornos alimentarios, no se trata simplemente de un chatbot. Se trata fundamentalmente de romper sindicatos", expresó Abbie Harper, ex asociada de la línea de ayuda, en un blog. publicar en Notas Laborales.
Irónicamente, a pesar de la reciente debacle, la línea de ayuda dejará de funcionar mañana. Antes de que este problema atrajera la atención del público, NEDA había estado transicionando gradualmente a los voluntarios no remunerados lejos de las conversaciones directas uno a uno con personas que luchan contra los trastornos alimentarios y entrenándolos para trabajar con el chatbot. Queda por ver si esta estrategia será reconsiderada. Mientras tanto, la controversia en torno al trato que la organización da a su personal ha suscitado muchas preguntas.