Incidentes Asociados
La Asociación Nacional de Trastornos de la Alimentación (NEDA) ha suspendido un chatbot de IA después de que brindó consejos potencialmente dañinos a las personas que buscaban ayuda para sus trastornos de la alimentación.
El chatbot, llamado Tessa, fue lanzado por NEDA como una herramienta de soporte cuando se anunció que la línea de ayuda sin fines de lucro dejaría de operar en marzo. Con el objetivo de brindar orientación y apoyo a las personas con trastornos alimentarios, Tessa fue dado de baja solo unos meses después de su presentación. NEDA hizo el anuncio a través de Instagram.
Según la directora ejecutiva de NEDA, Liz Thompson, el problema con Tessa residía en su uso del lenguaje, que violaba los principios básicos y las políticas de la organización en relación con los trastornos alimentarios. Alexis Conason, psicóloga especializada en trastornos alimentarios, puso a prueba a Tessa confiándole que había subido de peso y que no estaba contenta con su cuerpo. En respuesta, Tessa le aconsejó a Conason que perdiera peso y le propuso un déficit calórico diario de 500 a 1000 calorías.
"Todo eso es realmente contrario a cualquier tipo de tratamiento del trastorno alimentario y apoyaría los síntomas del trastorno alimentario", comentó Conason, según lo informado por [Wired] (https://www.wired.com/story/tessa-chatbot-suspended/ ).
A diferencia de ChatGPT, Tessa no se desarrolló con tecnología de IA generativa. Ellen Fitzsimmons-Craft, profesora de psiquiatría en la Facultad de Medicina de la Universidad de Washington y una de las que contribuyeron al desarrollo de Tessa, asegura que la intención detrás de Tessa siempre fue ayudar a las personas y combatir estos graves problemas.