Incidentes Asociados
Una ONG con sede en Nueva York dedicada a la prevención de los trastornos alimentarios eliminó un chatbot de IA luego de informes de que proporcionaba un dispositivo dañino.
La Asociación Nacional de Trastornos de la Alimentación (NEDA, por sus siglas en inglés) está bajo fuego por su decisión de despedir a cuatro empleados que trabajaban para su línea de ayuda, lo que permite a las personas comunicarse con voluntarios que ofrecen apoyo a las personas preocupadas por los trastornos de la alimentación. El chatbot de la ONG 'Tessa' ha tenido problemas después de que una activista publicara en Instagram afirmando que le ofrecía 'consejos de alimentación saludable' y le aconsejaba perder peso, [Guardian](https://www.theguardian.com/technology/2023/ may/31/eating-disorder-hotline-union-ai-chatbot-harm) informado.
A la activista Sharon Maxwell se le aconsejó un déficit calórico de 500-1.000 calorías al día y un pesaje semanal para llevar un control del peso. Maxwell afirma que si hubiera accedido al chatbot durante los "agonizantes" de su trastorno, no habría recibido ayuda y no estaría viva.
La ONG dijo que aquellos que hacen una dieta moderada tienen cinco veces más probabilidades de desarrollar un trastorno alimentario. NEDA dijo que la versión actual del chatbot podría haber brindado información considerada dañina y no relacionada con el programa Body Positivity. La organización dijo que está llevando a cabo una investigación y canceló el programa hasta nuevo aviso.
El director ejecutivo de la Asociación Nacional de Trastornos de la Alimentación aclaró que el chatbot no está a cargo de ChatGPT de OpenAI y no es un sistema de IA altamente funcional (Imagen representativa)
El mes pasado, un exempleado de la línea de ayuda de NEDA afirmó que la línea de ayuda fue testigo de un aumento del 107 % en llamadas y mensajes desde el comienzo de la pandemia de Covid-19, en su mayoría relacionados con informes de pensamientos suicidas, autolesiones y abuso infantil. El sindicato había pedido personal y capacitación adecuados para mantenerse al día con las demandas de la línea de ayuda.
Según el informe, NEDA trabajó con investigadores de psicología y la empresa de inteligencia artificial Cass AI, que desarrolla chatbots centrados en la salud mental. Ellen Fitzsimmons, psicóloga en una publicación en el sitio web de NEDA, dijo que el chatbot 'Tessa' se pensó como una solución para hacer que la prevención de los trastornos alimentarios estuviera ampliamente disponible.
La directora ejecutiva de NEDA, Liz Thompson, dijo al sitio web que 'Tessa' no estaba destinada a reemplazar la línea de ayuda, sino que se creó como un programa separado. El CEO aclaró que el chatbot no está a cargo de ChatGPT de OpenAI y no es un sistema de IA altamente funcional.