Incidentes Asociados
La Asociación Nacional de Trastornos de la Alimentación (NEDA) recibió críticas y eliminó su [AI chatbot](https://boxmining.com/race-to-the-top-microsofts -chatgpt-and-bing-lead-the-way-in-ai-analysts-report/) Tessa después de que surgieran preocupaciones de que proporcionaba información dañina e irrelevante, como se indica en una publicación oficial en las redes sociales. Desafortunadamente, el chatbot, diseñado para ayudar a las personas que experimentan angustia emocional, exacerbó sus problemas al ofrecer consejos dietéticos equivocados y alentar a los usuarios a concentrarse en la medición del peso.
Los usuarios y expertos criticaron a Tessa por sus respuestas problemáticas basadas en experiencias de primera mano con él. Observaron que el chatbot se enfocaba constantemente en hacer dieta y aumentar la actividad física en lugar de abordar mensajes simples como "Odio mi cuerpo". El propósito de la línea de ayuda es brindar apoyo a las personas con trastornos alimentarios, no ofrecer asistencia para perder peso.
NEDA deshabilitó temporalmente el chatbot Tessa para abordar los problemas subyacentes y abordar la gravedad de la situación. Aborde los "errores" y los "desencadenantes" que fueron responsables de la [difusión de información dañina] (https://boxmining.com/ai-risks-experts-warn-of-potential-extinction-of-humanity/).
El uso de Tessa por parte de NEDA siguió a las acusaciones de despido de miembros del personal humano por intentos de sindicalización, informó Vice. La línea de ayuda, atendida por empleados pagados y voluntarios, enfrentó acusaciones de despido masivo como represalia contra los esfuerzos de sindicalización.
Abbie Harper, en una publicación de blog, criticó el cambio de NEDA a la IA , llamándolo una tapadera para reventar sindicatos. Irónicamente, a pesar de la controversia reciente, la línea de ayuda dejará de funcionar mañana. Antes de que el problema llamara la atención, NEDA cambió a los voluntarios no remunerados de las conversaciones directas a la capacitación con el chatbot. Además, sigue siendo incierto si habrá una reconsideración de esta estrategia. El trato de la organización a su personal ha generado numerosas preguntas e inquietudes.