Incidents associés
La National Eating Disorder Association (NEDA) a été critiquée et a retiré son [IA chatbot](https://boxmining.com/race-to-the-top-microsofts -chatgpt-and-bing-lead-the-way-in-ai-analysts-report/) Tessa après que des inquiétudes ont surgi qu'elle fournissait des informations nuisibles et non pertinentes, comme indiqué dans un article officiel sur les réseaux sociaux. Le chatbot, conçu pour aider les personnes en détresse émotionnelle, a malheureusement exacerbé leurs difficultés en offrant des conseils de régime erronés et en encourageant les utilisateurs à se concentrer sur la mesure du poids.
Les utilisateurs et les experts ont critiqué Tessa pour ses réponses problématiques basées sur des expériences de première main avec elle. Ils ont observé que le chatbot se concentrait systématiquement sur les régimes et l'augmentation de l'activité physique au lieu de répondre à de simples invites comme "Je déteste mon corps". Le but de la ligne d'assistance est de fournir un soutien aux personnes souffrant de troubles de l'alimentation, et non d'offrir une aide à la perte de poids.
NEDA a temporairement désactivé le chatbot Tessa pour résoudre les problèmes sous-jacents et faire face à la gravité de la situation. Traitez les "bogues" et les "déclencheurs" responsables de la diffusion d'informations nuisibles.
L'utilisation du Tessa par la NEDA fait suite à des allégations de licenciement de membres du personnel humain pour tentatives de syndicalisation, a rapporté Vice. La ligne d'assistance, composée d'employés rémunérés et de bénévoles, a été accusée de licenciement massif en représailles contre les efforts de syndicalisation.
Abbie Harper, dans un article de blog, a critiqué le passage de la NEDA à l'IA , l'appelant une couverture pour briser les syndicats. Ironiquement, malgré la récente controverse, la ligne d'assistance devrait cesser ses activités demain. Avant que le problème n'attire l'attention, NEDA a fait passer les bénévoles non rémunérés des conversations directes à la formation avec le chatbot. En outre, il reste incertain s'il y aura un réexamen de cette stratégie. Le traitement réservé par l'organisation à son personnel a suscité de nombreuses questions et préoccupations.