Incidents associés
C'est une décision qui pourrait ravir quiconque s'inquiète des effets potentiels des outils d'intelligence artificielle sur l'emploi. Comme le rapport BBC , la National Eating Disorder Association (NEDA) des États-Unis a dû supprimer son chatbot IA "Tessa" après son lancement. recommander des stratégies diététiques potentiellement nocives aux personnes souffrant de troubles de l'alimentation. Cela s'est produit une semaine seulement après que la NEDA a choisi d'utiliser le bot au lieu d'une ligne d'assistance en direct gérée par l'homme. Le groupe a annoncé le problème avec Tessa dans un Instagram post, par [Fortune](https://fortune.com/well/2023/05/31 /neda-ai-chatbot-conseils-nocifs/). « Il a été porté à notre attention … que la version actuelle du Tessa Chatbot … peut avoir fourni des informations nuisibles », lit-on dans le message. "Nous enquêtons immédiatement et avons supprimé ce programme jusqu'à nouvel ordre pour une enquête complète."
Comme NPR a rapporté mercredi, la NEDA s'est tournée vers l'IA après avoir géré sa ligne d'assistance en direct pour les personnes souffrant d'anorexie, de boulimie et d'autres troubles de l'alimentation pendant plus de deux décennies. L'organisation à but non lucratif aurait informé le personnel de la ligne d'assistance moins d'une semaine après avoir formé un syndicat. NEDA a déclaré que le changement n'avait rien à voir avec la syndicalisation des employés vivants et tout à voir avec une augmentation considérable des appels et des SMS à la hotline pendant la pandémie de COVID-19. Cette augmentation du volume d'appels, selon la direction de la NEDA, signifiait une responsabilité accrue, et donc le "pivot vers l'utilisation élargie de la technologie assistée par l'IA".
En ce qui concerne le mauvais comportement de Tessa, CNN rapporte que la PDG de la NEDA, Liz Thompson, a accusé les "mauvais acteurs" d'essayer délibérément pour inciter le chatbot à donner des conseils nuisibles ou même sans rapport aux utilisateurs. Avant que les problèmes du bot ne soient rendus publics, les anciens membres du personnel de la ligne d'assistance tweetaient une déclaration dans laquelle ils affirmaient que les chatbots ne pouvaient pas "se substituer à l'empathie humaine, et nous pensons que cette décision causera un préjudice irréparable à la communauté des troubles de l'alimentation." (Lire plus d'histoires sur l'intelligence artificielle.)