Journal des citations pour l'incident 545

Description: The National Eating Disorders Association (NEDA) has shut down its chatbot named Tessa after it gave weight-loss advice to users seeking help for eating disorders. The incident has raised concerns about the risks of using chatbots and AI assistants in healthcare settings, particularly in addressing sensitive issues like eating disorders. NEDA is investigating the matter, emphasizing the need for caution and accuracy when utilizing technology to provide mental health support.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique
Présumé : un système d'IA développé par Cass et mis en œuvre par National Eating Disorders Association and Cass, endommagé People with eating disorders.

Statistiques d'incidents

ID
545
Nombre de rapports
46
Date de l'incident
2023-05-29
Editeurs
Daniel Atherton
La ligne d'assistance sur les troubles de l'alimentation licencie son personnel et passe au chatbot après la syndicalisation
vice.com · 2023

Les dirigeants de la National Eating Disorders Association (NEDA) ont décidé de remplacer les travailleurs de la hotline par un chatbot nommé Tessa quatre jours après la syndicalisation des travailleurs.

NEDA, la plus grande organisation à …

La ligne d'assistance sur les troubles de l'alimentation désactive le chatbot pour des réponses « nuisibles » après avoir licencié du personnel humain
vice.com · 2023

La National Eating Disorder Association (NEDA) a mis hors ligne son chatbot appelé Tessa, deux jours avant qu'il ne remplace les associés humains qui géraient la hotline de l'organisation.

Après que les travailleurs de NEDA aient décidé de …

"Ce robot cause du tort": le nouveau chatbot de la National Eating Disorders Association conseille aux personnes souffrant de troubles de l'alimentation de perdre du poids
dailydot.com · 2023

Après s'être syndiqués, le personnel de la ligne téléphonique d'assistance de la National Eating Disorder Association (NEDA) a été brusquement licencié en mars et remplacé par un chatbot. Hier, de nombreux membres de la plus grande communau…

La ligne d'assistance téléphonique américaine sur les troubles de l'alimentation supprime le chatbot de l'IA pour des conseils nuisibles
theguardian.com · 2023

La National Eating Disorder Association (Neda) a supprimé un chatbot d'intelligence artificielle, "Tessa", après avoir signalé que le chatbot fournissait des conseils préjudiciables.

Neda a fait l'objet de critiques au cours des derniers mo…

La National Eating Disorder Association ferme l'I.A. chatbot qu'il prévoyait d'utiliser pour remplacer les humains en disant qu'il "aurait pu donner" des informations nuisibles
fortune.com · 2023

Moins d'une semaine après avoir annoncé son intention de remplacer son personnel d'assistance téléphonique par un I.A. chatbot nommé Tessa, la National Eating Disorder Association (NEDA) a mis la technologie hors ligne.

"Il a été porté à no…

La ligne d'assistance sur les troubles de l'alimentation supprime le chatbot après que ses conseils se soient horriblement mal déroulés
gizmodo.com · 2023

Les chatbots IA ne sont pas très bons pour offrir un soutien émotionnel étant - vous savez - [pas un humain] (https://gizmodo.com/ai-chatgpt-extinction-warning-letter-openai-sam-altman-1850486688), et - on ne le dira jamais assez - [pas vra…

La National Eating Disorders Association supprime progressivement la ligne d'assistance humaine et passe au chatbot
npr.org · 2023

Depuis plus de 20 ans, la National Eating Disorders Association (NEDA) exploite une ligne téléphonique et une plateforme en ligne pour les personnes cherchant de l'aide pour l'anorexie, la boulimie et d'autres troubles de l'alimentation. L'…

NEDA, une organisation à but non lucratif pour les troubles de l'alimentation, tire un chatbot pour de mauvais conseils
theregister.com · 2023

La National Eating Disorders Association (NEDA) a retiré son chatbot Tessa pour avoir donné de mauvais conseils aux gens.

Dans un message désormais viral, Sharon Maxwell a déclaré que les conseils de Tessa pour se remettre en toute sécurité…

La ligne d'assistance à but non lucratif passe aux chatbots, puis ferme Rogue AI
forbes.com · 2023

La plus grande organisation à but non lucratif pour les troubles de l'alimentation du pays remplace le personnel et les bénévoles par une solution en ligne basée sur l'IA, et le chatbot a déjà été fermé. Une demi-douzaine d'employés humains…

La ligne d'assistance sur les troubles de l'alimentation déclenche l'IA pour des conseils nuisibles après avoir limogé des humains
nypost.com · 2023

Chatbot, vous êtes viré.

La National Eating Disorders Association a désactivé son chatbot, nommé Tessa, en raison des réponses « nuisibles » qu'il donnait aux gens.

"Tout ce que Tessa a suggéré était des choses qui ont conduit au développem…

Le chatbot devrait remplacer la ligne d'assistance téléphonique américaine sur les troubles de l'alimentation tirée pour pousser les régimes
morningbrew.com · 2023

Dans cette édition d'IA qui se retourne contre vous : aujourd'hui, un chatbot était censé remplacer officiellement l'une des plus grandes lignes d'assistance téléphonique sur les troubles de l'alimentation jusqu'à ce qu'il soit mis hors lig…

« Ce robot cause des dommages » : la ligne d'assistance téléphonique sur les troubles de l'alimentation est obligée d'abandonner le chatbot qui a aggravé les troubles de l'alimentation 
dailywire.com · 2023

Une ligne d'assistance nationale a abandonné un chatbot d'intelligence artificielle nommé Tessa après que les conseils qu'il a donnés aient aggravé la situation des personnes souffrant de troubles de l'alimentation.

La National Eating Disor…

Un chatbot a été conçu pour aider à prévenir les troubles alimentaires. Ensuite, il a donné des conseils de régime.
wsj.com · 2023

Un chatbot conçu pour aider les personnes cherchant de l'aide pour des troubles de l'alimentation et des problèmes corporels a été mis hors ligne après il a fourni à certains utilisateurs des conseils diététiques.

Le bot, nommé Tessa, fonct…

Un chatbot sur les troubles de l'alimentation est suspendu pour avoir donné des conseils nuisibles
wired.com · 2023

Contrairement aux chatbots comme ChatGPT, Tessa n'a pas été construit à l'aide de technologies d'IA génératives. Il est programmé pour offrir un programme interactif appelé Body Positive, un outil basé sur la thérapie cognitivo-comportement…

La ligne d'assistance sur les troubles de l'alimentation ferme le chatbot d'IA qui donnait de mauvais conseils
cbsnews.com · 2023

Un chatbot alimenté par l'IA qui a remplacé les employés d'une hotline pour les troubles de l'alimentation a été fermé après avoir fourni des conseils préjudiciables aux personnes cherchant de l'aide.

La saga a commencé plus tôt cette année…

NEDA retire le chatbot après que les utilisateurs disent qu'il a donné des conseils sur les régimes nocifs
nbcnews.com · 2023

La National Eating Disorders Association, une organisation à but non lucratif qui soutient les personnes touchées par des troubles de l'alimentation, a déclaré qu'elle avait désactivé son chatbot de bien-être après que deux utilisateurs aie…

La National Eating Disorders Association met son chatbot IA hors ligne après des plaintes de conseils « nuisibles »
cnn.com · 2023

Une organisation de prévention des troubles de l'alimentation a déclaré qu'elle devait mettre hors ligne son chatbot alimenté par l'IA après que certains se soient plaints que l'outil avait commencé à offrir des conseils « nocifs » et « non…

La National Eating Disorders Association a désactivé son chatbot après avoir donné des conseils diététiques nocifs
huffpost.com · 2023

La National Eating Disorders Association a désactivé le chatbot qui a remplacé sa ligne d'assistance téléphonique gérée par le personnel et les bénévoles après que deux utilisateurs ont signalé avoir reçu des conseils préjudiciables.

Plus t…

La ligne d'assistance pour les troubles de l'alimentation qui aurait prévu de licencier son personnel humain désactive son chatbot après qu'une femme lui a dit de compter les calories, de se peser et de se mesurer chaque semaine
businessinsider.com · 2023

La National Eating Disorders Association a désactivé son chatbot après que l'association a déclaré qu'il "aurait pu donner des informations nuisibles et sans rapport avec le programme".

La semaine dernière, il a été signalé que l'associatio…

Un chatbot sur les troubles de l'alimentation supprimé après avoir donné des conseils sur la perte de poids, une organisation à but non lucratif blâme les "mauvais acteurs"
yahoo.com · 2023

La National Eating Disorders Association a mis hors ligne un chatbot d'IA pour avoir utilisé un langage "off-script" et donné des conseils de perte de poids aux personnes souffrant de troubles de l'alimentation.

La situation qui afflige Tes…

Le chatbot IA problématique "Tessa" qui a donné des conseils de fermeture pour les troubles alimentaires nocifs
businesstoday.in · 2023

La National Eating Disorder Association (NEDA) a récemment fait l'objet de critiques et a été obligée de supprimer son chatbot Tessa en raison des craintes qu'il fournisse des informations nuisibles et non pertinentes, comme indiqué dans un…

La ligne d'assistance sur les troubles de l'alimentation supprime le chatbot après avoir favorisé l'alimentation désordonnée
futurism.com · 2023

Après avoir licencié tout son personnel humain et l'avoir remplacé par un chatbot, [Vice rapporte](https://www.vice.com/en /article/qjvk97/eating-disorder-helpline-disables-chatbot-for-harmful-responses-after-firing-human-staff) qu'une lign…

Chatbot de réponse aux troubles de l'alimentation mis hors ligne à la suite d'accusations de préjudice
venturebeat.com · 2023

Les organisations qui cherchent à compléter ou même à remplacer certains employés humains du service client voudront peut-être d'abord revoir le récit édifiant de la National Eating Disorder Association (NEDA) qui s'est déroulé cette semain…

Le chatbot de l'IA sur les troubles de l'alimentation est désactivé après avoir donné des conseils de perte de poids - National
globalnews.ca · 2023

Un chatbot d'intelligence artificielle destiné à aider les personnes atteintes de troubles de l'alimentation a été supprimé après rapporte qu'il avait commencé à donner des conseils sur les régimes nocifs.

Les États-Unis [National Eating Di…

Un chatbot IA supprimé après avoir donné des "conseils nuisibles" sur les troubles de l'alimentation
independent.co.uk · 2023

Une organisation à but non lucratif américaine a supprimé son chatbot IA après qu'une publication virale sur les réseaux sociaux ait révélé qu'elle offrait des conseils préjudiciables au lieu d'aider les gens.

La National Eating Disorders A…

La ligne d'assistance sur les troubles de l'alimentation désactive l'IA Chatbot pour des conseils « nuisibles » quelques jours après avoir licencié du personnel humain
timesnownews.com · 2023

Une organisation à but non lucratif américaine s'est tournée vers l'intelligence artificielle pour doter en personnel sa ligne d'assistance troubles de l'alimentation le mois dernier, cependant, l'expérience s'est retournée contre lui lorsq…

Trouble de l'alimentation AI Chatbot suspendu après avoir dit aux gens de perdre du poids
themessenger.com · 2023

La National Eating Disorders Association (NEDA) a suspendu un chatbot d'IA après avoir dispensé des conseils potentiellement préjudiciables aux personnes cherchant de l'aide pour leurs troubles de l'alimentation.

Le chatbot, nommé Tessa, a …

Le personnel de la ligne d'assistance sur les troubles de l'alimentation est licencié et remplacé par un chatbot d'IA défectueux
itechpost.com · 2023

Chatbot IA dans les lignes d'assistance

Le chatbot défectueux appelé Tessa bot fonctionnait dans le cadre d'une ligne d'assistance téléphonique pour les troubles de l'alimentation destinée à aider les utilisateurs souffrant de détresse émot…

Chatbot sur les troubles de l'alimentation suspendu pour des conseils nuisibles
editorialge.com · 2023

L'utilisation d'un chatbot par une organisation à but non lucratif a été interdite car elle offrait des conseils potentiellement dangereux à ceux qui cherchaient un traitement pour des troubles de l'alimentation.

Il a été découvert que Tess…

Une femme qui a testé le chatbot IA d'une ligne d'assistance sur les troubles de l'alimentation dit que « chaque chose » suggérée aggraverait son trouble
yourtango.com · 2023

Après avoir suscité l'indignation, la National Eating Disorder Association est revenue sur sa décision de remplacer les membres de son personnel d'assistance téléphonique par un chatbot IA nommé Tessa.

Leur décision de fournir une assistanc…

Il s'avère que les chatbots ne sont pas géniaux pour le conseil sur les troubles de l'alimentation
thecut.com · 2023

L'essor de l'IA a introduit un nombre croissant de dupes humains, de la génération de modèles divers à la création de petits amis qui ne 't age or cheat. Bien sûr, datez votre ordinateur, mais peut-être faudrait-il réfléchir à deux fois ava…

Le chatbot AI controversé 'Tessa' fournit des conseils sur les troubles alimentaires nocifs pour arrêter
boxmining.com · 2023

La National Eating Disorder Association (NEDA) a été critiquée et a retiré son [IA chatbot](https://boxmining.com/race-to-the-top-microsofts -chatgpt-and-bing-lead-the-way-in-ai-analysts-report/) Tessa après que des inquiétudes ont surgi qu…

Une organisation à but non lucratif positive pour le corps a remplacé le personnel par un chatbot IA - le mouvement s'est retourné contre lui
interestingengineering.com · 2023

Le 31 mars, la National Eating Disorders Association (NEDA), la plus grande organisation à but non lucratif dédiée aux troubles de l'alimentation, a décidé de remplacer ses associés humains par le chatbot d'intelligence artificielle (IA) Te…

La National Eating Disorders Association supprime le chatbot AI après que les utilisateurs aient déclaré qu'il avait donné des conseils diététiques dangereux
people.com · 2023

La ligne d'assistance téléphonique de la National Eating Disorders Association (NEDA) a désactivé son tout nouveau chatbot, appelé Tessa, après deux utilisateurs d'Instagram ont posté que le chatbot recommandait de limiter les calories, de …

Un groupe de troubles de l'alimentation tire un chatbot partageant des conseils sur l'alimentation
bbc.com · 2023

Une organisation américaine qui soutient les personnes souffrant de troubles de l'alimentation a suspendu l'utilisation d'un chatbot après avoir signalé qu'il partageait des conseils préjudiciables.

La National Eating Disorder Association (…

NEDA n'a pas pardonné l'erreur de Tessa et a mis fin au chatbot AI après le contrecoup
dataconomy.com · 2023

Désormais, le chatbot IA de la ligne d'assistance téléphonique pour les troubles alimentaires Tessa, ne répondra plus à l'appel de personne après son erreur nuisible. La National Eating Disorder Association a fermé le chatbot AI après avoir…

Le chatbot de la ligne d'assistance sur les troubles de l'alimentation a été fermé pour des conseils « préjudiciables » qu'il offrait après avoir remplacé des travailleurs
yahoo.com · 2023

Un [chatbot](https://go.redirectingat.com?id=74679X1524629&sref=https%3A%2F%2Fwww.buzzfeed.com%2Ftracewilliamcowen%2Feating-disorder-hotline-chatbot-shut-down-harmful-advice&url=https %3A%2F%2Fcomplex.com%2Ftag%2Ftech&xcust=7428125%7CBF-VER…

Un chatbot sur les troubles de l'alimentation a été fermé après avoir envoyé des conseils "préjudiciables". Ce qui s'est passé - et pourquoi son échec a une plus grande leçon.
yahoo.com · 2023

Après 24 ans de service, la National Eating Disorder Association (NEDA) a annoncé la fermeture de sa ligne d'assistance téléphonique basée sur les bénévoles. Les visiteurs du site Web de l'organisation auraient deux options : explorer leur …

Ce que la catastrophe du chatbot de trouble de l'alimentation nous dit sur l'IA
yahoo.com · 2023

Je crois fermement que, comme tous les films de science-fiction l'ont prédit, l'IA est désastreuse pour l'humanité. Même s'il ne s'allume pas directement contre nous et ne commence pas à nous tuer comme M3GAN, il a certainement le pouvoir d…

Une ONG basée aux États-Unis supprime le chatbot AI sur la prévention des troubles alimentaires. Voici pourquoi
hindustantimes.com · 2023

Une ONG basée à New York dédiée à la prévention des troubles de l'alimentation a supprimé un chatbot d'IA suite à des informations selon lesquelles il fournirait un appareil nocif.

La National Eating Disorder Association (NEDA) est critiqué…

Chatbot donne des «conseils nuisibles» sur les troubles de l'alimentation, ordonné de le retirer
wionews.com · 2023

Un chatbot d'intelligence artificielle nommé "Tessa" a été retiré par la National Eating Disorder Association (Neda) suite à des accusations selon lesquelles il donnait des conseils préjudiciables.

Après avoir licencié quatre employés qui t…

Le groupe remplace la hotline par un chatbot et tire le chatbot sur de mauvais conseils
newser.com · 2023

C'est une décision qui pourrait ravir quiconque s'inquiète des effets potentiels des outils d'intelligence artificielle sur l'emploi. Comme le rapport BBC , la National Eating Disorder Association (NEDA) des États-Unis a dû supprimer son ch…

NEDA suspend un chatbot IA pour avoir donné des conseils sur les troubles alimentaires nocifs
psychiatrist.com · 2023

Pertinence clinique : l'IA n'est même pas près d'être prête à remplacer les humains dans le traitement de la santé mentale

  • La National Eating Disorders Association (NEDA) a retiré son chatbot de sa hotline d'assistance, craignant qu'il ne …
Comment un chatbot est devenu voyou
wsj.com · 2023

Un chatbot de santé mentale qui a dévié du script---donnant des conseils diététiques aux personnes cherchant de l'aide auprès d'un groupe de troubles de l'alimentation --- a été programmé avec une IA générative à l'insu du groupe.

Le bot, n…

Le chatbot destiné à aider les personnes souffrant de troubles de l'alimentation devient "nocif"
wmar2news.com · 2023

Lorsque le Dr Ellen Fitzsimmons-Craft a dirigé un chatbot pour aider les personnes souffrant de troubles de l'alimentation, elle n'aurait jamais cru entendre que le produit avait l'effet inverse.

"Nous sommes des scientifiques et nous ne vo…

Un chatbot de bien-être est hors ligne après avoir mis l'accent sur la perte de poids
nytimes.com · 2023

L'idée derrière un projet de chatbot financé par la National Eating Disorders Association était que la technologie pourrait être libérée pour aider les personnes à la recherche de conseils sur les comportements alimentaires, disponibles 24 …

Variantes

Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents