Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Incident 545: Chatbot Tessa gives unauthorized diet advice to users seeking help for eating disorders

Description: The National Eating Disorders Association (NEDA) has shut down its chatbot named Tessa after it gave weight-loss advice to users seeking help for eating disorders. The incident has raised concerns about the risks of using chatbots and AI assistants in healthcare settings, particularly in addressing sensitive issues like eating disorders. NEDA is investigating the matter, emphasizing the need for caution and accuracy when utilizing technology to provide mental health support.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique

Entités

Voir toutes les entités
Alleged: Cass developed an AI system deployed by National Eating Disorders Association et Cass, which harmed People with eating disorders.

Statistiques d'incidents

ID
545
Nombre de rapports
46
Date de l'incident
2023-05-29
Editeurs
Daniel Atherton
Applied Taxonomies
GMF, CSETv1, MIT

Classifications de taxonomie CSETv1

Détails de la taxonomie

Incident Number

The number of the incident in the AI Incident Database.
 

545

Special Interest Intangible Harm

An assessment of whether a special interest intangible harm occurred. This assessment does not consider the context of the intangible harm, if an AI was involved, or if there is characterizable class or subgroup of harmed entities. It is also not assessing if an intangible harm occurred. It is only asking if a special interest intangible harm occurred.
 

yes

Classifications de taxonomie MIT

Machine-Classified
Détails de la taxonomie

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

7.3. Lack of capability or robustness

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. AI system safety, failures, and limitations

Entity

Which, if any, entity is presented as the main cause of the risk
 

AI

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Unintentional

Rapports d'incidents

Chronologie du rapport

La ligne d'assistance sur les troubles de l'alimentation licencie son personnel et passe au chatbot après la syndicalisationIncident Occurrence+1
La ligne d'assistance sur les troubles de l'alimentation désactive le chatbot pour des réponses « nuisibles » après avoir licencié du personnel humain
+8
La ligne d'assistance téléphonique américaine sur les troubles de l'alimentation supprime le chatbot de l'IA pour des conseils nuisibles
+17
Un chatbot a été conçu pour aider à prévenir les troubles alimentaires. Ensuite, il a donné des conseils de régime.
+9
Il s'avère que les chatbots ne sont pas géniaux pour le conseil sur les troubles de l'alimentation
Chatbot donne des «conseils nuisibles» sur les troubles de l'alimentation, ordonné de le retirerLe groupe remplace la hotline par un chatbot et tire le chatbot sur de mauvais conseilsNEDA suspend un chatbot IA pour avoir donné des conseils sur les troubles alimentaires nocifs+1
Comment un chatbot est devenu voyou
Un chatbot de bien-être est hors ligne après avoir mis l'accent sur la perte de poids
La ligne d'assistance sur les troubles de l'alimentation licencie son personnel et passe au chatbot après la syndicalisation

La ligne d'assistance sur les troubles de l'alimentation licencie son personnel et passe au chatbot après la syndicalisation

vice.com

La ligne d'assistance sur les troubles de l'alimentation désactive le chatbot pour des réponses « nuisibles » après avoir licencié du personnel humain

La ligne d'assistance sur les troubles de l'alimentation désactive le chatbot pour des réponses « nuisibles » après avoir licencié du personnel humain

vice.com

"Ce robot cause du tort": le nouveau chatbot de la National Eating Disorders Association conseille aux personnes souffrant de troubles de l'alimentation de perdre du poids

"Ce robot cause du tort": le nouveau chatbot de la National Eating Disorders Association conseille aux personnes souffrant de troubles de l'alimentation de perdre du poids

dailydot.com

La ligne d'assistance téléphonique américaine sur les troubles de l'alimentation supprime le chatbot de l'IA pour des conseils nuisibles

La ligne d'assistance téléphonique américaine sur les troubles de l'alimentation supprime le chatbot de l'IA pour des conseils nuisibles

theguardian.com

La National Eating Disorder Association ferme l'I.A. chatbot qu'il prévoyait d'utiliser pour remplacer les humains en disant qu'il "aurait pu donner" des informations nuisibles

La National Eating Disorder Association ferme l'I.A. chatbot qu'il prévoyait d'utiliser pour remplacer les humains en disant qu'il "aurait pu donner" des informations nuisibles

fortune.com

La ligne d'assistance sur les troubles de l'alimentation supprime le chatbot après que ses conseils se soient horriblement mal déroulés

La ligne d'assistance sur les troubles de l'alimentation supprime le chatbot après que ses conseils se soient horriblement mal déroulés

gizmodo.com

La National Eating Disorders Association supprime progressivement la ligne d'assistance humaine et passe au chatbot

La National Eating Disorders Association supprime progressivement la ligne d'assistance humaine et passe au chatbot

npr.org

NEDA, une organisation à but non lucratif pour les troubles de l'alimentation, tire un chatbot pour de mauvais conseils

NEDA, une organisation à but non lucratif pour les troubles de l'alimentation, tire un chatbot pour de mauvais conseils

theregister.com

La ligne d'assistance à but non lucratif passe aux chatbots, puis ferme Rogue AI

La ligne d'assistance à but non lucratif passe aux chatbots, puis ferme Rogue AI

forbes.com

La ligne d'assistance sur les troubles de l'alimentation déclenche l'IA pour des conseils nuisibles après avoir limogé des humains

La ligne d'assistance sur les troubles de l'alimentation déclenche l'IA pour des conseils nuisibles après avoir limogé des humains

nypost.com

Le chatbot devrait remplacer la ligne d'assistance téléphonique américaine sur les troubles de l'alimentation tirée pour pousser les régimes

Le chatbot devrait remplacer la ligne d'assistance téléphonique américaine sur les troubles de l'alimentation tirée pour pousser les régimes

morningbrew.com

« Ce robot cause des dommages » : la ligne d'assistance téléphonique sur les troubles de l'alimentation est obligée d'abandonner le chatbot qui a aggravé les troubles de l'alimentation 

« Ce robot cause des dommages » : la ligne d'assistance téléphonique sur les troubles de l'alimentation est obligée d'abandonner le chatbot qui a aggravé les troubles de l'alimentation 

dailywire.com

Un chatbot a été conçu pour aider à prévenir les troubles alimentaires. Ensuite, il a donné des conseils de régime.

Un chatbot a été conçu pour aider à prévenir les troubles alimentaires. Ensuite, il a donné des conseils de régime.

wsj.com

Un chatbot sur les troubles de l'alimentation est suspendu pour avoir donné des conseils nuisibles

Un chatbot sur les troubles de l'alimentation est suspendu pour avoir donné des conseils nuisibles

wired.com

La ligne d'assistance sur les troubles de l'alimentation ferme le chatbot d'IA qui donnait de mauvais conseils

La ligne d'assistance sur les troubles de l'alimentation ferme le chatbot d'IA qui donnait de mauvais conseils

cbsnews.com

NEDA retire le chatbot après que les utilisateurs disent qu'il a donné des conseils sur les régimes nocifs

NEDA retire le chatbot après que les utilisateurs disent qu'il a donné des conseils sur les régimes nocifs

nbcnews.com

La National Eating Disorders Association met son chatbot IA hors ligne après des plaintes de conseils « nuisibles »

La National Eating Disorders Association met son chatbot IA hors ligne après des plaintes de conseils « nuisibles »

cnn.com

La National Eating Disorders Association a désactivé son chatbot après avoir donné des conseils diététiques nocifs

La National Eating Disorders Association a désactivé son chatbot après avoir donné des conseils diététiques nocifs

huffpost.com

La ligne d'assistance pour les troubles de l'alimentation qui aurait prévu de licencier son personnel humain désactive son chatbot après qu'une femme lui a dit de compter les calories, de se peser et de se mesurer chaque semaine

La ligne d'assistance pour les troubles de l'alimentation qui aurait prévu de licencier son personnel humain désactive son chatbot après qu'une femme lui a dit de compter les calories, de se peser et de se mesurer chaque semaine

businessinsider.com

Un chatbot sur les troubles de l'alimentation supprimé après avoir donné des conseils sur la perte de poids, une organisation à but non lucratif blâme les "mauvais acteurs"

Un chatbot sur les troubles de l'alimentation supprimé après avoir donné des conseils sur la perte de poids, une organisation à but non lucratif blâme les "mauvais acteurs"

yahoo.com

Le chatbot IA problématique "Tessa" qui a donné des conseils de fermeture pour les troubles alimentaires nocifs

Le chatbot IA problématique "Tessa" qui a donné des conseils de fermeture pour les troubles alimentaires nocifs

businesstoday.in

La ligne d'assistance sur les troubles de l'alimentation supprime le chatbot après avoir favorisé l'alimentation désordonnée

La ligne d'assistance sur les troubles de l'alimentation supprime le chatbot après avoir favorisé l'alimentation désordonnée

futurism.com

Chatbot de réponse aux troubles de l'alimentation mis hors ligne à la suite d'accusations de préjudice

Chatbot de réponse aux troubles de l'alimentation mis hors ligne à la suite d'accusations de préjudice

venturebeat.com

Le chatbot de l'IA sur les troubles de l'alimentation est désactivé après avoir donné des conseils de perte de poids - National

Le chatbot de l'IA sur les troubles de l'alimentation est désactivé après avoir donné des conseils de perte de poids - National

globalnews.ca

Un chatbot IA supprimé après avoir donné des "conseils nuisibles" sur les troubles de l'alimentation

Un chatbot IA supprimé après avoir donné des "conseils nuisibles" sur les troubles de l'alimentation

independent.co.uk

La ligne d'assistance sur les troubles de l'alimentation désactive l'IA Chatbot pour des conseils « nuisibles » quelques jours après avoir licencié du personnel humain

La ligne d'assistance sur les troubles de l'alimentation désactive l'IA Chatbot pour des conseils « nuisibles » quelques jours après avoir licencié du personnel humain

timesnownews.com

Trouble de l'alimentation AI Chatbot suspendu après avoir dit aux gens de perdre du poids

Trouble de l'alimentation AI Chatbot suspendu après avoir dit aux gens de perdre du poids

themessenger.com

Le personnel de la ligne d'assistance sur les troubles de l'alimentation est licencié et remplacé par un chatbot d'IA défectueux

Le personnel de la ligne d'assistance sur les troubles de l'alimentation est licencié et remplacé par un chatbot d'IA défectueux

itechpost.com

Chatbot sur les troubles de l'alimentation suspendu pour des conseils nuisibles

Chatbot sur les troubles de l'alimentation suspendu pour des conseils nuisibles

editorialge.com

Une femme qui a testé le chatbot IA d'une ligne d'assistance sur les troubles de l'alimentation dit que « chaque chose » suggérée aggraverait son trouble

Une femme qui a testé le chatbot IA d'une ligne d'assistance sur les troubles de l'alimentation dit que « chaque chose » suggérée aggraverait son trouble

yourtango.com

Il s'avère que les chatbots ne sont pas géniaux pour le conseil sur les troubles de l'alimentation

Il s'avère que les chatbots ne sont pas géniaux pour le conseil sur les troubles de l'alimentation

thecut.com

Le chatbot AI controversé 'Tessa' fournit des conseils sur les troubles alimentaires nocifs pour arrêter

Le chatbot AI controversé 'Tessa' fournit des conseils sur les troubles alimentaires nocifs pour arrêter

boxmining.com

Une organisation à but non lucratif positive pour le corps a remplacé le personnel par un chatbot IA - le mouvement s'est retourné contre lui

Une organisation à but non lucratif positive pour le corps a remplacé le personnel par un chatbot IA - le mouvement s'est retourné contre lui

interestingengineering.com

La National Eating Disorders Association supprime le chatbot AI après que les utilisateurs aient déclaré qu'il avait donné des conseils diététiques dangereux

La National Eating Disorders Association supprime le chatbot AI après que les utilisateurs aient déclaré qu'il avait donné des conseils diététiques dangereux

people.com

Un groupe de troubles de l'alimentation tire un chatbot partageant des conseils sur l'alimentation

Un groupe de troubles de l'alimentation tire un chatbot partageant des conseils sur l'alimentation

bbc.com

NEDA n'a pas pardonné l'erreur de Tessa et a mis fin au chatbot AI après le contrecoup

NEDA n'a pas pardonné l'erreur de Tessa et a mis fin au chatbot AI après le contrecoup

dataconomy.com

Le chatbot de la ligne d'assistance sur les troubles de l'alimentation a été fermé pour des conseils « préjudiciables » qu'il offrait après avoir remplacé des travailleurs

Le chatbot de la ligne d'assistance sur les troubles de l'alimentation a été fermé pour des conseils « préjudiciables » qu'il offrait après avoir remplacé des travailleurs

yahoo.com

Un chatbot sur les troubles de l'alimentation a été fermé après avoir envoyé des conseils "préjudiciables". Ce qui s'est passé - et pourquoi son échec a une plus grande leçon.

Un chatbot sur les troubles de l'alimentation a été fermé après avoir envoyé des conseils "préjudiciables". Ce qui s'est passé - et pourquoi son échec a une plus grande leçon.

yahoo.com

Ce que la catastrophe du chatbot de trouble de l'alimentation nous dit sur l'IA

Ce que la catastrophe du chatbot de trouble de l'alimentation nous dit sur l'IA

yahoo.com

Une ONG basée aux États-Unis supprime le chatbot AI sur la prévention des troubles alimentaires. Voici pourquoi

Une ONG basée aux États-Unis supprime le chatbot AI sur la prévention des troubles alimentaires. Voici pourquoi

hindustantimes.com

Chatbot donne des «conseils nuisibles» sur les troubles de l'alimentation, ordonné de le retirer

Chatbot donne des «conseils nuisibles» sur les troubles de l'alimentation, ordonné de le retirer

wionews.com

Le groupe remplace la hotline par un chatbot et tire le chatbot sur de mauvais conseils

Le groupe remplace la hotline par un chatbot et tire le chatbot sur de mauvais conseils

newser.com

NEDA suspend un chatbot IA pour avoir donné des conseils sur les troubles alimentaires nocifs

NEDA suspend un chatbot IA pour avoir donné des conseils sur les troubles alimentaires nocifs

psychiatrist.com

Comment un chatbot est devenu voyou

Comment un chatbot est devenu voyou

wsj.com

Le chatbot destiné à aider les personnes souffrant de troubles de l'alimentation devient "nocif"

Le chatbot destiné à aider les personnes souffrant de troubles de l'alimentation devient "nocif"

wmar2news.com

Un chatbot de bien-être est hors ligne après avoir mis l'accent sur la perte de poids

Un chatbot de bien-être est hors ligne après avoir mis l'accent sur la perte de poids

nytimes.com

La ligne d'assistance sur les troubles de l'alimentation licencie son personnel et passe au chatbot après la syndicalisation
vice.com · 2023
Traduit par IA

Les dirigeants de la National Eating Disorders Association (NEDA) ont décidé de remplacer les travailleurs de la hotline par un chatbot nommé Tessa quatre jours après la syndicalisation des travailleurs.

NEDA, la plus grande organisation à …

La ligne d'assistance sur les troubles de l'alimentation désactive le chatbot pour des réponses « nuisibles » après avoir licencié du personnel humain
vice.com · 2023
Traduit par IA

La National Eating Disorder Association (NEDA) a mis hors ligne son chatbot appelé Tessa, deux jours avant qu'il ne remplace les associés humains qui géraient la hotline de l'organisation.

Après que les travailleurs de NEDA aient décidé de …

"Ce robot cause du tort": le nouveau chatbot de la National Eating Disorders Association conseille aux personnes souffrant de troubles de l'alimentation de perdre du poids
dailydot.com · 2023
Traduit par IA

Après s'être syndiqués, le personnel de la ligne téléphonique d'assistance de la National Eating Disorder Association (NEDA) a été brusquement licencié en mars et remplacé par un chatbot. Hier, de nombreux membres de la plus grande communau…

La ligne d'assistance téléphonique américaine sur les troubles de l'alimentation supprime le chatbot de l'IA pour des conseils nuisibles
theguardian.com · 2023
Traduit par IA

La National Eating Disorder Association (Neda) a supprimé un chatbot d'intelligence artificielle, "Tessa", après avoir signalé que le chatbot fournissait des conseils préjudiciables.

Neda a fait l'objet de critiques au cours des derniers mo…

La National Eating Disorder Association ferme l'I.A. chatbot qu'il prévoyait d'utiliser pour remplacer les humains en disant qu'il "aurait pu donner" des informations nuisibles
fortune.com · 2023
Traduit par IA

Moins d'une semaine après avoir annoncé son intention de remplacer son personnel d'assistance téléphonique par un I.A. chatbot nommé Tessa, la National Eating Disorder Association (NEDA) a mis la technologie hors ligne.

"Il a été porté à no…

La ligne d'assistance sur les troubles de l'alimentation supprime le chatbot après que ses conseils se soient horriblement mal déroulés
gizmodo.com · 2023
Traduit par IA

Les chatbots IA ne sont pas très bons pour offrir un soutien émotionnel étant - vous savez - [pas un humain] (https://gizmodo.com/ai-chatgpt-extinction-warning-letter-openai-sam-altman-1850486688), et - on ne le dira jamais assez - [pas vra…

La National Eating Disorders Association supprime progressivement la ligne d'assistance humaine et passe au chatbot
npr.org · 2023
Traduit par IA

Depuis plus de 20 ans, la National Eating Disorders Association (NEDA) exploite une ligne téléphonique et une plateforme en ligne pour les personnes cherchant de l'aide pour l'anorexie, la boulimie et d'autres troubles de l'alimentation. L'…

NEDA, une organisation à but non lucratif pour les troubles de l'alimentation, tire un chatbot pour de mauvais conseils
theregister.com · 2023
Traduit par IA

La National Eating Disorders Association (NEDA) a retiré son chatbot Tessa pour avoir donné de mauvais conseils aux gens.

Dans un message désormais viral, Sharon Maxwell a déclaré que les conseils de Tessa pour se remettre en toute sécurité…

La ligne d'assistance à but non lucratif passe aux chatbots, puis ferme Rogue AI
forbes.com · 2023
Traduit par IA

La plus grande organisation à but non lucratif pour les troubles de l'alimentation du pays remplace le personnel et les bénévoles par une solution en ligne basée sur l'IA, et le chatbot a déjà été fermé. Une demi-douzaine d'employés humains…

La ligne d'assistance sur les troubles de l'alimentation déclenche l'IA pour des conseils nuisibles après avoir limogé des humains
nypost.com · 2023
Traduit par IA

Chatbot, vous êtes viré.

La National Eating Disorders Association a désactivé son chatbot, nommé Tessa, en raison des réponses « nuisibles » qu'il donnait aux gens.

"Tout ce que Tessa a suggéré était des choses qui ont conduit au développem…

Le chatbot devrait remplacer la ligne d'assistance téléphonique américaine sur les troubles de l'alimentation tirée pour pousser les régimes
morningbrew.com · 2023
Traduit par IA

Dans cette édition d'IA qui se retourne contre vous : aujourd'hui, un chatbot était censé remplacer officiellement l'une des plus grandes lignes d'assistance téléphonique sur les troubles de l'alimentation jusqu'à ce qu'il soit mis hors lig…

« Ce robot cause des dommages » : la ligne d'assistance téléphonique sur les troubles de l'alimentation est obligée d'abandonner le chatbot qui a aggravé les troubles de l'alimentation 
dailywire.com · 2023
Traduit par IA

Une ligne d'assistance nationale a abandonné un chatbot d'intelligence artificielle nommé Tessa après que les conseils qu'il a donnés aient aggravé la situation des personnes souffrant de troubles de l'alimentation.

La National Eating Disor…

Un chatbot a été conçu pour aider à prévenir les troubles alimentaires. Ensuite, il a donné des conseils de régime.
wsj.com · 2023
Traduit par IA

Un chatbot conçu pour aider les personnes cherchant de l'aide pour des troubles de l'alimentation et des problèmes corporels a été mis hors ligne après il a fourni à certains utilisateurs des conseils diététiques.

Le bot, nommé Tessa, fonct…

Un chatbot sur les troubles de l'alimentation est suspendu pour avoir donné des conseils nuisibles
wired.com · 2023
Traduit par IA

Contrairement aux chatbots comme ChatGPT, Tessa n'a pas été construit à l'aide de technologies d'IA génératives. Il est programmé pour offrir un programme interactif appelé Body Positive, un outil basé sur la thérapie cognitivo-comportement…

La ligne d'assistance sur les troubles de l'alimentation ferme le chatbot d'IA qui donnait de mauvais conseils
cbsnews.com · 2023
Traduit par IA

Un chatbot alimenté par l'IA qui a remplacé les employés d'une hotline pour les troubles de l'alimentation a été fermé après avoir fourni des conseils préjudiciables aux personnes cherchant de l'aide.

La saga a commencé plus tôt cette année…

NEDA retire le chatbot après que les utilisateurs disent qu'il a donné des conseils sur les régimes nocifs
nbcnews.com · 2023
Traduit par IA

La National Eating Disorders Association, une organisation à but non lucratif qui soutient les personnes touchées par des troubles de l'alimentation, a déclaré qu'elle avait désactivé son chatbot de bien-être après que deux utilisateurs aie…

La National Eating Disorders Association met son chatbot IA hors ligne après des plaintes de conseils « nuisibles »
cnn.com · 2023
Traduit par IA

Une organisation de prévention des troubles de l'alimentation a déclaré qu'elle devait mettre hors ligne son chatbot alimenté par l'IA après que certains se soient plaints que l'outil avait commencé à offrir des conseils « nocifs » et « non…

La National Eating Disorders Association a désactivé son chatbot après avoir donné des conseils diététiques nocifs
huffpost.com · 2023
Traduit par IA

La National Eating Disorders Association a désactivé le chatbot qui a remplacé sa ligne d'assistance téléphonique gérée par le personnel et les bénévoles après que deux utilisateurs ont signalé avoir reçu des conseils préjudiciables.

Plus t…

La ligne d'assistance pour les troubles de l'alimentation qui aurait prévu de licencier son personnel humain désactive son chatbot après qu'une femme lui a dit de compter les calories, de se peser et de se mesurer chaque semaine
businessinsider.com · 2023
Traduit par IA

La National Eating Disorders Association a désactivé son chatbot après que l'association a déclaré qu'il "aurait pu donner des informations nuisibles et sans rapport avec le programme".

La semaine dernière, il a été signalé que l'associatio…

Un chatbot sur les troubles de l'alimentation supprimé apr�ès avoir donné des conseils sur la perte de poids, une organisation à but non lucratif blâme les "mauvais acteurs"
yahoo.com · 2023
Traduit par IA

La National Eating Disorders Association a mis hors ligne un chatbot d'IA pour avoir utilisé un langage "off-script" et donné des conseils de perte de poids aux personnes souffrant de troubles de l'alimentation.

La situation qui afflige Tes…

Le chatbot IA problématique "Tessa" qui a donné des conseils de fermeture pour les troubles alimentaires nocifs
businesstoday.in · 2023
Traduit par IA

La National Eating Disorder Association (NEDA) a récemment fait l'objet de critiques et a été obligée de supprimer son chatbot Tessa en raison des craintes qu'il fournisse des informations nuisibles et non pertinentes, comme indiqué dans un…

La ligne d'assistance sur les troubles de l'alimentation supprime le chatbot après avoir favorisé l'alimentation désordonnée
futurism.com · 2023
Traduit par IA

Après avoir licencié tout son personnel humain et l'avoir remplacé par un chatbot, [Vice rapporte](https://www.vice.com/en /article/qjvk97/eating-disorder-helpline-disables-chatbot-for-harmful-responses-after-firing-human-staff) qu'une lign…

Chatbot de réponse aux troubles de l'alimentation mis hors ligne à la suite d'accusations de préjudice
venturebeat.com · 2023
Traduit par IA

Les organisations qui cherchent à compléter ou même à remplacer certains employés humains du service client voudront peut-être d'abord revoir le récit édifiant de la National Eating Disorder Association (NEDA) qui s'est déroulé cette semain…

Le chatbot de l'IA sur les troubles de l'alimentation est désactivé après avoir donné des conseils de perte de poids - National
globalnews.ca · 2023
Traduit par IA

Un chatbot d'intelligence artificielle destiné à aider les personnes atteintes de troubles de l'alimentation a été supprimé après rapporte qu'il avait commencé à donner des conseils sur les régimes nocifs.

Les États-Unis [National Eating Di…

Un chatbot IA supprimé après avoir donné des "conseils nuisibles" sur les troubles de l'alimentation
independent.co.uk · 2023
Traduit par IA

Une organisation à but non lucratif américaine a supprimé son chatbot IA après qu'une publication virale sur les réseaux sociaux ait révélé qu'elle offrait des conseils préjudiciables au lieu d'aider les gens.

La National Eating Disorders A…

La ligne d'assistance sur les troubles de l'alimentation désactive l'IA Chatbot pour des conseils « nuisibles » quelques jours après avoir licencié du personnel humain
timesnownews.com · 2023
Traduit par IA

Une organisation à but non lucratif américaine s'est tournée vers l'intelligence artificielle pour doter en personnel sa ligne d'assistance troubles de l'alimentation le mois dernier, cependant, l'expérience s'est retournée contre lui lorsq…

Trouble de l'alimentation AI Chatbot suspendu après avoir dit aux gens de perdre du poids
themessenger.com · 2023
Traduit par IA

La National Eating Disorders Association (NEDA) a suspendu un chatbot d'IA après avoir dispensé des conseils potentiellement préjudiciables aux personnes cherchant de l'aide pour leurs troubles de l'alimentation.

Le chatbot, nommé Tessa, a …

Le personnel de la ligne d'assistance sur les troubles de l'alimentation est licencié et remplacé par un chatbot d'IA défectueux
itechpost.com · 2023
Traduit par IA

Chatbot IA dans les lignes d'assistance

Le chatbot défectueux appelé Tessa bot fonctionnait dans le cadre d'une ligne d'assistance téléphonique pour les troubles de l'alimentation destinée à aider les utilisateurs souffrant de détresse émot…

Chatbot sur les troubles de l'alimentation suspendu pour des conseils nuisibles
editorialge.com · 2023
Traduit par IA

L'utilisation d'un chatbot par une organisation à but non lucratif a été interdite car elle offrait des conseils potentiellement dangereux à ceux qui cherchaient un traitement pour des troubles de l'alimentation.

Il a été découvert que Tess…

Une femme qui a testé le chatbot IA d'une ligne d'assistance sur les troubles de l'alimentation dit que « chaque chose » suggérée aggraverait son trouble
yourtango.com · 2023
Traduit par IA

Après avoir suscité l'indignation, la National Eating Disorder Association est revenue sur sa décision de remplacer les membres de son personnel d'assistance téléphonique par un chatbot IA nommé Tessa.

Leur décision de fournir une assistanc…

Il s'avère que les chatbots ne sont pas géniaux pour le conseil sur les troubles de l'alimentation
thecut.com · 2023
Traduit par IA

L'essor de l'IA a introduit un nombre croissant de dupes humains, de la génération de modèles divers à la création de petits amis qui ne 't age or cheat. Bien sûr, datez votre ordinateur, mais peut-être faudrait-il réfléchir à deux fois ava…

Le chatbot AI controversé 'Tessa' fournit des conseils sur les troubles alimentaires nocifs pour arrêter
boxmining.com · 2023
Traduit par IA

La National Eating Disorder Association (NEDA) a été critiquée et a retiré son [IA chatbot](https://boxmining.com/race-to-the-top-microsofts -chatgpt-and-bing-lead-the-way-in-ai-analysts-report/) Tessa après que des inquiétudes ont surgi qu…

Une organisation à but non lucratif positive pour le corps a remplacé le personnel par un chatbot IA - le mouvement s'est retourné contre lui
interestingengineering.com · 2023
Traduit par IA

Le 31 mars, la National Eating Disorders Association (NEDA), la plus grande organisation à but non lucratif dédiée aux troubles de l'alimentation, a décidé de remplacer ses associés humains par le chatbot d'intelligence artificielle (IA) Te…

La National Eating Disorders Association supprime le chatbot AI après que les utilisateurs aient déclaré qu'il avait donné des conseils diététiques dangereux
people.com · 2023
Traduit par IA

La ligne d'assistance téléphonique de la National Eating Disorders Association (NEDA) a désactivé son tout nouveau chatbot, appelé Tessa, après deux utilisateurs d'Instagram ont posté que le chatbot recommandait de limiter les calories, de …

Un groupe de troubles de l'alimentation tire un chatbot partageant des conseils sur l'alimentation
bbc.com · 2023
Traduit par IA

Une organisation américaine qui soutient les personnes souffrant de troubles de l'alimentation a suspendu l'utilisation d'un chatbot après avoir signalé qu'il partageait des conseils préjudiciables.

La National Eating Disorder Association (…

NEDA n'a pas pardonné l'erreur de Tessa et a mis fin au chatbot AI après le contrecoup
dataconomy.com · 2023
Traduit par IA

Désormais, le chatbot IA de la ligne d'assistance téléphonique pour les troubles alimentaires Tessa, ne répondra plus à l'appel de personne après son erreur nuisible. La National Eating Disorder Association a fermé le chatbot AI après avoir…

Le chatbot de la ligne d'assistance sur les troubles de l'alimentation a été fermé pour des conseils « préjudiciables » qu'il offrait après avoir remplacé des travailleurs
yahoo.com · 2023
Traduit par IA

Un [chatbot](https://go.redirectingat.com?id=74679X1524629&sref=https%3A%2F%2Fwww.buzzfeed.com%2Ftracewilliamcowen%2Feating-disorder-hotline-chatbot-shut-down-harmful-advice&url=https %3A%2F%2Fcomplex.com%2Ftag%2Ftech&xcust=7428125%7CBF-VER…

Un chatbot sur les troubles de l'alimentation a été fermé après avoir envoyé des conseils "préjudiciables". Ce qui s'est passé - et pourquoi son échec a une plus grande leçon.
yahoo.com · 2023
Traduit par IA

Après 24 ans de service, la National Eating Disorder Association (NEDA) a annoncé la fermeture de sa ligne d'assistance téléphonique basée sur les bénévoles. Les visiteurs du site Web de l'organisation auraient deux options : explorer leur …

Ce que la catastrophe du chatbot de trouble de l'alimentation nous dit sur l'IA
yahoo.com · 2023
Traduit par IA

Je crois fermement que, comme tous les films de science-fiction l'ont prédit, l'IA est désastreuse pour l'humanité. Même s'il ne s'allume pas directement contre nous et ne commence pas à nous tuer comme M3GAN, il a certainement le pouvoir d…

Une ONG basée aux États-Unis supprime le chatbot AI sur la prévention des troubles alimentaires. Voici pourquoi
hindustantimes.com · 2023
Traduit par IA

Une ONG basée à New York dédiée à la prévention des troubles de l'alimentation a supprimé un chatbot d'IA suite à des informations selon lesquelles il fournirait un appareil nocif.

La National Eating Disorder Association (NEDA) est critiqué…

Chatbot donne des «conseils nuisibles» sur les troubles de l'alimentation, ordonné de le retirer
wionews.com · 2023
Traduit par IA

Un chatbot d'intelligence artificielle nommé "Tessa" a été retiré par la National Eating Disorder Association (Neda) suite à des accusations selon lesquelles il donnait des conseils préjudiciables.

Après avoir licencié quatre employés qui t…

Le groupe remplace la hotline par un chatbot et tire le chatbot sur de mauvais conseils
newser.com · 2023
Traduit par IA

C'est une décision qui pourrait ravir quiconque s'inquiète des effets potentiels des outils d'intelligence artificielle sur l'emploi. Comme le rapport BBC , la National Eating Disorder Association (NEDA) des États-Unis a dû supprimer son ch…

NEDA suspend un chatbot IA pour avoir donné des conseils sur les troubles alimentaires nocifs
psychiatrist.com · 2023
Traduit par IA

Pertinence clinique : l'IA n'est même pas près d'être prête à remplacer les humains dans le traitement de la santé mentale

  • La National Eating Disorders Association (NEDA) a retiré son chatbot de sa hotline d'assistance, craignant qu'il ne …
Comment un chatbot est devenu voyou
wsj.com · 2023
Traduit par IA

Un chatbot de santé mentale qui a dévié du script---donnant des conseils diététiques aux personnes cherchant de l'aide auprès d'un groupe de troubles de l'alimentation --- a été programmé avec une IA générative à l'insu du groupe.

Le bot, n…

Le chatbot destiné à aider les personnes souffrant de troubles de l'alimentation devient "nocif"
wmar2news.com · 2023
Traduit par IA

Lorsque le Dr Ellen Fitzsimmons-Craft a dirigé un chatbot pour aider les personnes souffrant de troubles de l'alimentation, elle n'aurait jamais cru entendre que le produit avait l'effet inverse.

"Nous sommes des scientifiques et nous ne vo…

Un chatbot de bien-être est hors ligne après avoir mis l'accent sur la perte de poids
nytimes.com · 2023
Traduit par IA

L'idée derrière un projet de chatbot financé par la National Eating Disorders Association était que la technologie pourrait être libérée pour aider les personnes à la recherche de conseils sur les comportements alimentaires, disponibles 24 …

Variantes

Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

TayBot

Danger, danger! 10 alarming examples of AI gone wild

Mar 2016 · 28 rapports
TikTok’s “For You” Algorithm Exposed Young Users to Pro-Eating Disorder Content

TikTok Is Filled With Pro-Eating Disorder Content, Despite Its Own Rules

Jul 2019 · 3 rapports
Wikipedia Vandalism Prevention Bot Loop

Danger, danger! 10 alarming examples of AI gone wild

Feb 2017 · 6 rapports
Incident précédentProchain incident

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

TayBot

Danger, danger! 10 alarming examples of AI gone wild

Mar 2016 · 28 rapports
TikTok’s “For You” Algorithm Exposed Young Users to Pro-Eating Disorder Content

TikTok Is Filled With Pro-Eating Disorder Content, Despite Its Own Rules

Jul 2019 · 3 rapports
Wikipedia Vandalism Prevention Bot Loop

Danger, danger! 10 alarming examples of AI gone wild

Feb 2017 · 6 rapports

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 300d90c