Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Incidente 545: Chatbot Tessa gives unauthorized diet advice to users seeking help for eating disorders

Descripción: The National Eating Disorders Association (NEDA) has shut down its chatbot named Tessa after it gave weight-loss advice to users seeking help for eating disorders. The incident has raised concerns about the risks of using chatbots and AI assistants in healthcare settings, particularly in addressing sensitive issues like eating disorders. NEDA is investigating the matter, emphasizing the need for caution and accuracy when utilizing technology to provide mental health support.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial

Entidades

Ver todas las entidades
Alleged: Cass developed an AI system deployed by National Eating Disorders Association y Cass, which harmed People with eating disorders.

Estadísticas de incidentes

ID
545
Cantidad de informes
46
Fecha del Incidente
2023-05-29
Editores
Daniel Atherton
Applied Taxonomies
GMF, CSETv1, MIT

Clasificaciones de la Taxonomía CSETv1

Detalles de la Taxonomía

Incident Number

The number of the incident in the AI Incident Database.
 

545

Special Interest Intangible Harm

An assessment of whether a special interest intangible harm occurred. This assessment does not consider the context of the intangible harm, if an AI was involved, or if there is characterizable class or subgroup of harmed entities. It is also not assessing if an intangible harm occurred. It is only asking if a special interest intangible harm occurred.
 

yes

Clasificaciones de la Taxonomía MIT

Machine-Classified
Detalles de la Taxonomía

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

7.3. Lack of capability or robustness

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. AI system safety, failures, and limitations

Entity

Which, if any, entity is presented as the main cause of the risk
 

AI

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Unintentional

Informes del Incidente

Cronología de Informes

La línea de ayuda para trastornos alimentarios despide al personal y cambia a chatbot después de la sindicalizaciónIncident Occurrence+1
La línea de ayuda para trastornos alimentarios desactiva el chatbot por respuestas "dañinas" después de despedir al personal humano
+8
La línea de ayuda para trastornos alimentarios de EE. UU. elimina el chatbot de IA por consejos dañinos
+17
Se diseñó un chatbot para ayudar a prevenir los trastornos alimentarios. Luego dio consejos de dieta.
+9
Resulta que los chatbots no son buenos para el asesoramiento sobre trastornos alimentarios
Chatbot da 'consejos dañinos' sobre el trastorno alimentario, ordena que se elimineEl grupo reemplaza la línea directa con Chatbot, retira Chatbot por malos consejosNEDA suspende AI Chatbot por dar consejos sobre trastornos alimentarios nocivos+1
Cómo un chatbot se volvió rebelde
Un chatbot de bienestar está fuera de línea después de su enfoque 'dañino' en la pérdida de peso
La línea de ayuda para trastornos alimentarios despide al personal y cambia a chatbot después de la sindicalización

La línea de ayuda para trastornos alimentarios despide al personal y cambia a chatbot después de la sindicalización

vice.com

La línea de ayuda para trastornos alimentarios desactiva el chatbot por respuestas "dañinas" después de despedir al personal humano

La línea de ayuda para trastornos alimentarios desactiva el chatbot por respuestas "dañinas" después de despedir al personal humano

vice.com

'Este robot causa daño': el nuevo chatbot de la Asociación Nacional de Trastornos de la Alimentación aconseja a las personas con trastornos alimentarios que pierdan peso

'Este robot causa daño': el nuevo chatbot de la Asociación Nacional de Trastornos de la Alimentación aconseja a las personas con trastornos alimentarios que pierdan peso

dailydot.com

La línea de ayuda para trastornos alimentarios de EE. UU. elimina el chatbot de IA por consejos dañinos

La línea de ayuda para trastornos alimentarios de EE. UU. elimina el chatbot de IA por consejos dañinos

theguardian.com

La Asociación Nacional de Trastornos de la Alimentación cierra A.I. chatbot que planeó usar para reemplazar a los humanos diciendo que "puede haber dado" información dañina

La Asociación Nacional de Trastornos de la Alimentación cierra A.I. chatbot que planeó usar para reemplazar a los humanos diciendo que "puede haber dado" información dañina

fortune.com

La línea de ayuda para trastornos alimentarios elimina el chatbot después de que su consejo sale terriblemente mal

La línea de ayuda para trastornos alimentarios elimina el chatbot después de que su consejo sale terriblemente mal

gizmodo.com

La Asociación Nacional de Trastornos de la Alimentación elimina gradualmente la línea de ayuda humana y se convierte en chatbot

La Asociación Nacional de Trastornos de la Alimentación elimina gradualmente la línea de ayuda humana y se convierte en chatbot

npr.org

La organización sin fines de lucro para trastornos alimentarios NEDA retira el chatbot por malos consejos

La organización sin fines de lucro para trastornos alimentarios NEDA retira el chatbot por malos consejos

theregister.com

La línea de ayuda sin fines de lucro cambia a chatbots, luego cierra Rogue AI

La línea de ayuda sin fines de lucro cambia a chatbots, luego cierra Rogue AI

forbes.com

La línea de ayuda para trastornos alimentarios despide a AI por consejos dañinos después de despedir a humanos

La línea de ayuda para trastornos alimentarios despide a AI por consejos dañinos después de despedir a humanos

nypost.com

Chatbot listo para reemplazar la línea de ayuda para trastornos alimentarios de EE. UU. retirada por promover dietas

Chatbot listo para reemplazar la línea de ayuda para trastornos alimentarios de EE. UU. retirada por promover dietas

morningbrew.com

'Este robot causa daño': la línea de ayuda para trastornos alimentarios se vio obligada a abandonar el chatbot que empeoraba los trastornos alimentarios

'Este robot causa daño': la línea de ayuda para trastornos alimentarios se vio obligada a abandonar el chatbot que empeoraba los trastornos alimentarios

dailywire.com

Se diseñó un chatbot para ayudar a prevenir los trastornos alimentarios. Luego dio consejos de dieta.

Se diseñó un chatbot para ayudar a prevenir los trastornos alimentarios. Luego dio consejos de dieta.

wsj.com

Suspenden a un chatbot de trastornos alimentarios por dar consejos dañinos

Suspenden a un chatbot de trastornos alimentarios por dar consejos dañinos

wired.com

La línea de ayuda para trastornos alimentarios cierra el chatbot de IA que dio malos consejos

La línea de ayuda para trastornos alimentarios cierra el chatbot de IA que dio malos consejos

cbsnews.com

NEDA retira el chatbot después de que los usuarios dicen que dio consejos de dieta perjudiciales

NEDA retira el chatbot después de que los usuarios dicen que dio consejos de dieta perjudiciales

nbcnews.com

La Asociación Nacional de Trastornos de la Alimentación desconecta su chatbot de IA después de quejas de consejos "dañinos"

La Asociación Nacional de Trastornos de la Alimentación desconecta su chatbot de IA después de quejas de consejos "dañinos"

cnn.com

La Asociación Nacional de Trastornos de la Alimentación deshabilitó su chatbot después de que dio consejos de dieta perjudiciales

La Asociación Nacional de Trastornos de la Alimentación deshabilitó su chatbot después de que dio consejos de dieta perjudiciales

huffpost.com

La línea de ayuda para trastornos alimentarios que supuestamente planeaba despedir a su personal humano desactiva su chatbot después de que una mujer dijo que le dijo que contara calorías, se pesara y se midiera semanalmente

La línea de ayuda para trastornos alimentarios que supuestamente planeaba despedir a su personal humano desactiva su chatbot después de que una mujer dijo que le dijo que contara calorías, se pesara y se midiera semanalmente

businessinsider.com

Chatbot para trastornos alimentarios es derribado después de dar consejos para bajar de peso; una organización sin fines de lucro culpa a los "malos actores"

Chatbot para trastornos alimentarios es derribado después de dar consejos para bajar de peso; una organización sin fines de lucro culpa a los "malos actores"

yahoo.com

El problemático chatbot de IA 'Tessa' que aconsejó cerrar el trastorno alimentario dañino

El problemático chatbot de IA 'Tessa' que aconsejó cerrar el trastorno alimentario dañino

businesstoday.in

La línea de ayuda para trastornos alimentarios elimina el chatbot después de que promueve los trastornos alimentarios

La línea de ayuda para trastornos alimentarios elimina el chatbot después de que promueve los trastornos alimentarios

futurism.com

Chatbot de respuesta a trastornos alimentarios desconectado luego de acusaciones de daño

Chatbot de respuesta a trastornos alimentarios desconectado luego de acusaciones de daño

venturebeat.com

Chatbot de inteligencia artificial para trastornos alimentarios se deshabilitó después de dar consejos para perder peso - National

Chatbot de inteligencia artificial para trastornos alimentarios se deshabilitó después de dar consejos para perder peso - National

globalnews.ca

Chatbot de IA eliminado después de dar 'consejos dañinos' sobre trastornos alimentarios

Chatbot de IA eliminado después de dar 'consejos dañinos' sobre trastornos alimentarios

independent.co.uk

La línea de ayuda para trastornos alimentarios desactiva el chatbot de IA para recibir consejos "dañinos" días después de despedir al personal humano

La línea de ayuda para trastornos alimentarios desactiva el chatbot de IA para recibir consejos "dañinos" días después de despedir al personal humano

timesnownews.com

Trastorno alimentario AI Chatbot suspendido después de decirle a la gente que perdiera peso

Trastorno alimentario AI Chatbot suspendido después de decirle a la gente que perdiera peso

themessenger.com

El personal de la línea de ayuda para trastornos alimentarios es despedido y reemplazado por un chatbot con IA defectuoso

El personal de la línea de ayuda para trastornos alimentarios es despedido y reemplazado por un chatbot con IA defectuoso

itechpost.com

Chatbot para trastornos alimentarios suspendido por consejos dañinos

Chatbot para trastornos alimentarios suspendido por consejos dañinos

editorialge.com

Una mujer que probó el chatbot de inteligencia artificial de una línea de ayuda para trastornos alimentarios dice que "todas las cosas" sugeridas empeorarían su trastorno

Una mujer que probó el chatbot de inteligencia artificial de una línea de ayuda para trastornos alimentarios dice que "todas las cosas" sugeridas empeorarían su trastorno

yourtango.com

Resulta que los chatbots no son buenos para el asesoramiento sobre trastornos alimentarios

Resulta que los chatbots no son buenos para el asesoramiento sobre trastornos alimentarios

thecut.com

El controvertido chatbot de inteligencia artificial 'Tessa' proporciona consejos para cerrar el trastorno alimentario nocivo

El controvertido chatbot de inteligencia artificial 'Tessa' proporciona consejos para cerrar el trastorno alimentario nocivo

boxmining.com

Una organización sin fines de lucro positiva para el cuerpo reemplazó al personal con un chatbot de IA: el movimiento resultó contraproducente

Una organización sin fines de lucro positiva para el cuerpo reemplazó al personal con un chatbot de IA: el movimiento resultó contraproducente

interestingengineering.com

La Asociación Nacional de Trastornos de la Alimentación elimina el chatbot de IA después de que los usuarios dicen que les dio consejos sobre dietas peligrosas

La Asociación Nacional de Trastornos de la Alimentación elimina el chatbot de IA después de que los usuarios dicen que les dio consejos sobre dietas peligrosas

people.com

Grupo de trastornos alimentarios extrae chatbot para compartir consejos sobre dietas

Grupo de trastornos alimentarios extrae chatbot para compartir consejos sobre dietas

bbc.com

NEDA no perdonó el error de Tessa y canceló el chatbot de IA después de la reacción violenta

NEDA no perdonó el error de Tessa y canceló el chatbot de IA después de la reacción violenta

dataconomy.com

El chatbot de la línea directa de trastornos alimentarios se cerró debido a los consejos "dañinos" que ofreció después de reemplazar a los trabajadores

El chatbot de la línea directa de trastornos alimentarios se cerró debido a los consejos "dañinos" que ofreció después de reemplazar a los trabajadores

yahoo.com

Un chatbot de trastornos alimentarios se cerró después de que envió consejos "perjudiciales". Lo que sucedió y por qué su fracaso tiene una lección más amplia.

Un chatbot de trastornos alimentarios se cerró después de que envió consejos "perjudiciales". Lo que sucedió y por qué su fracaso tiene una lección más amplia.

yahoo.com

Lo que nos dice el desastre del chatbot del trastorno alimentario sobre la IA

Lo que nos dice el desastre del chatbot del trastorno alimentario sobre la IA

yahoo.com

Una ONG con sede en EE. UU. elimina el chatbot de IA para prevenir los trastornos alimentarios. Este es el por qué

Una ONG con sede en EE. UU. elimina el chatbot de IA para prevenir los trastornos alimentarios. Este es el por qué

hindustantimes.com

Chatbot da 'consejos dañinos' sobre el trastorno alimentario, ordena que se elimine

Chatbot da 'consejos dañinos' sobre el trastorno alimentario, ordena que se elimine

wionews.com

El grupo reemplaza la línea directa con Chatbot, retira Chatbot por malos consejos

El grupo reemplaza la línea directa con Chatbot, retira Chatbot por malos consejos

newser.com

NEDA suspende AI Chatbot por dar consejos sobre trastornos alimentarios nocivos

NEDA suspende AI Chatbot por dar consejos sobre trastornos alimentarios nocivos

psychiatrist.com

Cómo un chatbot se volvió rebelde

Cómo un chatbot se volvió rebelde

wsj.com

El chatbot destinado a ayudar a las personas con trastornos alimentarios se vuelve 'dañino'

El chatbot destinado a ayudar a las personas con trastornos alimentarios se vuelve 'dañino'

wmar2news.com

Un chatbot de bienestar está fuera de línea después de su enfoque 'dañino' en la pérdida de peso

Un chatbot de bienestar está fuera de línea después de su enfoque 'dañino' en la pérdida de peso

nytimes.com

La línea de ayuda para trastornos alimentarios despide al personal y cambia a chatbot después de la sindicalización
vice.com · 2023
Traducido por IA

Los ejecutivos de la Asociación Nacional de Trastornos de la Alimentación (NEDA) decidieron reemplazar a los trabajadores de la línea directa con un chatbot llamado Tessa cuatro días después de que los trabajadores se sindicalizaran.

NEDA, …

La línea de ayuda para trastornos alimentarios desactiva el chatbot por respuestas "dañinas" después de despedir al personal humano
vice.com · 2023
Traducido por IA

La Asociación Nacional de Trastornos Alimentarios (NEDA, por sus siglas en inglés) desconectó su chatbot llamado Tessa, dos días antes de que se configurara para reemplazar a los asociados humanos que manejaban la línea directa de la organi…

'Este robot causa daño': el nuevo chatbot de la Asociación Nacional de Trastornos de la Alimentación aconseja a las personas con trastornos alimentarios que pierdan peso
dailydot.com · 2023
Traducido por IA

Después de sindicalizarse, el personal de la línea telefónica de apoyo de la Asociación Nacional de Trastornos Alimentarios (NEDA) fue despedido abruptamente en marzo y reemplazado por un chatbot. Ayer, muchos en la comunidad más grande de …

La línea de ayuda para trastornos alimentarios de EE. UU. elimina el chatbot de IA por consejos dañinos
theguardian.com · 2023
Traducido por IA

La Asociación Nacional de Trastornos de la Alimentación (Neda) eliminó un chatbot de inteligencia artificial, "Tessa", luego de informes de que el chatbot estaba brindando consejos dañinos.

Neda ha sido objeto de críticas en los últimos mes…

La Asociación Nacional de Trastornos de la Alimentación cierra A.I. chatbot que planeó usar para reemplazar a los humanos diciendo que "puede haber dado" información dañina
fortune.com · 2023
Traducido por IA

Menos de una semana después de anunciar planes para reemplazar el personal de su línea de ayuda humana con un AI. chatbot llamado Tessa, la Asociación Nacional de Trastornos Alimentarios (NEDA) ha desconectado la tecnología.

"Llamó nuestra …

La línea de ayuda para trastornos alimentarios elimina el chatbot después de que su consejo sale terriblemente mal
gizmodo.com · 2023
Traducido por IA

Los chatbots de IA no son muy buenos para ofrecer apoyo emocional siendo, ya sabes, [no un humano] (https://gizmodo.com/ai-chatgpt-extinction-warning-letter-openai-sam-altman-1850486688), y —no se puede decir lo suficiente—no realmente inte…

La Asociación Nacional de Trastornos de la Alimentación elimina gradualmente la línea de ayuda humana y se convierte en chatbot
npr.org · 2023
Traducido por IA

Durante más de 20 años, la Asociación Nacional de Trastornos de la Alimentación (NEDA) ha operado una línea telefónica y una plataforma en línea para personas que buscan ayuda con la anorexia, la bulimia y otros trastornos de la alimentació…

La organización sin fines de lucro para trastornos alimentarios NEDA retira el chatbot por malos consejos
theregister.com · 2023
Traducido por IA

La Asociación Nacional de Trastornos de la Alimentación (NEDA) eliminó su chatbot Tessa por dar malos consejos a las personas.

En una publicación ahora viral, Sharon Maxwell dijo que el consejo de Tessa para recuperarse de manera segura de …

La línea de ayuda sin fines de lucro cambia a chatbots, luego cierra Rogue AI
forbes.com · 2023
Traducido por IA

La organización sin fines de lucro más grande de trastornos alimentarios del país está reemplazando al personal y los voluntarios con una solución en línea basada en IA, y el chatbot ya se cerró. Se despidió a media docena de empleados huma…

La línea de ayuda para trastornos alimentarios despide a AI por consejos dañinos después de despedir a humanos
nypost.com · 2023
Traducido por IA

Chatbot, estás despedido.

La Asociación Nacional de Trastornos de la Alimentación deshabilitó su chatbot, llamado Tessa, debido a las respuestas "dañinas" que le dio a la gente.

“Cada cosa que sugirió Tessa fueron cosas que llevaron al desa…

Chatbot listo para reemplazar la línea de ayuda para trastornos alimentarios de EE. UU. retirada por promover dietas
morningbrew.com · 2023
Traducido por IA

En esta edición de IA que resulta contraproducente: hoy, se suponía que un chatbot reemplazaría oficialmente a una de las líneas de ayuda más importantes para los trastornos alimentarios hasta que se desconectó a principios de esta semana p…

'Este robot causa daño': la línea de ayuda para trastornos alimentarios se vio obligada a abandonar el chatbot que empeoraba los trastornos alimentarios
dailywire.com · 2023
Traducido por IA

Una línea de ayuda nacional abandonó un chatbot de inteligencia artificial llamado Tessa después de que el consejo que dio empeorara las cosas para quienes sufrían trastornos alimentarios.

La Asociación Nacional de Trastornos de la Alimenta…

Se diseñó un chatbot para ayudar a prevenir los trastornos alimentarios. Luego dio consejos de dieta.
wsj.com · 2023
Traducido por IA

Un chatbot diseñado para ayudar a las personas que buscan ayuda para los trastornos alimentarios y problemas corporales ha sido desconectado después proporcionó a algunos usuarios consejos dietéticos.

El bot, llamado Tessa, operaba en el si…

Suspenden a un chatbot de trastornos alimentarios por dar consejos dañinos
wired.com · 2023
Traducido por IA

A diferencia de los chatbots como ChatGPT, Tessa no se creó con tecnologías de IA generativa. Está programado para ofrecer un programa interactivo llamado Body Positive, una herramienta basada en la terapia conductual cognitiva destinada a …

La línea de ayuda para trastornos alimentarios cierra el chatbot de IA que dio malos consejos
cbsnews.com · 2023
Traducido por IA

Un chatbot impulsado por IA que reemplazó a los empleados en una línea directa de trastornos alimentarios se cerró después de que brindó consejos dañinos a las personas que buscaban ayuda.

La saga comenzó a principios de este año cuando la …

NEDA retira el chatbot después de que los usuarios dicen que dio consejos de dieta perjudiciales
nbcnews.com · 2023
Traducido por IA

La Asociación Nacional de Trastornos de la Alimentación, una organización sin fines de lucro que apoya a las personas afectadas por trastornos de la alimentación, dijo que deshabilitó su chatbot de bienestar después de que dos usuarios info…

La Asociación Nacional de Trastornos de la Alimentación desconecta su chatbot de IA después de quejas de consejos "dañinos"
cnn.com · 2023
Traducido por IA

Una organización de prevención de trastornos alimentarios dijo que tuvo que desconectar su chatbot impulsado por IA después de que algunos se quejaron de que la herramienta comenzó a ofrecer consejos "dañinos" y "no relacionados" a quienes …

La Asociación Nacional de Trastornos de la Alimentación deshabilitó su chatbot después de que dio consejos de dieta perjudiciales
huffpost.com · 2023
Traducido por IA

La Asociación Nacional de Trastornos de la Alimentación deshabilitó el chatbot que reemplazó a su línea de ayuda administrada por personal y voluntarios después de que dos usuarios informaron haber recibido consejos dañinos.

A principios de…

La línea de ayuda para trastornos alimentarios que supuestamente planeaba despedir a su personal humano desactiva su chatbot después de que una mujer dijo que le dijo que contara calorías, se pesara y se midiera semanalmente
businessinsider.com · 2023
Traducido por IA

La Asociación Nacional de Trastornos de la Alimentación deshabilitó su chatbot después de que la asociación dijera que "podría haber brindado información dañina y no relacionada con el programa".

La semana pasada, se informó que la asociaci…

Chatbot para trastornos alimentarios es derribado después de dar consejos para bajar de peso; una organización sin fines de lucro culpa a los "malos actores"
yahoo.com · 2023
Traducido por IA

La Asociación Nacional de Trastornos de la Alimentación ha desconectado un chatbot de IA por usar un lenguaje "fuera del guión" y dar consejos para perder peso a las personas afectadas por trastornos de la alimentación.

La situación que afl…

El problemático chatbot de IA 'Tessa' que aconsejó cerrar el trastorno alimentario dañino
businesstoday.in · 2023
Traducido por IA

La Asociación Nacional de Trastornos de la Alimentación (NEDA) enfrentó recientemente críticas y se vio obligada a eliminar su chatbot Tessa debido a la preocupación de que estaba proporcionando información dañina e irrelevante, como se ind…

La línea de ayuda para trastornos alimentarios elimina el chatbot después de que promueve los trastornos alimentarios
futurism.com · 2023
Traducido por IA

Después de despedir a todo su personal humano y reemplazarlos con un chatbot, [Vice informa](https://www.vice.com/en /article/qjvk97/eating-disorder-helpline-disables-chatbot-for-harmful-responses-after-firen-human-staff) que una línea de a…

Chatbot de respuesta a trastornos alimentarios desconectado luego de acusaciones de daño
venturebeat.com · 2023
Traducido por IA

Las organizaciones que buscan complementar o incluso reemplazar a algunos empleados humanos de atención al cliente podrían querer revisar primero la historia de advertencia de la Asociación Nacional de Trastornos Alimentarios (NEDA) que se …

Chatbot de inteligencia artificial para trastornos alimentarios se deshabilitó después de dar consejos para perder peso - National
globalnews.ca · 2023
Traducido por IA

Un chatbot de inteligencia artificial destinado a ayudar a las personas con trastornos alimentarios fue eliminado después de informa que había comenzado a dar consejos sobre dietas dañinas.

La [Asociación Nacional de Trastornos Alimentarios…

Chatbot de IA eliminado después de dar 'consejos dañinos' sobre trastornos alimentarios
independent.co.uk · 2023
Traducido por IA

Una organización sin fines de lucro estadounidense eliminó su chatbot de inteligencia artificial después de que una publicación viral en las redes sociales revelara que ofrecía consejos dañinos en lugar de ayudar a las personas.

La Asociaci…

La línea de ayuda para trastornos alimentarios desactiva el chatbot de IA para recibir consejos "dañinos" días después de despedir al personal humano
timesnownews.com · 2023
Traducido por IA

Una organización sin fines de lucro de EE. UU. recurrió a la inteligencia artificial para proporcionar personal a su línea de ayuda de trastornos alimentarios el mes pasado, sin embargo, el experimento fracasó cuando el IA chatbot comenzó a…

Trastorno alimentario AI Chatbot suspendido después de decirle a la gente que perdiera peso
themessenger.com · 2023
Traducido por IA

La Asociación Nacional de Trastornos de la Alimentación (NEDA) ha suspendido un chatbot de IA después de que brindó consejos potencialmente dañinos a las personas que buscaban ayuda para sus trastornos de la alimentación.

El chatbot, llamad…

El personal de la línea de ayuda para trastornos alimentarios es despedido y reemplazado por un chatbot con IA defectuoso
itechpost.com · 2023
Traducido por IA

AI Chatbot en las líneas de ayuda

El chatbot defectuoso llamado Tessa bot estaba operando bajo una línea de ayuda para trastornos alimentarios que estaba destinada a ayudar a los usuarios que experimentaban angustia emocional. Sin embargo, …

Chatbot para trastornos alimentarios suspendido por consejos dañinos
editorialge.com · 2023
Traducido por IA

Se prohibió el uso de un chatbot por parte de una organización sin fines de lucro porque ofrecía consejos potencialmente dañinos para quienes buscan tratamiento para los trastornos alimentarios.

Se descubrió que Tessa, un programa utilizado…

Una mujer que probó el chatbot de inteligencia artificial de una línea de ayuda para trastornos alimentarios dice que "todas las cosas" sugeridas empeorarían su trastorno
yourtango.com · 2023
Traducido por IA

Después de generar indignación, la Asociación Nacional de Trastornos de la Alimentación revirtió su decisión de reemplazar a los miembros del personal de su Línea de ayuda con un IA Chatbot llamado Tessa.

Su decisión de brindar apoyo automa…

Resulta que los chatbots no son buenos para el asesoramiento sobre trastornos alimentarios
thecut.com · 2023
Traducido por IA

El auge de la IA ha introducido un número cada vez mayor de víctimas humanas, desde generar diversos modelos hasta crear novios que se ponen no envejecer ni hacer trampa. Por supuesto, fecha tu computadora, pero ¿tal vez deberíamos pensarlo…

El controvertido chatbot de inteligencia artificial 'Tessa' proporciona consejos para cerrar el trastorno alimentario nocivo
boxmining.com · 2023
Traducido por IA

La Asociación Nacional de Trastornos de la Alimentación (NEDA) recibió críticas y eliminó su [AI chatbot](https://boxmining.com/race-to-the-top-microsofts -chatgpt-and-bing-lead-the-way-in-ai-analysts-report/) Tessa después de que surgieran…

Una organización sin fines de lucro positiva para el cuerpo reemplazó al personal con un chatbot de IA: el movimiento resultó contraproducente
interestingengineering.com · 2023
Traducido por IA

El 31 de marzo, la Asociación Nacional de Trastornos de la Alimentación (NEDA), la organización sin fines de lucro más grande dedicada a los trastornos de la alimentación, decidió reemplazar a sus asociados humanos con el chatbot de intelig…

La Asociación Nacional de Trastornos de la Alimentación elimina el chatbot de IA después de que los usuarios dicen que les dio consejos sobre dietas peligrosas
people.com · 2023
Traducido por IA

La línea de ayuda de la Asociación Nacional de Trastornos de la Alimentación (NEDA) ha desactivado [su nuevo chatbot] (https://people.com/chatbot-replacing-humans-national-eating-disorders-association-helpline-7503455), llamado Tessa, despu…

Grupo de trastornos alimentarios extrae chatbot para compartir consejos sobre dietas
bbc.com · 2023
Traducido por IA

Una organización de EE. UU. que apoya a las personas con trastornos alimentarios suspendió el uso de un chatbot luego de informes de que compartió consejos dañinos.

La Asociación Nacional de Trastornos de la Alimentación (Neda) cerró recien…

NEDA no perdonó el error de Tessa y canceló el chatbot de IA después de la reacción violenta
dataconomy.com · 2023
Traducido por IA

A partir de ahora, el chatbot de IA de la línea de ayuda para trastornos alimentarios Tessa no responderá a la llamada de nadie después de su error dañino. La Asociación Nacional de Trastornos de la Alimentación cerró el chatbot de IA despu…

El chatbot de la línea directa de trastornos alimentarios se cerró debido a los consejos "dañinos" que ofreció después de reemplazar a los trabajadores
yahoo.com · 2023
Traducido por IA

Un [chatbot](https://go.redirectingat.com?id=74679X1524629&sref=https%3A%2F%2Fwww.buzzfeed.com%2Ftracewilliamcowen%2Feating-disorder-hotline-chatbot-shut-down-dañino-advice&url=https %3A%2F%2Fcomplex.com%2Ftag%2Ftech&xcust=7428125%7CBF-VERI…

Un chatbot de trastornos alimentarios se cerró después de que envió consejos "perjudiciales". Lo que sucedió y por qué su fracaso tiene una lección más amplia.
yahoo.com · 2023
Traducido por IA

Después de 24 años en servicio, la [Asociación Nacional de Trastornos Alimentarios] (https://www.nationaleatingdisorders.org/) (NEDA) anunció que cerraría su línea de ayuda basada en voluntarios. Los visitantes del sitio web de la organizac…

Lo que nos dice el desastre del chatbot del trastorno alimentario sobre la IA
yahoo.com · 2023
Traducido por IA

Creo firmemente que, al igual que todas las películas de ciencia ficción han predicho, la IA es desastrosa para la humanidad. Incluso si no se vuelve contra nosotros directamente y comienza a matarnos como M3GAN, ciertamente tiene el poder …

Una ONG con sede en EE. UU. elimina el chatbot de IA para prevenir los trastornos alimentarios. Este es el por qué
hindustantimes.com · 2023
Traducido por IA

Una ONG con sede en Nueva York dedicada a la prevención de los trastornos alimentarios eliminó un chatbot de IA luego de informes de que proporcionaba un dispositivo dañino.

La Asociación Nacional de Trastornos de la Alimentación (NEDA, por…

Chatbot da 'consejos dañinos' sobre el trastorno alimentario, ordena que se elimine
wionews.com · 2023
Traducido por IA

Un chatbot de inteligencia artificial llamado "Tessa" ha sido retirado por la Asociación Nacional de Trastornos de la Alimentación (Neda) tras las acusaciones de que estaba dando consejos perjudiciales.

Después de despedir a cuatro empleado…

El grupo reemplaza la línea directa con Chatbot, retira Chatbot por malos consejos
newser.com · 2023
Traducido por IA

Es un movimiento que podría deleitar a cualquier persona preocupada por los posibles efectos de destrucción de empleo de las herramientas de inteligencia artificial. Como informa BBC, la Asociación Nacional de Trastornos Alimentarios (NEDA)…

NEDA suspende AI Chatbot por dar consejos sobre trastornos alimentarios nocivos
psychiatrist.com · 2023
Traducido por IA

Relevancia clínica: la IA ni siquiera está cerca de estar lista para reemplazar a los humanos en la terapia de salud mental

  • La Asociación Nacional de Trastornos de la Alimentación (NEDA, por sus siglas en inglés) eliminó su chatbot de su l…
Cómo un chatbot se volvió rebelde
wsj.com · 2023
Traducido por IA

Un chatbot de salud mental que se desvió del guión---que brinda consejos dietéticos a las personas que buscan ayuda de un grupo de trastornos alimentarios---fue programado con IA generativa sin el conocimiento del grupo.

El bot, llamado Tes…

El chatbot destinado a ayudar a las personas con trastornos alimentarios se vuelve 'dañino'
wmar2news.com · 2023
Traducido por IA

Cuando la Dra. Ellen Fitzsimmons-Craft encabezó un chatbot para ayudar a las personas con trastornos alimentarios, nunca pensó que escucharía que el producto tendría el efecto contrario.

“Somos científicos y, por supuesto, no queremos difun…

Un chatbot de bienestar está fuera de línea después de su enfoque 'dañino' en la pérdida de peso
nytimes.com · 2023
Traducido por IA

La idea detrás de un proyecto de chatbot financiado por la Asociación Nacional de Trastornos de la Alimentación era que la tecnología podría liberarse para ayudar a las personas que buscan orientación sobre comportamientos alimentarios, dis…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

TayBot

Danger, danger! 10 alarming examples of AI gone wild

Mar 2016 · 28 informes
TikTok’s “For You” Algorithm Exposed Young Users to Pro-Eating Disorder Content

TikTok Is Filled With Pro-Eating Disorder Content, Despite Its Own Rules

Jul 2019 · 3 informes
Wikipedia Vandalism Prevention Bot Loop

Danger, danger! 10 alarming examples of AI gone wild

Feb 2017 · 6 informes
Incidente AnteriorSiguiente Incidente

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

TayBot

Danger, danger! 10 alarming examples of AI gone wild

Mar 2016 · 28 informes
TikTok’s “For You” Algorithm Exposed Young Users to Pro-Eating Disorder Content

TikTok Is Filled With Pro-Eating Disorder Content, Despite Its Own Rules

Jul 2019 · 3 informes
Wikipedia Vandalism Prevention Bot Loop

Danger, danger! 10 alarming examples of AI gone wild

Feb 2017 · 6 informes

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • ecd56df