Registro de citas para el Incidente 545

Description: The National Eating Disorders Association (NEDA) has shut down its chatbot named Tessa after it gave weight-loss advice to users seeking help for eating disorders. The incident has raised concerns about the risks of using chatbots and AI assistants in healthcare settings, particularly in addressing sensitive issues like eating disorders. NEDA is investigating the matter, emphasizing the need for caution and accuracy when utilizing technology to provide mental health support.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial
Presunto: un sistema de IA desarrollado por Cass e implementado por National Eating Disorders Association y Cass, perjudicó a People with eating disorders.

Estadísticas de incidentes

ID
545
Cantidad de informes
46
Fecha del Incidente
2023-05-29
Editores
Daniel Atherton
La línea de ayuda para trastornos alimentarios despide al personal y cambia a chatbot después de la sindicalización
vice.com · 2023

Los ejecutivos de la Asociación Nacional de Trastornos de la Alimentación (NEDA) decidieron reemplazar a los trabajadores de la línea directa con un chatbot llamado Tessa cuatro días después de que los trabajadores se sindicalizaran.

NEDA, …

La línea de ayuda para trastornos alimentarios desactiva el chatbot por respuestas "dañinas" después de despedir al personal humano
vice.com · 2023

La Asociación Nacional de Trastornos Alimentarios (NEDA, por sus siglas en inglés) desconectó su chatbot llamado Tessa, dos días antes de que se configurara para reemplazar a los asociados humanos que manejaban la línea directa de la organi…

'Este robot causa daño': el nuevo chatbot de la Asociación Nacional de Trastornos de la Alimentación aconseja a las personas con trastornos alimentarios que pierdan peso
dailydot.com · 2023

Después de sindicalizarse, el personal de la línea telefónica de apoyo de la Asociación Nacional de Trastornos Alimentarios (NEDA) fue despedido abruptamente en marzo y reemplazado por un chatbot. Ayer, muchos en la comunidad más grande de …

La línea de ayuda para trastornos alimentarios de EE. UU. elimina el chatbot de IA por consejos dañinos
theguardian.com · 2023

La Asociación Nacional de Trastornos de la Alimentación (Neda) eliminó un chatbot de inteligencia artificial, "Tessa", luego de informes de que el chatbot estaba brindando consejos dañinos.

Neda ha sido objeto de críticas en los últimos mes…

La Asociación Nacional de Trastornos de la Alimentación cierra A.I. chatbot que planeó usar para reemplazar a los humanos diciendo que "puede haber dado" información dañina
fortune.com · 2023

Menos de una semana después de anunciar planes para reemplazar el personal de su línea de ayuda humana con un AI. chatbot llamado Tessa, la Asociación Nacional de Trastornos Alimentarios (NEDA) ha desconectado la tecnología.

"Llamó nuestra …

La línea de ayuda para trastornos alimentarios elimina el chatbot después de que su consejo sale terriblemente mal
gizmodo.com · 2023

Los chatbots de IA no son muy buenos para ofrecer apoyo emocional siendo, ya sabes, [no un humano] (https://gizmodo.com/ai-chatgpt-extinction-warning-letter-openai-sam-altman-1850486688), y —no se puede decir lo suficiente—no realmente inte…

La Asociación Nacional de Trastornos de la Alimentación elimina gradualmente la línea de ayuda humana y se convierte en chatbot
npr.org · 2023

Durante más de 20 años, la Asociación Nacional de Trastornos de la Alimentación (NEDA) ha operado una línea telefónica y una plataforma en línea para personas que buscan ayuda con la anorexia, la bulimia y otros trastornos de la alimentació…

La organización sin fines de lucro para trastornos alimentarios NEDA retira el chatbot por malos consejos
theregister.com · 2023

La Asociación Nacional de Trastornos de la Alimentación (NEDA) eliminó su chatbot Tessa por dar malos consejos a las personas.

En una publicación ahora viral, Sharon Maxwell dijo que el consejo de Tessa para recuperarse de manera segura de …

La línea de ayuda sin fines de lucro cambia a chatbots, luego cierra Rogue AI
forbes.com · 2023

La organización sin fines de lucro más grande de trastornos alimentarios del país está reemplazando al personal y los voluntarios con una solución en línea basada en IA, y el chatbot ya se cerró. Se despidió a media docena de empleados huma…

La línea de ayuda para trastornos alimentarios despide a AI por consejos dañinos después de despedir a humanos
nypost.com · 2023

Chatbot, estás despedido.

La Asociación Nacional de Trastornos de la Alimentación deshabilitó su chatbot, llamado Tessa, debido a las respuestas "dañinas" que le dio a la gente.

“Cada cosa que sugirió Tessa fueron cosas que llevaron al desa…

Chatbot listo para reemplazar la línea de ayuda para trastornos alimentarios de EE. UU. retirada por promover dietas
morningbrew.com · 2023

En esta edición de IA que resulta contraproducente: hoy, se suponía que un chatbot reemplazaría oficialmente a una de las líneas de ayuda más importantes para los trastornos alimentarios hasta que se desconectó a principios de esta semana p…

'Este robot causa daño': la línea de ayuda para trastornos alimentarios se vio obligada a abandonar el chatbot que empeoraba los trastornos alimentarios
dailywire.com · 2023

Una línea de ayuda nacional abandonó un chatbot de inteligencia artificial llamado Tessa después de que el consejo que dio empeorara las cosas para quienes sufrían trastornos alimentarios.

La Asociación Nacional de Trastornos de la Alimenta…

Se diseñó un chatbot para ayudar a prevenir los trastornos alimentarios. Luego dio consejos de dieta.
wsj.com · 2023

Un chatbot diseñado para ayudar a las personas que buscan ayuda para los trastornos alimentarios y problemas corporales ha sido desconectado después proporcionó a algunos usuarios consejos dietéticos.

El bot, llamado Tessa, operaba en el si…

Suspenden a un chatbot de trastornos alimentarios por dar consejos dañinos
wired.com · 2023

A diferencia de los chatbots como ChatGPT, Tessa no se creó con tecnologías de IA generativa. Está programado para ofrecer un programa interactivo llamado Body Positive, una herramienta basada en la terapia conductual cognitiva destinada a …

La línea de ayuda para trastornos alimentarios cierra el chatbot de IA que dio malos consejos
cbsnews.com · 2023

Un chatbot impulsado por IA que reemplazó a los empleados en una línea directa de trastornos alimentarios se cerró después de que brindó consejos dañinos a las personas que buscaban ayuda.

La saga comenzó a principios de este año cuando la …

NEDA retira el chatbot después de que los usuarios dicen que dio consejos de dieta perjudiciales
nbcnews.com · 2023

La Asociación Nacional de Trastornos de la Alimentación, una organización sin fines de lucro que apoya a las personas afectadas por trastornos de la alimentación, dijo que deshabilitó su chatbot de bienestar después de que dos usuarios info…

La Asociación Nacional de Trastornos de la Alimentación desconecta su chatbot de IA después de quejas de consejos "dañinos"
cnn.com · 2023

Una organización de prevención de trastornos alimentarios dijo que tuvo que desconectar su chatbot impulsado por IA después de que algunos se quejaron de que la herramienta comenzó a ofrecer consejos "dañinos" y "no relacionados" a quienes …

La Asociación Nacional de Trastornos de la Alimentación deshabilitó su chatbot después de que dio consejos de dieta perjudiciales
huffpost.com · 2023

La Asociación Nacional de Trastornos de la Alimentación deshabilitó el chatbot que reemplazó a su línea de ayuda administrada por personal y voluntarios después de que dos usuarios informaron haber recibido consejos dañinos.

A principios de…

La línea de ayuda para trastornos alimentarios que supuestamente planeaba despedir a su personal humano desactiva su chatbot después de que una mujer dijo que le dijo que contara calorías, se pesara y se midiera semanalmente
businessinsider.com · 2023

La Asociación Nacional de Trastornos de la Alimentación deshabilitó su chatbot después de que la asociación dijera que "podría haber brindado información dañina y no relacionada con el programa".

La semana pasada, se informó que la asociaci…

Chatbot para trastornos alimentarios es derribado después de dar consejos para bajar de peso; una organización sin fines de lucro culpa a los "malos actores"
yahoo.com · 2023

La Asociación Nacional de Trastornos de la Alimentación ha desconectado un chatbot de IA por usar un lenguaje "fuera del guión" y dar consejos para perder peso a las personas afectadas por trastornos de la alimentación.

La situación que afl…

El problemático chatbot de IA 'Tessa' que aconsejó cerrar el trastorno alimentario dañino
businesstoday.in · 2023

La Asociación Nacional de Trastornos de la Alimentación (NEDA) enfrentó recientemente críticas y se vio obligada a eliminar su chatbot Tessa debido a la preocupación de que estaba proporcionando información dañina e irrelevante, como se ind…

La línea de ayuda para trastornos alimentarios elimina el chatbot después de que promueve los trastornos alimentarios
futurism.com · 2023

Después de despedir a todo su personal humano y reemplazarlos con un chatbot, [Vice informa](https://www.vice.com/en /article/qjvk97/eating-disorder-helpline-disables-chatbot-for-harmful-responses-after-firen-human-staff) que una línea de a…

Chatbot de respuesta a trastornos alimentarios desconectado luego de acusaciones de daño
venturebeat.com · 2023

Las organizaciones que buscan complementar o incluso reemplazar a algunos empleados humanos de atención al cliente podrían querer revisar primero la historia de advertencia de la Asociación Nacional de Trastornos Alimentarios (NEDA) que se …

Chatbot de inteligencia artificial para trastornos alimentarios se deshabilitó después de dar consejos para perder peso - National
globalnews.ca · 2023

Un chatbot de inteligencia artificial destinado a ayudar a las personas con trastornos alimentarios fue eliminado después de informa que había comenzado a dar consejos sobre dietas dañinas.

La [Asociación Nacional de Trastornos Alimentarios…

Chatbot de IA eliminado después de dar 'consejos dañinos' sobre trastornos alimentarios
independent.co.uk · 2023

Una organización sin fines de lucro estadounidense eliminó su chatbot de inteligencia artificial después de que una publicación viral en las redes sociales revelara que ofrecía consejos dañinos en lugar de ayudar a las personas.

La Asociaci…

La línea de ayuda para trastornos alimentarios desactiva el chatbot de IA para recibir consejos "dañinos" días después de despedir al personal humano
timesnownews.com · 2023

Una organización sin fines de lucro de EE. UU. recurrió a la inteligencia artificial para proporcionar personal a su línea de ayuda de trastornos alimentarios el mes pasado, sin embargo, el experimento fracasó cuando el IA chatbot comenzó a…

Trastorno alimentario AI Chatbot suspendido después de decirle a la gente que perdiera peso
themessenger.com · 2023

La Asociación Nacional de Trastornos de la Alimentación (NEDA) ha suspendido un chatbot de IA después de que brindó consejos potencialmente dañinos a las personas que buscaban ayuda para sus trastornos de la alimentación.

El chatbot, llamad…

El personal de la línea de ayuda para trastornos alimentarios es despedido y reemplazado por un chatbot con IA defectuoso
itechpost.com · 2023

AI Chatbot en las líneas de ayuda

El chatbot defectuoso llamado Tessa bot estaba operando bajo una línea de ayuda para trastornos alimentarios que estaba destinada a ayudar a los usuarios que experimentaban angustia emocional. Sin embargo, …

Chatbot para trastornos alimentarios suspendido por consejos dañinos
editorialge.com · 2023

Se prohibió el uso de un chatbot por parte de una organización sin fines de lucro porque ofrecía consejos potencialmente dañinos para quienes buscan tratamiento para los trastornos alimentarios.

Se descubrió que Tessa, un programa utilizado…

Una mujer que probó el chatbot de inteligencia artificial de una línea de ayuda para trastornos alimentarios dice que "todas las cosas" sugeridas empeorarían su trastorno
yourtango.com · 2023

Después de generar indignación, la Asociación Nacional de Trastornos de la Alimentación revirtió su decisión de reemplazar a los miembros del personal de su Línea de ayuda con un IA Chatbot llamado Tessa.

Su decisión de brindar apoyo automa…

Resulta que los chatbots no son buenos para el asesoramiento sobre trastornos alimentarios
thecut.com · 2023

El auge de la IA ha introducido un número cada vez mayor de víctimas humanas, desde generar diversos modelos hasta crear novios que se ponen no envejecer ni hacer trampa. Por supuesto, fecha tu computadora, pero ¿tal vez deberíamos pensarlo…

El controvertido chatbot de inteligencia artificial 'Tessa' proporciona consejos para cerrar el trastorno alimentario nocivo
boxmining.com · 2023

La Asociación Nacional de Trastornos de la Alimentación (NEDA) recibió críticas y eliminó su [AI chatbot](https://boxmining.com/race-to-the-top-microsofts -chatgpt-and-bing-lead-the-way-in-ai-analysts-report/) Tessa después de que surgieran…

Una organización sin fines de lucro positiva para el cuerpo reemplazó al personal con un chatbot de IA: el movimiento resultó contraproducente
interestingengineering.com · 2023

El 31 de marzo, la Asociación Nacional de Trastornos de la Alimentación (NEDA), la organización sin fines de lucro más grande dedicada a los trastornos de la alimentación, decidió reemplazar a sus asociados humanos con el chatbot de intelig…

La Asociación Nacional de Trastornos de la Alimentación elimina el chatbot de IA después de que los usuarios dicen que les dio consejos sobre dietas peligrosas
people.com · 2023

La línea de ayuda de la Asociación Nacional de Trastornos de la Alimentación (NEDA) ha desactivado [su nuevo chatbot] (https://people.com/chatbot-replacing-humans-national-eating-disorders-association-helpline-7503455), llamado Tessa, despu…

Grupo de trastornos alimentarios extrae chatbot para compartir consejos sobre dietas
bbc.com · 2023

Una organización de EE. UU. que apoya a las personas con trastornos alimentarios suspendió el uso de un chatbot luego de informes de que compartió consejos dañinos.

La Asociación Nacional de Trastornos de la Alimentación (Neda) cerró recien…

NEDA no perdonó el error de Tessa y canceló el chatbot de IA después de la reacción violenta
dataconomy.com · 2023

A partir de ahora, el chatbot de IA de la línea de ayuda para trastornos alimentarios Tessa no responderá a la llamada de nadie después de su error dañino. La Asociación Nacional de Trastornos de la Alimentación cerró el chatbot de IA despu…

El chatbot de la línea directa de trastornos alimentarios se cerró debido a los consejos "dañinos" que ofreció después de reemplazar a los trabajadores
yahoo.com · 2023

Un [chatbot](https://go.redirectingat.com?id=74679X1524629&sref=https%3A%2F%2Fwww.buzzfeed.com%2Ftracewilliamcowen%2Feating-disorder-hotline-chatbot-shut-down-dañino-advice&url=https %3A%2F%2Fcomplex.com%2Ftag%2Ftech&xcust=7428125%7CBF-VERI…

Un chatbot de trastornos alimentarios se cerró después de que envió consejos "perjudiciales". Lo que sucedió y por qué su fracaso tiene una lección más amplia.
yahoo.com · 2023

Después de 24 años en servicio, la [Asociación Nacional de Trastornos Alimentarios] (https://www.nationaleatingdisorders.org/) (NEDA) anunció que cerraría su línea de ayuda basada en voluntarios. Los visitantes del sitio web de la organizac…

Lo que nos dice el desastre del chatbot del trastorno alimentario sobre la IA
yahoo.com · 2023

Creo firmemente que, al igual que todas las películas de ciencia ficción han predicho, la IA es desastrosa para la humanidad. Incluso si no se vuelve contra nosotros directamente y comienza a matarnos como M3GAN, ciertamente tiene el poder …

Una ONG con sede en EE. UU. elimina el chatbot de IA para prevenir los trastornos alimentarios. Este es el por qué
hindustantimes.com · 2023

Una ONG con sede en Nueva York dedicada a la prevención de los trastornos alimentarios eliminó un chatbot de IA luego de informes de que proporcionaba un dispositivo dañino.

La Asociación Nacional de Trastornos de la Alimentación (NEDA, por…

Chatbot da 'consejos dañinos' sobre el trastorno alimentario, ordena que se elimine
wionews.com · 2023

Un chatbot de inteligencia artificial llamado "Tessa" ha sido retirado por la Asociación Nacional de Trastornos de la Alimentación (Neda) tras las acusaciones de que estaba dando consejos perjudiciales.

Después de despedir a cuatro empleado…

El grupo reemplaza la línea directa con Chatbot, retira Chatbot por malos consejos
newser.com · 2023

Es un movimiento que podría deleitar a cualquier persona preocupada por los posibles efectos de destrucción de empleo de las herramientas de inteligencia artificial. Como informa BBC, la Asociación Nacional de Trastornos Alimentarios (NEDA)…

NEDA suspende AI Chatbot por dar consejos sobre trastornos alimentarios nocivos
psychiatrist.com · 2023

Relevancia clínica: la IA ni siquiera está cerca de estar lista para reemplazar a los humanos en la terapia de salud mental

  • La Asociación Nacional de Trastornos de la Alimentación (NEDA, por sus siglas en inglés) eliminó su chatbot de su l…
Cómo un chatbot se volvió rebelde
wsj.com · 2023

Un chatbot de salud mental que se desvió del guión---que brinda consejos dietéticos a las personas que buscan ayuda de un grupo de trastornos alimentarios---fue programado con IA generativa sin el conocimiento del grupo.

El bot, llamado Tes…

El chatbot destinado a ayudar a las personas con trastornos alimentarios se vuelve 'dañino'
wmar2news.com · 2023

Cuando la Dra. Ellen Fitzsimmons-Craft encabezó un chatbot para ayudar a las personas con trastornos alimentarios, nunca pensó que escucharía que el producto tendría el efecto contrario.

“Somos científicos y, por supuesto, no queremos difun…

Un chatbot de bienestar está fuera de línea después de su enfoque 'dañino' en la pérdida de peso
nytimes.com · 2023

La idea detrás de un proyecto de chatbot financiado por la Asociación Nacional de Trastornos de la Alimentación era que la tecnología podría liberarse para ayudar a las personas que buscan orientación sobre comportamientos alimentarios, dis…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents