Entidades
Ver todas las entidadesEstadísticas de incidentes
Clasificaciones de la Taxonomía CSETv1
Detalles de la TaxonomíaIncident Number
545
Special Interest Intangible Harm
yes
Clasificaciones de la Taxonomía CSETv1_Annotator-2
Detalles de la TaxonomíaIncident Number
545
Special Interest Intangible Harm
yes
Notes (AI special interest intangible harm)
5.2: Tessa was originally a closed, rules-based system (based on decision trees). Cass AI later implemented an AI component without the knowledge or consent of the co-developers.
Date of Incident Year
2023
Informes del Incidente
Cronología de Informes
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Los ejecutivos de la Asociación Nacional de Trastornos de la Alimentación (NEDA) decidieron reemplazar a los trabajadores de la línea directa con un chatbot llamado Tessa cuatro días después de que los trabajadores se sindicalizaran.
NEDA, …
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
La Asociación Nacional de Trastornos Alimentarios (NEDA, por sus siglas en inglés) desconectó su chatbot llamado Tessa, dos días antes de que se configurara para reemplazar a los asociados humanos que manejaban la línea directa de la organi…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Después de sindicalizarse, el personal de la línea telefónica de apoyo de la Asociación Nacional de Trastornos Alimentarios (NEDA) fue despedido abruptamente en marzo y reemplazado por un chatbot. Ayer, muchos en la comunidad más grande de …
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Menos de una semana después de anunciar planes para reemplazar el personal de su línea de ayuda humana con un AI. chatbot llamado Tessa, la Asociación Nacional de Trastornos Alimentarios (NEDA) ha desconectado la tecnología.
"Llamó nuestra …
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Los chatbots de IA no son muy buenos para ofrecer apoyo emocional siendo, ya sabes, [no un humano] (https://gizmodo.com/ai-chatgpt-extinction-warning-letter-openai-sam-altman-1850486688), y —no se puede decir lo suficiente—no realmente inte…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Durante más de 20 años, la Asociación Nacional de Trastornos de la Alimentación (NEDA) ha operado una línea telefónica y una plataforma en línea para personas que buscan ayuda con la anorexia, la bulimia y otros trastornos de la alimentació…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
La Asociación Nacional de Trastornos de la Alimentación (Neda) eliminó un chatbot de inteligencia artificial, "Tessa", luego de informes de que el chatbot estaba brindando consejos dañinos.
Neda ha sido objeto de críticas en los últimos mes…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
La organización sin fines de lucro más grande de trastornos alimentarios del país está reemplazando al personal y los voluntarios con una solución en línea basada en IA, y el chatbot ya se cerró. Se despidió a media docena de empleados huma…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
La Asociación Nacional de Trastornos de la Alimentación (NEDA) eliminó su chatbot Tessa por dar malos consejos a las personas.
En una publicación ahora viral, Sharon Maxwell dijo que el consejo de Tessa para recuperarse de manera segura de …
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Chatbot, estás despedido.
La Asociación Nacional de Trastornos de la Alimentación deshabilitó su chatbot, llamado Tessa, debido a las respuestas "dañinas" que le dio a la gente.
“Cada cosa que sugirió Tessa fueron cosas que llevaron al desa…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
En esta edición de IA que resulta contraproducente: hoy, se suponía que un chatbot reemplazaría oficialmente a una de las líneas de ayuda más importantes para los trastornos alimentarios hasta que se desconectó a principios de esta semana p…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Una línea de ayuda nacional abandonó un chatbot de inteligencia artificial llamado Tessa después de que el consejo que dio empeorara las cosas para quienes sufrían trastornos alimentarios.
La Asociación Nacional de Trastornos de la Alimenta…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Un chatbot diseñado para ayudar a las personas que buscan ayuda para los trastornos alimentarios y problemas corporales ha sido desconectado después proporcionó a algunos usuarios consejos dietéticos.
El bot, llamado Tessa, operaba en el si…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
A diferencia de los chatbots como ChatGPT, Tessa no se creó con tecnologías de IA generativa. Está programado para ofrecer un programa interactivo llamado Body Positive, una herramienta basada en la terapia conductual cognitiva destinada a …
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Un chatbot impulsado por IA que reemplazó a los empleados en una línea directa de trastornos alimentarios se cerró después de que brindó consejos dañinos a las personas que buscaban ayuda.
La saga comenzó a principios de este año cuando la …
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
La Asociación Nacional de Trastornos de la Alimentación, una organización sin fines de lucro que apoya a las personas afectadas por trastornos de la alimentación, dijo que deshabilitó su chatbot de bienestar después de que dos usuarios info…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Una organización de prevención de trastornos alimentarios dijo que tuvo que desconectar su chatbot impulsado por IA después de que algunos se quejaron de que la herramienta comenzó a ofrecer consejos "dañinos" y "no relacionados" a quienes …
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Después de despedir a todo su personal humano y reemplazarlos con un chatbot, [Vice informa](https://www.vice.com/en /article/qjvk97/eating-disorder-helpline-disables-chatbot-for-harmful-responses-after-firen-human-staff) que una línea de a…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Un chatbot de inteligencia artificial destinado a ayudar a las personas con trastornos alimentarios fue eliminado después de informa que había comenzado a dar consejos sobre dietas dañinas.
La [Asociación Nacional de Trastornos Alimentarios…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
AI Chatbot en las líneas de ayuda
El chatbot defectuoso llamado Tessa bot estaba operando bajo una línea de ayuda para trastornos alimentarios que estaba destinada a ayudar a los usuarios que experimentaban angustia emocional. Sin embargo, …
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Se prohibió el uso de un chatbot por parte de una organización sin fines de lucro porque ofrecía consejos potencialmente dañinos para quienes buscan tratamiento para los trastornos alimentarios.
Se descubrió que Tessa, un programa utilizado…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
La Asociación Nacional de Trastornos de la Alimentación deshabilitó el chatbot que reemplazó a su línea de ayuda administrada por personal y voluntarios después de que dos usuarios informaron haber recibido consejos dañinos.
A principios de…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
La Asociación Nacional de Trastornos de la Alimentación deshabilitó su chatbot después de que la asociación dijera que "podría haber brindado información dañina y no relacionada con el programa".
La semana pasada, se informó que la asociaci…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
La Asociación Nacional de Trastornos de la Alimentación ha desconectado un chatbot de IA por usar un lenguaje "fuera del guión" y dar consejos para perder peso a las personas afectadas por trastornos de la alimentación.
La situación que afl…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
La Asociación Nacional de Trastornos de la Alimentación (NEDA) enfrentó recientemente críticas y se vio obligada a eliminar su chatbot Tessa debido a la preocupación de que estaba proporcionando información dañina e irrelevante, como se ind…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Las organizaciones que buscan complementar o incluso reemplazar a algunos empleados humanos de atención al cliente podrían querer revisar primero la historia de advertencia de la Asociación Nacional de Trastornos Alimentarios (NEDA) que se …
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Una organización sin fines de lucro estadounidense eliminó su chatbot de inteligencia artificial después de que una publicación viral en las redes sociales revelara que ofrecía consejos dañinos en lugar de ayudar a las personas.
La Asociaci…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Una organización sin fines de lucro de EE. UU. recurrió a la inteligencia artificial para proporcionar personal a su línea de ayuda de trastornos alimentarios el mes pasado, sin embargo, el experimento fracasó cuando el IA chatbot comenzó a…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
La Asociación Nacional de Trastornos de la Alimentación (NEDA) ha suspendido un chatbot de IA después de que brindó consejos potencialmente dañinos a las personas que buscaban ayuda para sus trastornos de la alimentación.
El chatbot, llamad…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Después de generar indignación, la Asociación Nacional de Trastornos de la Alimentación revirtió su decisión de reemplazar a los miembros del personal de su Línea de ayuda con un IA Chatbot llamado Tessa.
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
El auge de la IA ha introducido un número cada vez mayor de víctimas humanas, desde generar diversos modelos hasta crear novios que se ponen no envejecer ni hacer trampa. Por supuesto, fecha tu computadora, pero ¿tal vez deberíamos pensarlo…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
La Asociación Nacional de Trastornos de la Alimentación (NEDA) recibió críticas y eliminó su [AI chatbot](https://boxmining.com/race-to-the-top-microsofts -chatgpt-and-bing-lead-the-way-in-ai-analysts-report/) Tessa después de que surgieran…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
El 31 de marzo, la Asociación Nacional de Trastornos de la Alimentación (NEDA), la organización sin fines de lucro más grande dedicada a los trastornos de la alimentación, decidió reemplazar a sus asociados humanos con el chatbot de intelig…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
La línea de ayuda de la Asociación Nacional de Trastornos de la Alimentación (NEDA) ha desactivado [su nuevo chatbot] (https://people.com/chatbot-replacing-humans-national-eating-disorders-association-helpline-7503455), llamado Tessa, despu…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Una organización de EE. UU. que apoya a las personas con trastornos alimentarios suspendió el uso de un chatbot luego de informes de que compartió consejos dañinos.
La Asociación Nacional de Trastornos de la Alimentación (Neda) cerró recien…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
A partir de ahora, el chatbot de IA de la línea de ayuda para trastornos alimentarios Tessa no responderá a la llamada de nadie después de su error dañino. La Asociación Nacional de Trastornos de la Alimentación cerró el chatbot de IA despu…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Un [chatbot](https://go.redirectingat.com?id=74679X1524629&sref=https%3A%2F%2Fwww.buzzfeed.com%2Ftracewilliamcowen%2Feating-disorder-hotline-chatbot-shut-down-dañino-advice&url=https %3A%2F%2Fcomplex.com%2Ftag%2Ftech&xcust=7428125%7CBF-VERI…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Después de 24 años en servicio, la [Asociación Nacional de Trastornos Alimentarios] (https://www.nationaleatingdisorders.org/) (NEDA) anunció que cerraría su línea de ayuda basada en voluntarios. Los visitantes del sitio web de la organizac…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Creo firmemente que, al igual que todas las películas de ciencia ficción han predicho, la IA es desastrosa para la humanidad. Incluso si no se vuelve contra nosotros directamente y comienza a matarnos como M3GAN, ciertamente tiene el poder …
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Una ONG con sede en Nueva York dedicada a la prevención de los trastornos alimentarios eliminó un chatbot de IA luego de informes de que proporcionaba un dispositivo dañino.
La Asociación Nacional de Trastornos de la Alimentación (NEDA, por…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Un chatbot de inteligencia artificial llamado "Tessa" ha sido retirado por la Asociación Nacional de Trastornos de la Alimentación (Neda) tras las acusaciones de que estaba dando consejos perjudiciales.
Después de despedir a cuatro empleado…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Es un movimiento que podría deleitar a cualquier persona preocupada por los posibles efectos de destrucción de empleo de las herramientas de inteligencia artificial. Como informa BBC, la Asociación Nacional de Trastornos Alimentarios (NEDA)…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Relevancia clínica: la IA ni siquiera está cerca de estar lista para reemplazar a los humanos en la terapia de salud mental
- La Asociación Nacional de Trastornos de la Alimentación (NEDA, por sus siglas en inglés) eliminó su chatbot de su l…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Un chatbot de salud mental que se desvió del guión---que brinda consejos dietéticos a las personas que buscan ayuda de un grupo de trastornos alimentarios---fue programado con IA generativa sin el conocimiento del grupo.
El bot, llamado Tes…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Cuando la Dra. Ellen Fitzsimmons-Craft encabezó un chatbot para ayudar a las personas con trastornos alimentarios, nunca pensó que escucharía que el producto tendría el efecto contrario.
“Somos científicos y, por supuesto, no queremos difun…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
La idea detrás de un proyecto de chatbot financiado por la Asociación Nacional de Trastornos de la Alimentación era que la tecnología podría liberarse para ayudar a las personas que buscan orientación sobre comportamientos alimentarios, dis…
Variantes
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents