Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Incidente 123: Epic Systems’s Sepsis Prediction Algorithms Revealed to Have High Error Rates on Seriously Ill Patients

Respondido
Descripción: Epic System's sepsis prediction algorithms was shown by investigators at the University of Michigan Hospital to have high rates of false positives and false negatives, allegedly delivering inaccurate and irrelevant information on patients, contrasting sharply with their published claims.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial

Entidades

Ver todas las entidades
Alleged: Epic Systems developed an AI system deployed by University of Michigan Hospital, which harmed sepsis patients.

Estadísticas de incidentes

ID
123
Cantidad de informes
5
Fecha del Incidente
2021-08-01
Editores
Sean McGregor, Khoa Lam
Applied Taxonomies
CSETv1, GMF, MIT

Clasificaciones de la Taxonomía CSETv1

Detalles de la Taxonomía

Incident Number

The number of the incident in the AI Incident Database.
 

123

Clasificaciones de la Taxonomía MIT

Machine-Classified
Detalles de la Taxonomía

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

7.3. Lack of capability or robustness

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. AI system safety, failures, and limitations

Entity

Which, if any, entity is presented as the main cause of the risk
 

AI

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Unintentional

Informes del Incidente

Cronología de Informes

El modelo de predicción de sepsis ampliamente utilizado de Epic se queda corto entre los pacientes de Michigan Medicine+1
Un fracaso épico: afirmaciones exageradas de IA en medicina
La inteligencia artificial puede mejorar la atención médica, pero no sin la supervisión humana+1
Los algoritmos están tomando decisiones sobre la atención médica, lo que solo puede empeorar el racismo médico
El modelo de predicción de sepsis ampliamente utilizado de Epic se queda corto entre los pacientes de Michigan Medicine

El modelo de predicción de sepsis ampliamente utilizado de Epic se queda corto entre los pacientes de Michigan Medicine

fiercehealthcare.com

Un fracaso épico: afirmaciones exageradas de IA en medicina

Un fracaso épico: afirmaciones exageradas de IA en medicina

mindmatters.ai

La inteligencia artificial puede mejorar la atención médica, pero no sin la supervisión humana

La inteligencia artificial puede mejorar la atención médica, pero no sin la supervisión humana

pewtrusts.org

Los algoritmos están tomando decisiones sobre la atención médica, lo que solo puede empeorar el racismo médico

Los algoritmos están tomando decisiones sobre la atención médica, lo que solo puede empeorar el racismo médico

aclu.org

Epic revisa el algoritmo de sepsis

Epic revisa el algoritmo de sepsis

beckershospitalreview.com

El modelo de predicción de sepsis ampliamente utilizado de Epic se queda corto entre los pacientes de Michigan Medicine
fiercehealthcare.com · 2021
Traducido por IA

Entre aproximadamente 38,500 hospitalizaciones, los investigadores dijeron que un algoritmo de predicción de sepsis patentado desarrollado por Epic omitió dos tercios de los pacientes con sepsis y generó numerosas alertas falsas. Si bien el…

Un fracaso épico: afirmaciones exageradas de IA en medicina
mindmatters.ai · 2021
Traducido por IA

Epic Systems, la compañía de registros médicos electrónicos más grande de Estados Unidos, mantiene la información médica de 180 millones de pacientes de EE. UU. (56 % de la población). Bajo el lema, “con el paciente en el corazón”, tiene un…

La inteligencia artificial puede mejorar la atención médica, pero no sin la supervisión humana
pewtrusts.org · 2021
Traducido por IA

Cada año 1,7 millones de adultos en los Estados Unidos desarrollan [sepsis](https://www.mayoclinic.org /diseases-conditions/sepsis/symptoms-causes/syc-20351214), una respuesta inmunitaria grave a la infección que acaba con la vida de unas 2…

Los algoritmos están tomando decisiones sobre la atención médica, lo que solo puede empeorar el racismo médico
aclu.org · 2022
Traducido por IA

La inteligencia artificial (IA) y los sistemas algorítmicos de toma de decisiones, algoritmos que analizan cantidades masivas de datos y hacen predicciones sobre el futuro, están afectando cada vez más la vida cotidiana de los estadounidens…

Epic revisa el algoritmo de sepsis
beckershospitalreview.com · 2022
Traducido por IA
Respuesta post-incidente de Naomi Diaz

Epic ha realizado cambios en su modelo de predicción de sepsis en un intento por mejorar su precisión y hacer que sus alertas sean más significativas para los médicos.

Un portavoz de Epic le dijo a Becker's en un comunicado enviado por corr…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Algorithmic Health Risk Scores Underestimated Black Patients’ Needs

A Health Care Algorithm Offered Less Care to Black Patients

Oct 2019 · 7 informes
IBM Watson for Oncology Criticized by Customers for Allegedly Unsafe and Inaccurate Cancer Treatment Recommendations

Report: IBM Watson delivered ‘unsafe and inaccurate’ cancer recommendations

Apr 2017 · 2 informes
Predictive Policing Biases of PredPol

Policing the Future

Nov 2015 · 17 informes
Incidente AnteriorSiguiente Incidente

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Algorithmic Health Risk Scores Underestimated Black Patients’ Needs

A Health Care Algorithm Offered Less Care to Black Patients

Oct 2019 · 7 informes
IBM Watson for Oncology Criticized by Customers for Allegedly Unsafe and Inaccurate Cancer Treatment Recommendations

Report: IBM Watson delivered ‘unsafe and inaccurate’ cancer recommendations

Apr 2017 · 2 informes
Predictive Policing Biases of PredPol

Policing the Future

Nov 2015 · 17 informes

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • ecd56df