Incidentes Asociados
Los documentos internos de IBM Watson Health (NYSE:IBM) indican que el producto Watson for Oncology de la compañía a menudo devuelve "múltiples ejemplos de recomendaciones de tratamiento inseguras e incorrectas", según un nuevo informe de STAT News.
Los documentos provienen de diapositivas presentadas el año pasado por el subdirector de salud de IBM Watson Health, según el informe, e incluyen comentarios de los clientes que indicaron que el producto es "a menudo inexacto" y que sus recomendaciones sacan a la luz "preguntas serias sobre el proceso para construyendo contenido y la tecnología subyacente”.
Los problemas se atribuyeron a la capacitación del producto Watson recibida por los ingenieros y médicos de IBM en el Centro de Cáncer Memorial Sloan Kettering, que incluía pacientes y casos "sintéticos" o hipotéticos, en lugar de datos de pacientes reales, informa STAT.
IBM no ha reconocido públicamente los problemas, según el informe, y ha comunicado a sus clientes que todos los datos incluidos en Watson for Oncology se basan en pacientes reales y que el producto ha ganado elogios en todo el mundo por sus recomendaciones.
A principios de este año, el vicepresidente sénior de la división de soluciones cognitivas de IBM, John Kelly, dijo que Watson "ha ingerido todos los datos, pacientes históricos y resultados de Memorial Sloan" en un evento de IBM, y también comentó que el producto Watson de la empresa "va de maravilla". Informes STAT.
“Es fundamental que todos los involucrados sepan cuáles fueron los datos en los que se entrenó”, dijo Kelly, según el informe.
Pero los documentos internos indican que los problemas, que eran conocidos por los ejecutivos de la empresa, eran graves y sistémicos, informa STAT. Los problemas incluyeron que el producto hiciera recomendaciones en conflicto con las pautas nacionales de tratamiento, aunque no se informaron eventos adversos relacionados con las recomendaciones.
Los documentos también indicaron que los estudios internos del producto Watson for Oncology fueron diseñados para generar resultados favorables, según el informe.
Los comentarios de los clientes de los documentos internos incluyen comentarios que reflejan una seria insatisfacción de los clientes, según el informe.
“Este producto es una mierda. Lo compramos por marketing y con la esperanza de que lograra la visión. No podemos usarlo para la mayoría de los casos”, dijo un médico del Hospital Jupiter de Florida en los documentos, según STAT.
IBM ha defendido su software Watson for Oncology, publicando una declaración a STAT que indica que ha "aprendido y mejorado Watson Health en función de los comentarios continuos de los clientes, nueva evidencia científica y nuevos cánceres y alternativas de tratamiento", y que ha lanzado 11 actualizaciones de software. para mejorar la funcionalidad en el último año.
Pero los documentos internos indican que la capacitación y la efectividad del sistema Watson for Oncology fueron deficientes debido a la pequeña cantidad de casos y la inclusión de casos artificiales con solo uno o dos médicos que brindan recomendaciones para cada tipo de cáncer para el que fue diseñado, según al informe
La presentación interna incluyó un caso de ejemplo en el que a un hombre de 65 años con cáncer de pulmón y evidencia de sangrado severo se le recomendó quimioterapia y un medicamento llamado bevacizumab, que incluye una advertencia de "recuadro negro" que advierte que no debe administrarse a los pacientes. experimentando sangrado severo, según el informe.
“Oy vey. Cada vez que tienes un algoritmo que hace una recomendación peligrosa, eso es extremadamente preocupante. Quiero decir, la idea general es que se supone que los algoritmos mejoran la seguridad y la calidad”, dijo a STAT el director del Instituto de Ciencias Traslacionales Scripps, el Dr. Eric Topol, después de ser informado del error de ejemplo.
El informe también plantea dudas sobre si IBM Watson está siendo transparente sobre la fuente de su formación y si sus estudios internos reflejan correctamente sus capacidades.
“Lo que es un poco engañoso es que a todos se les ha hecho creer que este es el consenso de todo el grupo de expertos de Sloan Kettering. Pero, de hecho, es el consenso de... un pequeño subconjunto de todo el grupo de expertos. Deberían ser llamados por esto. Apuesto a que este es un riesgo calculado que tomaron. … Están jugando con la gente, pero está dentro del giro de marketing que se permite cada vez más en estos días, déjame decirlo de esa manera. Pero no todos pueden detectarlo, por lo que no es honesto”, dijo a STAT Nigam Shah, profesor asociado de medicina y datos biomédicos de Stanford, según el informe.
El mes pasado, surgieron informes de que, según se informa, IBM Watson Health estaba recortando la parte de su negocio que vende a hospitales debido a un mercado debilitado para las ofertas de atención médica basadas en el valor.