Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Incidente 5: Collection of Robotic Surgery Malfunctions

Descripción: Study on database reports of robotic surgery malfunctions (8,061), including those ending in injury (1,391) and death (144), between 2000 and 2013.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial

Entidades

Ver todas las entidades
Alleged: Intuitive Surgical developed an AI system deployed by Hospitals y Doctors, which harmed patients.

Estadísticas de incidentes

ID
5
Cantidad de informes
12
Fecha del Incidente
2015-07-13
Editores
Sean McGregor
Applied Taxonomies
CSETv0, CSETv1, GMF, MIT

Clasificaciones de la Taxonomía CSETv0

Detalles de la Taxonomía

Problem Nature

Indicates which, if any, of the following types of AI failure describe the incident: "Specification," i.e. the system's behavior did not align with the true intentions of its designer, operator, etc; "Robustness," i.e. the system operated unsafely because of features or changes in its environment, or in the inputs the system received; "Assurance," i.e. the system could not be adequately monitored or controlled during operation.
 

Robustness, Assurance

Physical System

Where relevant, indicates whether the AI system(s) was embedded into or tightly associated with specific types of hardware.
 

Other:Medical system

Level of Autonomy

The degree to which the AI system(s) functions independently from human intervention. "High" means there is no human involved in the system action execution; "Medium" means the system generates a decision and a human oversees the resulting action; "low" means the system generates decision-support output and a human makes a decision and executes an action.
 

Low

Nature of End User

"Expert" if users with special training or technical expertise were the ones meant to benefit from the AI system(s)’ operation; "Amateur" if the AI systems were primarily meant to benefit the general public or untrained users.
 

Expert

Public Sector Deployment

"Yes" if the AI system(s) involved in the accident were being used by the public sector or for the administration of public goods (for example, public transportation). "No" if the system(s) were being used in the private sector or for commercial purposes (for example, a ride-sharing company), on the other.
 

No

Data Inputs

A brief description of the data that the AI system(s) used or were trained on.
 

Surgeon's directions, medical procedures

Clasificaciones de la Taxonomía CSETv1

Detalles de la Taxonomía

Incident Number

The number of the incident in the AI Incident Database.
 

5

AI Tangible Harm Level Notes

Notes about the AI tangible harm level assessment
 

No evidence that robots used AI. Robots are guided by surgeons to make precise cuts.

Special Interest Intangible Harm

An assessment of whether a special interest intangible harm occurred. This assessment does not consider the context of the intangible harm, if an AI was involved, or if there is characterizable class or subgroup of harmed entities. It is also not assessing if an intangible harm occurred. It is only asking if a special interest intangible harm occurred.
 

no

Notes (AI special interest intangible harm)

If for 5.5 you select unclear or leave it blank, please provide a brief description of why. You can also add notes if you want to provide justification for a level.
 

Only tangible, no intangible, harm was reported

Date of Incident Year

The year in which the incident occurred. If there are multiple harms or occurrences of the incident, list the earliest. If a precise date is unavailable, but the available sources provide a basis for estimating the year, estimate. Otherwise, leave blank. Enter in the format of YYYY
 

2000

Estimated Date

“Yes” if the data was estimated. “No” otherwise.
 

Yes

Clasificaciones de la Taxonomía MIT

Machine-Classified
Detalles de la Taxonomía

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

7.3. Lack of capability or robustness

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. AI system safety, failures, and limitations

Entity

Which, if any, entity is presented as the main cause of the risk
 

AI

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Unintentional

Informes del Incidente

Cronología de Informes

+2
Eventos adversos en la cirugía robótica: un estudio retrospectivo de 14 años de datos de la FDA
Cirugía robótica vinculada a 144 muertes desde 2000+5
La cirugía robótica se ha relacionado con 144 muertes en EE. UU. desde 2000
+1
Cirugía robótica vinculada a 144 muertes en EE.UU.
Cirugías robóticas: ¿realmente seguras?
Eventos adversos en la cirugía robótica: un estudio retrospectivo de 14 años de datos de la FDA

Eventos adversos en la cirugía robótica: un estudio retrospectivo de 14 años de datos de la FDA

arxiv.org

Eventos adversos en la cirugía robótica: un estudio retrospectivo de 14 años de datos de la FDA

Eventos adversos en la cirugía robótica: un estudio retrospectivo de 14 años de datos de la FDA

researchgate.net

Cirugía robótica vinculada a 144 muertes desde 2000

Cirugía robótica vinculada a 144 muertes desde 2000

technologyreview.com

La cirugía robótica se ha relacionado con 144 muertes en EE. UU. desde 2000

La cirugía robótica se ha relacionado con 144 muertes en EE. UU. desde 2000

gizmodo.com

Un estudio encuentra un número 'no despreciable' de complicaciones durante la cirugía robótica, 144 muertes desde 2000

Un estudio encuentra un número 'no despreciable' de complicaciones durante la cirugía robótica, 144 muertes desde 2000

techtimes.com

El estudio analiza los problemas experimentados en la cirugía robótica

El estudio analiza los problemas experimentados en la cirugía robótica

physicstoday.scitation.org

Cirugía robótica involucrada en 144 muertes en 14 años

Cirugía robótica involucrada en 144 muertes en 14 años

nbcnews.com

Las cirugías robóticas fallidas se han relacionado con la muerte de 144 pacientes

Las cirugías robóticas fallidas se han relacionado con la muerte de 144 pacientes

io9.gizmodo.com

La cirugía robótica puede ser el futuro, pero en este momento es consistentemente inestable

La cirugía robótica puede ser el futuro, pero en este momento es consistentemente inestable

splinternews.com

Cirugía robótica vinculada a 144 muertes en EE.UU.

Cirugía robótica vinculada a 144 muertes en EE.UU.

bbc.com

Cirujanos robóticos matan a 144 pacientes, hieren a 1.391, fallan 8.061 veces

Cirujanos robóticos matan a 144 pacientes, hieren a 1.391, fallan 8.061 veces

theregister.co.uk

Cirugías robóticas: ¿realmente seguras?

Cirugías robóticas: ¿realmente seguras?

christiantoday.com

Eventos adversos en la cirugía robótica: un estudio retrospectivo de 14 años de datos de la FDA
arxiv.org · 2015
Traducido por IA

Importancia: Comprender las causas y los impactos en el paciente de los eventos adversos quirúrgicos ayudará a mejorar los sistemas y las prácticas operativas para evitar incidentes en el futuro.

Objetivo: Determinar la frecuencia, las caus…

Eventos adversos en la cirugía robótica: un estudio retrospectivo de 14 años de datos de la FDA
researchgate.net · 2015
Traducido por IA

Copyright © 2015: Autor s. !

21

Apéndice

Infraregistro

El subregistro en la recopilación de datos es un problema bastante común en ciencias sociales, salud pública, criminología y

economía microe. Ocurre cuando el conteo de algún evento de …

Cirugía robótica vinculada a 144 muertes desde 2000
technologyreview.com · 2015
Traducido por IA

Los cirujanos robóticos estuvieron involucrados en la muerte de 144 personas entre 2000 y 2013, según los registros de la Administración de Alimentos y Medicamentos de EE. UU. Y algunas formas de cirugía robótica son mucho más riesgosas que…

La cirugía robótica se ha relacionado con 144 muertes en EE. UU. desde 2000
gizmodo.com · 2015
Traducido por IA

Toda cirugía conlleva un riesgo, y eso también es cierto cuando se trata de robots. Un nuevo estudio de datos de la Administración de Drogas y Alimentos de EE. UU. revela que una variedad de fallas se han relacionado con 144 muertes durante…

Un estudio encuentra un número 'no despreciable' de complicaciones durante la cirugía robótica, 144 muertes desde 2000
techtimes.com · 2015
Traducido por IA

Cerca

El uso de sistemas robóticos para algunas formas de cirugía es todavía un área relativamente nueva, pero han estado en uso el tiempo suficiente para que los investigadores del MIT, la Universidad de Illinois en Urbana-Champaign y el C…

El estudio analiza los problemas experimentados en la cirugía robótica
physicstoday.scitation.org · 2015
Traducido por IA

MIT Technology Review: según un estudio reciente, la mayoría de los procedimientos quirúrgicos robóticos realizados en los últimos 14 años se han realizado sin problemas. Sin embargo, un número significativo ha sufrido algún tipo de evento …

Cirugía robótica involucrada en 144 muertes en 14 años
nbcnews.com · 2015
Traducido por IA

Correos electrónicos de noticias de última hora Reciba alertas de noticias de última hora e informes especiales. Las noticias e historias que importan, entregadas las mañanas de lunes a viernes.

21 de julio de 2015, 4:04 p. m. GMT / Actuali…

Las cirugías robóticas fallidas se han relacionado con la muerte de 144 pacientes
io9.gizmodo.com · 2015
Traducido por IA

Un análisis independiente de los informes recopilados por la Administración de Drogas y Alimentos de los EE. UU. desde el año 2000 muestra que la cirugía robótica no es tan segura como algunas personas podrían suponer.

Las cirugías que invo…

La cirugía robótica puede ser el futuro, pero en este momento es consistentemente inestable
splinternews.com · 2015
Traducido por IA

La Administración de Alimentos y Medicamentos mantiene registros meticulosos sobre los casos de dispositivos médicos, incluidos los robots, que funcionan mal o actúan de una manera que no se supone que deben hacerlo.

Esos registros se almac…

Cirugía robótica vinculada a 144 muertes en EE.UU.
bbc.com · 2015
Traducido por IA

Derechos de autor de la imagen Science Photo Library Image caption Los robots quirúrgicos permiten a los médicos mejorar el tiempo de recuperación y minimizar las cicatrices.

Un estudio sobre la seguridad de los robots quirúrgicos vinculó e…

Cirujanos robóticos matan a 144 pacientes, hieren a 1.391, fallan 8.061 veces
theregister.co.uk · 2015
Traducido por IA

Algunos han promocionado la cirugía en humanos usando robots como una forma más segura de reparar sus entrañas, y ahora las cifras están listas para que usted las juzgue.

Un equipo de intelectuales universitarios contó la cantidad de errore…

Cirugías robóticas: ¿realmente seguras?
christiantoday.com · 2015
Traducido por IA

Se analizó una serie de informes presentados a la Administración de Drogas y Alimentos de los EE. UU. desde el año 2000 y se encontró que, después de todo, las cirugías robóticas no son seguras.

En los últimos años, ha aumentado el uso de r…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

COMPAS Algorithm Performs Poorly in Crime Recidivism Prediction

A Popular Algorithm Is No Better at Predicting Crimes Than Random People

May 2016 · 22 informes
Racist AI behaviour is not a new problem

Racist AI behaviour is not a new problem

Mar 1998 · 4 informes
Wikipedia Vandalism Prevention Bot Loop

Danger, danger! 10 alarming examples of AI gone wild

Feb 2017 · 6 informes
Incidente AnteriorSiguiente Incidente

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

COMPAS Algorithm Performs Poorly in Crime Recidivism Prediction

A Popular Algorithm Is No Better at Predicting Crimes Than Random People

May 2016 · 22 informes
Racist AI behaviour is not a new problem

Racist AI behaviour is not a new problem

Mar 1998 · 4 informes
Wikipedia Vandalism Prevention Bot Loop

Danger, danger! 10 alarming examples of AI gone wild

Feb 2017 · 6 informes

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • ecd56df