Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Incidente 20: A Collection of Tesla Autopilot-Involved Crashes

Descripción: Multiple unrelated car accidents result in varying levels of harm have been occurred while a Tesla's autopilot was in use.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial

Entidades

Ver todas las entidades
Presunto: un sistema de IA desarrollado e implementado por Tesla, perjudicó a Motorists.

Estadísticas de incidentes

ID
20
Cantidad de informes
22
Fecha del Incidente
2016-06-30
Editores
Sean McGregor
Applied Taxonomies
CSETv0, CSETv1, GMF, MIT

Clasificaciones de la Taxonomía CSETv0

Detalles de la Taxonomía

Problem Nature

Indicates which, if any, of the following types of AI failure describe the incident: "Specification," i.e. the system's behavior did not align with the true intentions of its designer, operator, etc; "Robustness," i.e. the system operated unsafely because of features or changes in its environment, or in the inputs the system received; "Assurance," i.e. the system could not be adequately monitored or controlled during operation.
 

Specification, Robustness

Physical System

Where relevant, indicates whether the AI system(s) was embedded into or tightly associated with specific types of hardware.
 

Vehicle/mobile robot

Level of Autonomy

The degree to which the AI system(s) functions independently from human intervention. "High" means there is no human involved in the system action execution; "Medium" means the system generates a decision and a human oversees the resulting action; "low" means the system generates decision-support output and a human makes a decision and executes an action.
 

Medium

Nature of End User

"Expert" if users with special training or technical expertise were the ones meant to benefit from the AI system(s)’ operation; "Amateur" if the AI systems were primarily meant to benefit the general public or untrained users.
 

Amateur

Public Sector Deployment

"Yes" if the AI system(s) involved in the accident were being used by the public sector or for the administration of public goods (for example, public transportation). "No" if the system(s) were being used in the private sector or for commercial purposes (for example, a ride-sharing company), on the other.
 

No

Data Inputs

A brief description of the data that the AI system(s) used or were trained on.
 

360 Ultrasonic Sonar, Image Recognition Camera, Long Range Radar, traffic patterns

Clasificaciones de la Taxonomía CSETv1

Detalles de la Taxonomía

Incident Number

The number of the incident in the AI Incident Database.
 

20

Special Interest Intangible Harm

An assessment of whether a special interest intangible harm occurred. This assessment does not consider the context of the intangible harm, if an AI was involved, or if there is characterizable class or subgroup of harmed entities. It is also not assessing if an intangible harm occurred. It is only asking if a special interest intangible harm occurred.
 

no

Date of Incident Year

The year in which the incident occurred. If there are multiple harms or occurrences of the incident, list the earliest. If a precise date is unavailable, but the available sources provide a basis for estimating the year, estimate. Otherwise, leave blank. Enter in the format of YYYY
 

2016

Date of Incident Month

The month in which the incident occurred. If there are multiple harms or occurrences of the incident, list the earliest. If a precise date is unavailable, but the available sources provide a basis for estimating the month, estimate. Otherwise, leave blank. Enter in the format of MM
 

05

Date of Incident Day

The day on which the incident occurred. If a precise date is unavailable, leave blank. Enter in the format of DD
 

07

Estimated Date

“Yes” if the data was estimated. “No” otherwise.
 

No

Clasificaciones de la Taxonomía MIT

Machine-Classified
Detalles de la Taxonomía

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

7.3. Lack of capability or robustness

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. AI system safety, failures, and limitations

Entity

Which, if any, entity is presented as the main cause of the risk
 

AI

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Unintentional

Informes del Incidente

Cronología de Informes

+1
Conductor de Tesla muere en accidente con piloto automático activo, NHTSA investiga
+17
Cómo un auto autónomo de Uber que mata a un peatón podría afectar las acciones de Tesla
+2
Policía: Tesla que golpeó a Mass. El vehículo de un policía estatal estaba en piloto automático
Conductor de Tesla muere en accidente con piloto automático activo, NHTSA investiga

Conductor de Tesla muere en accidente con piloto automático activo, NHTSA investiga

theverge.com

Cómo un auto autónomo de Uber que mata a un peatón podría afectar las acciones de Tesla

Cómo un auto autónomo de Uber que mata a un peatón podría afectar las acciones de Tesla

forbes.com

¿Se puede demandar a un Robocar?

¿Se puede demandar a un Robocar?

theatlantic.com

¿Quién tiene la culpa cuando los coches robot matan?

¿Quién tiene la culpa cuando los coches robot matan?

trustedreviews.com

Tesla dice que el vehículo accidentado había estado en piloto automático antes del accidente

Tesla dice que el vehículo accidentado había estado en piloto automático antes del accidente

reuters.com

Conductor de Tesla supuestamente reportó problemas de piloto automático al distribuidor varias veces antes del accidente fatal

Conductor de Tesla supuestamente reportó problemas de piloto automático al distribuidor varias veces antes del accidente fatal

thedrive.com

Fatal Tesla Crash plantea nuevas preguntas sobre el sistema de piloto automático

Fatal Tesla Crash plantea nuevas preguntas sobre el sistema de piloto automático

nytimes.com

Tesla: el piloto automático estaba encendido durante el accidente

Tesla: el piloto automático estaba encendido durante el accidente

aljazeera.com

Tesla Model X en piloto automático mató a un conductor. Los funcionarios no están satisfechos con la forma en que Tesla lo manejó.

Tesla Model X en piloto automático mató a un conductor. Los funcionarios no están satisfechos con la forma en que Tesla lo manejó.

futurism.com

Las muertes de Tesla y Uber plantean preguntas sobre los peligros de la conducción parcialmente autónoma

Las muertes de Tesla y Uber plantean preguntas sobre los peligros de la conducción parcialmente autónoma

wsj.com

Muere ingeniero de Apple en auto de Tesla operando en modo sin conductor

Muere ingeniero de Apple en auto de Tesla operando en modo sin conductor

dezeen.com

La familia del conductor de Tesla muerto en un accidente del Model X en piloto automático se prepara para demandar a Tesla

La familia del conductor de Tesla muerto en un accidente del Model X en piloto automático se prepara para demandar a Tesla

electrek.co

Tesla criticado por culpar al conductor de la muerte del piloto automático

Tesla criticado por culpar al conductor de la muerte del piloto automático

industryweek.com

Después de varias muertes, Tesla sigue enviando mensajes contradictorios sobre el piloto automático

Después de varias muertes, Tesla sigue enviando mensajes contradictorios sobre el piloto automático

digg.com

Tesla Model S estaba en piloto automático, dice conductor de Utah a la policía

Tesla Model S estaba en piloto automático, dice conductor de Utah a la policía

usatoday.com

Una inspección más detallada de las estadísticas de seguridad del piloto automático de Tesla

Una inspección más detallada de las estadísticas de seguridad del piloto automático de Tesla

medium.com

Elon Musk dice que los accidentes de Tesla no deberían ser noticia de primera plana. He aquí por qué deberían hacerlo.

Elon Musk dice que los accidentes de Tesla no deberían ser noticia de primera plana. He aquí por qué deberían hacerlo.

recode.net

VERIFICACIÓN DE HECHOS: las afirmaciones de seguridad de Tesla no son del todo correctas

VERIFICACIÓN DE HECHOS: las afirmaciones de seguridad de Tesla no son del todo correctas

phys.org

HWY18FH011 Preliminar

HWY18FH011 Preliminar

ntsb.gov

Policía: Tesla que golpeó a Mass. El vehículo de un policía estatal estaba en piloto automático

Policía: Tesla que golpeó a Mass. El vehículo de un policía estatal estaba en piloto automático

nbcboston.com

Tesla en 'Autopilot' golpea un vehículo policial que golpea una ambulancia, el conductor posiblemente borracho: policía

Tesla en 'Autopilot' golpea un vehículo policial que golpea una ambulancia, el conductor posiblemente borracho: policía

mercurynews.com

Tesla con piloto automático golpea un coche de policía: el conductor admite que estaba viendo una película

Tesla con piloto automático golpea un coche de policía: el conductor admite que estaba viendo una película

arstechnica.com

Conductor de Tesla muere en accidente con piloto automático activo, NHTSA investiga
theverge.com · 2016
Traducido por IA

Un Tesla Model S con el sistema de piloto automático activado estuvo involucrado en un accidente fatal, la primera fatalidad conocida en un Tesla donde el piloto automático estaba activo. La compañía reveló el accidente en una publicación d…

Cómo un auto autónomo de Uber que mata a un peatón podría afectar las acciones de Tesla
forbes.com · 2018
Traducido por IA

Un auto autónomo de Uber mató a un peatón en Arizona el domingo por la noche. Fue en modo de conducción autónoma, ocurrió alrededor de las 10 p.m. y había un operador de vehículo en el asiento delantero. En una declaración enviada por corre…

¿Se puede demandar a un Robocar?
theatlantic.com · 2018
Traducido por IA

Los defensores de la autonomía tienden a citar mejoras generales en la seguridad vial en un futuro de automóviles autónomos. El noventa y cuatro por ciento de los accidentes automovilísticos son causados por errores del conductor, y tanto l…

¿Quién tiene la culpa cuando los coches robot matan?
trustedreviews.com · 2018
Traducido por IA

Es el año 2025. Su automóvil sin conductor acaba de chocar contra un árbol a 55 mph porque su computadora incorporada valora la vida de un peatón por encima de la suya. Tus heridas son el resultado de unas pocas líneas de código que fueron …

Tesla dice que el vehículo accidentado había estado en piloto automático antes del accidente
reuters.com · 2018
Traducido por IA

LOS GATOS, California (Reuters) - Tesla Inc (TSLA.O) dijo el viernes que un Tesla Model X involucrado en un accidente fatal en California la semana pasada había activado su sistema de piloto automático, lo que generó nuevas preguntas sobre …

Conductor de Tesla supuestamente reportó problemas de piloto automático al distribuidor varias veces antes del accidente fatal
thedrive.com · 2018
Traducido por IA

Tesla confirmó que su función de conducción autónoma, Autopilot, estuvo involucrada en un accidente fatal que ocurrió en California. Walter Huang, el conductor del Model X, golpeó un atenuador de tráfico comprimido y murió a pesar de tener …

Fatal Tesla Crash plantea nuevas preguntas sobre el sistema de piloto automático
nytimes.com · 2018
Traducido por IA

La compañía dijo que el conductor, Wei Huang, de 38 años, ingeniero de software de Apple, había recibido varias advertencias visuales y audibles para que volviera a poner las manos en el volante, pero no lo hizo, a pesar de que su modelo X …

Tesla: el piloto automático estaba encendido durante el accidente
aljazeera.com · 2018
Traducido por IA

El fabricante de automóviles eléctricos Tesla ha confirmado que su función de "piloto automático" se activó durante un accidente fatal la semana pasada, un desarrollo que exacerbará las preocupaciones sobre la seguridad de los vehículos fut…

Tesla Model X en piloto automático mató a un conductor. Los funcionarios no están satisfechos con la forma en que Tesla lo manejó.
futurism.com · 2018
Traducido por IA

Tesla se está tomando muy en serio las relaciones públicas después de que uno de sus vehículos en modo autónomo matara a un pasajero recientemente.

El accidente ocurrió a las 9:27 a. m. en la autopista 101 cerca de Mountain View, California…

Las muertes de Tesla y Uber plantean preguntas sobre los peligros de la conducción parcialmente autónoma
wsj.com · 2018
Traducido por IA

A principios de esta semana, la policía de Tempe, Arizona, publicó un video del fatal accidente que involucró a un peatón y un vehículo autónomo de Uber. Pedimos a los expertos que analizaran las imágenes y explicaran qué factores pueden ha…

Muere ingeniero de Apple en auto de Tesla operando en modo sin conductor
dezeen.com · 2018
Traducido por IA

La compañía de automóviles eléctricos Tesla ha confirmado que un accidente fatal reciente que involucró a uno de sus vehículos ocurrió mientras el automóvil estaba en modo de piloto automático.

Tesla publicó una publicación de blog la seman…

La familia del conductor de Tesla muerto en un accidente del Model X en piloto automático se prepara para demandar a Tesla
electrek.co · 2018
Traducido por IA

La seguridad del piloto automático de Tesla volvió a estar en primer plano después de que se confirmara que el sistema de asistencia al conductor estaba activado durante el fatal accidente que mató al propietario de un Model X en Mountain V…

Tesla criticado por culpar al conductor de la muerte del piloto automático
industryweek.com · 2018
Traducido por IA

Los defensores de la seguridad del consumidor y los expertos en vehículos autónomos criticaron a Tesla Inc. por emitir otra declaración sobre la muerte de un cliente que culpó a la falta de atención del conductor.

Días después de publicar u…

Después de varias muertes, Tesla sigue enviando mensajes contradictorios sobre el piloto automático
digg.com · 2018
Traducido por IA

Después de hacer repetidas declaraciones sobre una investigación gubernamental en curso sobre un accidente fatal que involucró a Autopilot, Tesla fue expulsada de la investigación que lleva a cabo la Junta Nacional de Seguridad en el Transp…

Tesla Model S estaba en piloto automático, dice conductor de Utah a la policía
usatoday.com · 2018
Traducido por IA

CERRAR La Junta Nacional de Seguridad en el Transporte está investigando un accidente e incendio que involucró a un automóvil Telsa Model S. Dos adolescentes murieron en un accidente en Fort Lauderdale, Florida el martes. No se espera que l…

Una inspección más detallada de las estadísticas de seguridad del piloto automático de Tesla
medium.com · 2018
Traducido por IA

Una inspección más detallada de las estadísticas de seguridad del piloto automático de Tesla

Fuente: Tesla, Inc.

La industria automotriz está al comienzo de un gran experimento. Si tiene éxito total, la humanidad podría ser conducida a una …

Elon Musk dice que los accidentes de Tesla no deberían ser noticia de primera plana. He aquí por qué deberían hacerlo.
recode.net · 2018
Traducido por IA

Los defensores de la tecnología de autos sin conductor a menudo promocionan una estadística: más de 37,000 personas murieron en accidentes automovilísticos cada año durante al menos los últimos dos años.

Los autos sin conductor ayudarían a …

VERIFICACIÓN DE HECHOS: las afirmaciones de seguridad de Tesla no son del todo correctas
phys.org · 2018
Traducido por IA

En esta foto de archivo del 29 de septiembre de 2015, Elon Musk, director ejecutivo de Tesla Motors Inc., presenta el auto Model X en la sede de la compañía en Fremont, California. Durante años, Tesla se ha jactado de que sus autos y SUV so…

HWY18FH011 Preliminar
ntsb.gov · 2018
Traducido por IA

Resumen ejecutivo Resumen ejecutivo ​El viernes 23 de marzo de 2018, alrededor de las 9:27 a. Carretera 101 (US-101) en Mountain View, condado de Santa Clara, California. Cuando el vehículo se acercó al cruce de la US-101/State Highway (SH-…

Policía: Tesla que golpeó a Mass. El vehículo de un policía estatal estaba en piloto automático
nbcboston.com · 2020
Traducido por IA

Maria Smith se sentó en su porche delantero en Holbrook y recordó su aterradora experiencia en diciembre pasado mientras conducía a casa desde la universidad.

Un policía estatal de Massachusetts acababa de detener al joven de 21 años alrede…

Tesla en 'Autopilot' golpea un vehículo policial que golpea una ambulancia, el conductor posiblemente borracho: policía
mercurynews.com · 2020
Traducido por IA

La policía está investigando la posibilidad de conducir ebrio en el caso de un conductor de Tesla en Arizona que dijo que estaba usando el controvertido sistema de "piloto automático" del fabricante de automóviles eléctricos del Área de la …

Tesla con piloto automático golpea un coche de policía: el conductor admite que estaba viendo una película
arstechnica.com · 2020
Traducido por IA

La policía de Carolina del Norte presentó cargos contra un conductor cuyo Tesla se estrelló contra un coche de policía la madrugada del miércoles, informa la televisión CBS 17 de Raleigh. El conductor admitió ante los oficiales que había ac…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Google admits its self driving car got it wrong: Bus crash was caused by software

Google admits its self driving car got it wrong: Bus crash was caused by software

Sep 2016 · 28 informes
Uber AV Killed Pedestrian in Arizona

Tempe police release report, audio, photo

Mar 2018 · 25 informes
Near-miss between two Self-Driving Cars

Google, Delphi Self-Driving Cars Getting Dinged in California

May 2015 · 11 informes
Incidente AnteriorSiguiente Incidente

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Google admits its self driving car got it wrong: Bus crash was caused by software

Google admits its self driving car got it wrong: Bus crash was caused by software

Sep 2016 · 28 informes
Uber AV Killed Pedestrian in Arizona

Tempe police release report, audio, photo

Mar 2018 · 25 informes
Near-miss between two Self-Driving Cars

Google, Delphi Self-Driving Cars Getting Dinged in California

May 2015 · 11 informes

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • ecd56df