Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 1997

Incidentes Asociados

Incidente 2937 Reportes
Cruise’s Self-Driving Car Involved in a Multiple-Injury Collision at an San Francisco Intersection

Loading...
Informe de retiro por seguridad de la Parte 573
static.nhtsa.gov · 2022

Descripción del defecto: En una circunstancia rara descrita a continuación, una función de seguridad en la versión anterior del ADS en cuestión, conocida como el planificador reflexivo, hizo que el AV frenara bruscamente mientras realizaba un giro a la izquierda sin protección ("UPL" ) cuando el ADS determinó que era necesario frenar con fuerza para evitar una colisión frontal severa con un vehículo que se aproximaba u otro uso de la carretera. Cruise ha decidido presentar este informe voluntario en interés de la transparencia para el público y en base a sus conversaciones con la NHTSA. Solo se ha producido un incidente de este tipo en más de 123 560 UPL sin controlador realizadas antes del lanzamiento del software actualizado. El incidente involucró a un vehículo que se aproximaba y viajaba muy por encima del límite de velocidad en un carril restringido de giro a la derecha/solo para autobuses mientras el Cruise AV estaba realizando un UPL. Como el Cruise AV giró a la izquierda y comenzó a atravesar la intersección, el Cruise AV predijo que el vehículo que se aproximaba, que viajaba aproximadamente a 40 mph en el carril de giro a la derecha de 25 mph, giraría a la derecha y directamente en el camino del Cruise AV. Después de que el Cruise AV frenó para evitar chocar con la parte delantera del vehículo que se aproximaba, el vehículo que se aproximaba repentinamente se salió del carril de giro a la derecha y avanzó directamente a través de la intersección chocando con el panel trasero derecho del Cruise AV. Cruise ha determinado que en esta situación única de UPL, el ADS tuvo que decidir entre dos escenarios de riesgo diferentes y eligió el que tenía el menor potencial de colisión grave en ese momento, antes del repentino cambio de dirección del vehículo que se aproximaba. Cruise determinó que este escenario no se repetiría después de que se instalara una actualización de software en todos los vehículos afectados el 6 de julio de 2022.

Descripción del riesgo de seguridad: En las raras circunstancias descritas anteriormente, un Cruise AV con la versión ADS en cuestión puede, al realizar un UPL, no haber predicho correctamente ni haber sido lo suficientemente reactivo al cambio repentino de ruta de un usuario de la carretera. violar el uso del carril demarcado y operar a velocidad excesiva, lo que podría aumentar el riesgo de un choque.

Cronología: El 3 de junio de 2022, un Cruise AV, que operaba en modo sin conductor, estuvo involucrado en una colisión con otro vehículo. Al día siguiente, Cruise informó el incidente a la NHTSA de acuerdo con la Orden General Permanente de la NHTSA. Cruise también comenzó de inmediato una investigación del accidente.

Como parte de su investigación, Cruise obtuvo el informe policial de este accidente. El informe policial encontró, entre otras cosas, que la “parte con la mayor culpa” del choque fue el otro vehículo, que “viajaba en el... carril de giro a la derecha a una velocidad mayor que la razonable o prudente debido a consideración por la seguridad de los demás en la carretera”. Sin embargo, con mucha precaución y de acuerdo con sus prácticas y políticas de seguridad, Cruise implementó ciertas medidas de mitigación, incluida la desactivación de giros a la izquierda sin protección de la flota y la reducción del ODD a una geocerca más pequeña. Desde el lanzamiento de la nueva actualización de software el 6 de julio de 2022, Cruise ha reintroducido gradualmente los UPL en su flota.

Durante su investigación, Cruise se reunió con la NHTSA varias veces, brindando actualizaciones y análisis del accidente en cuestión y el comportamiento del ADS, así como explicaciones de los próximos pasos y medidas de mitigación, como se indicó anteriormente. Cruise presentó información a la NHTSA de que, durante el incidente, la función de planificador reflexivo de Cruise AV reconoció un riesgo de colisión frontal creado por un vehículo a alta velocidad, lo que indicó razonablemente que gire a la derecha porque estaba en el carril de giro a la derecha. El Cruise AV se detuvo para evitar el riesgo de colisión y crear un camino para el otro vehículo. El Cruise AV tuvo que decidir entre dos escenarios de riesgo diferentes y eligió el que tenía el menor potencial de colisión grave. [continúa en el informe adjunto]

Descripción del Programa de remedios: Como parte del curso normal del proceso de lanzamiento y mejora continua de Cruise, el 6 de julio de 2022, Cruise lanzó una nueva actualización de software que, entre otras cosas, mejora el rendimiento predictivo de ADS de varias maneras, incluyendo condiciones análogas al hecho singular y excepcional objeto de la presente presentación. Cruise ha determinado que el ADS habría seleccionado un camino diferente que evitó la colisión.

Descripción del cronograma de retiro: Los AV de Cruise nunca se han ofrecido a la venta a terceros y son propiedad exclusiva de Cruise o GM. Como tal, no hay propietarios ni distribuidores para notificar según 49 C.F.R. Por lo tanto, las partes 573 o 577 y la parte 577 no son aplicables.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd