Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 1997

Incidents associés

Incident 2937 Rapports
Cruise’s Self-Driving Car Involved in a Multiple-Injury Collision at an San Francisco Intersection

Loading...
Rapport de rappel de sécurité Partie 573
static.nhtsa.gov · 2022

Description du défaut : Dans une circonstance rare décrite ci-dessous, une fonction de sécurité de la version précédente de l'ADS en question, connue sous le nom de planificateur réflexif, a provoqué un freinage brusque de l'AV lors de l'exécution d'un virage à gauche non protégé ("UPL" ) lorsque l'ADS a déterminé qu'un freinage brusque était nécessaire pour éviter une collision frontale grave avec un véhicule venant en sens inverse ou une autre utilisation de la route. Cruise a décidé de soumettre ce rapport volontaire dans un souci de transparence vis-à-vis du public et sur la base de ses discussions avec la NHTSA. Un seul incident de ce type s'est produit sur plus de 123 560 UPL sans conducteur effectués avant la mise à jour du logiciel. L'incident impliquait un véhicule venant en sens inverse circulant bien au-dessus de la limite de vitesse dans une voie restreinte de virage à droite / réservée aux autobus alors que le Cruise AV effectuait un UPL. Comme le Cruise AV a tourné à gauche et a commencé à traverser l'intersection, le Cruise AV a prédit que le véhicule venant en sens inverse, qui roulait à environ 40 mi/h dans la voie de virage à droite de 25 mi/h, tournerait à droite et directement dans la trajectoire du Cruise AV. Après que le Cruise AV a freiné pour éviter d'entrer en collision avec l'avant du véhicule venant en sens inverse, le véhicule venant en sens inverse est soudainement sorti de la voie de virage à droite et a traversé directement l'intersection en heurtant le panneau de custode arrière droit du Cruise AV. Cruise a déterminé que dans cette situation UPL unique, l'ADS devait choisir entre deux scénarios de risque différents et choisir celui qui présentait le moins de potentiel de collision grave à l'époque, avant le changement soudain de direction du véhicule venant en sens inverse. Cruise a déterminé que ce scénario ne se reproduirait pas après l'installation d'une mise à jour logicielle sur tous les véhicules concernés le 6 juillet 2022.

Description du risque pour la sécurité : Dans les rares circonstances décrites ci-dessus, un AV de croisière avec la version ADS en question peut, lors de la réalisation d'un UPL, ne pas avoir correctement prédit ni n'avoir été suffisamment réactif au changement soudain de trajectoire d'un usager de la route violer l'utilisation des voies délimitées et rouler à une vitesse excessive, ce qui pourrait augmenter le risque d'accident.

Chronologie : Le 3 juin 2022, un Cruise AV, fonctionnant en mode sans conducteur, a été impliqué dans une collision avec un autre véhicule. Le lendemain, Cruise a signalé l'incident à la NHTSA conformément à l'ordre général permanent de la NHTSA. Cruise a également immédiatement ouvert une enquête sur l'accident.

Dans le cadre de son enquête, Cruise a obtenu le rapport de police de cet accident. Le rapport de police a conclu, entre autres, que la « partie la plus responsable » de la collision était l'autre véhicule, qui « circulait dans la voie de virage à droite uniquement à une vitesse supérieure à ce qui est raisonnable ou prudent en raison de souci de la sécurité des autres sur la chaussée. Cependant, avec beaucoup de prudence et conformément à ses pratiques et politiques de sécurité, Cruise a mis en œuvre certaines mesures d'atténuation, notamment la désactivation des virages à gauche non protégés de la flotte et la réduction de l'ODD à une barrière géographique plus petite. Depuis la publication de la nouvelle mise à jour logicielle le 6 juillet 2022, Cruise a progressivement réintroduit les UPL dans sa flotte.

Au cours de son enquête, Cruise a rencontré la NHTSA à plusieurs reprises, fournissant des mises à jour et des analyses du crash en question et du comportement de l'ADS, ainsi que des explications sur les prochaines étapes et les mesures d'atténuation, comme indiqué ci-dessus. Cruise a présenté des informations à la NHTSA selon lesquelles, lors de l'incident, la fonction de planification réflexive de Cruise AV a reconnu un risque de collision frontale créé par un véhicule en excès de vitesse, ce qui a raisonnablement indiqué qu'il serait prendre à droite car c'était dans la voie de virage à droite. Le Cruise AV s'est arrêté pour éviter le risque de collision et créer un chemin pour l'autre véhicule. Le Cruise AV a dû choisir entre deux scénarios de risque différents et a choisi celui qui présentait le moins de potentiel de collision grave. [suite sur le rapport ci-joint]

Description du programme de réparation : Dans le cadre du processus normal d'amélioration continue et de publication de Cruise, le 6 juillet 2022, Cruise a publié une nouvelle mise à jour logicielle qui, entre autres, améliore les performances prédictives de l'ADS de diverses manières, y compris des conditions similaires à l'événement singulier et exceptionnel faisant l'objet du présent dépôt. Cruise a déterminé que l'ADS aurait sélectionné une trajectoire différente qui aurait évité la collision.

Description du calendrier de rappel : Les AV de croisière n'ont jamais été proposés à la vente à des tiers et appartiennent uniquement à Cruise ou à GM. En tant que tel, il n'y a aucun propriétaire ou revendeur à notifier en vertu du 49 C.F.R. Les parties 573 ou 577 et la partie 577 sont donc inapplicables.

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd