Incidents associés
La voiture Uber autonome qui a percuté et tué une femme qui traversait une rue à vélo n'était pas conçue pour détecter les « piétons perturbateurs ».
C'est selon un dossier officiel publié mardi par le National Safety Transportation Board (NTSB) des États-Unis.
L'accident de mars 2018 a été le premier décès enregistré par un véhicule entièrement autonome. Des séquences vidéo embarquées montraient la victime, Elaine Herzberg, 49 ans, poussant son vélo la nuit sur une route à Tempe, en Arizona, quelques instants avant d'être heurtée par le SUV alimenté par l'IA à 39 MPH.
Maintenant, une enquête du NTSB sur l'accident a identifié un facteur contributif majeur probable : le code ne pouvait pas la reconnaître en tant que piétonne, car elle n'était pas à un passage désigné évident. Plutôt que d'anticiper correctement ses mouvements en tant que personne traversant la route, cela a fini par la heurter.
"La conception du système n'a pas pris en compte les piétons piétons", a déclaré le chien de garde [PDF] dans sa rédaction. "Au lieu de cela, le système l'avait initialement classée comme un" autre "objet auquel aucun objectif n'est assigné."
Les systèmes de vision par ordinateur des voitures autonomes sont formés pour identifier des éléments tels que d'autres véhicules, des arbres, des panneaux de signalisation, des vélos, etc., et prendre des décisions sur ce qu'il faut faire ensuite en utilisant ces informations. Il semble que le logiciel d'Uber n'ait pas été en mesure d'identifier Herzberg car il n'y avait pas d'étiquette de classification pour une personne n'utilisant pas un point de passage approprié, et il n'a pas été en mesure de prendre les bonnes décisions.
Compte à rebours avant l'impact
Environ 5,6 secondes avant de la heurter, le radar de la voiture a détecté Herzberg, et à 5,2 secondes, elle a été repérée par le Lidar. Cependant, le système d'apprentissage automatique l'a plus ou moins ignorée, la considérant comme un objet immobile qui ne gêne pas le véhicule.
Au fur et à mesure que le robot-véhicule se rapprochait, il la catégorisait de différentes manières comme un véhicule, un vélo ou quelque autre chose qui n'était pas, ou n'était que partiellement, sur son chemin.
À peine 1,2 seconde avant de la heurter, il l'a identifiée non seulement comme une bicyclette, mais aussi clairement sur la trajectoire de son déplacement, à quel point il était bien trop tard pour changer de cap.
Surtout, le logiciel était "incapable de prédire correctement le chemin" de Herzberg, note le rapport. Peut-être que s'il l'avait correctement identifiée dès le début comme une personne traversant la rue, il aurait pu ralentir considérablement ou essayer de l'éviter. Mais il n'a pas anticipé la collision car, pour la plupart, il la considérait comme un objet inconnu qui ne gênait pas son chemin.
N'oubliez pas non plus que le système de freinage d'urgence du SUV a été délibérément désactivé car, lorsqu'il était allumé, le véhicule se comportait de manière erratique, selon Uber. L'industrie du logiciel a précédemment déclaré que "le conducteur du véhicule est censé intervenir et prendre des mesures" en cas d'urgence.
La voiture autonome était entièrement autonome au moment de l'accident, même si elle avait un conducteur humain au volant. Une caméra interne a filmé le travailleur d'Uber regardant vers le bas et loin de la route quelques instants avant l'accident, ignorant la présence de Herzberg avant qu'il ne soit trop tard.
Vous trouverez ci-dessous un calendrier, produit par le NTSB, détaillant la prise de décision et la vitesse de la voiture dans les secondes précédant l'accident :
Tableau des événements du NTSB dans le crash d'Uber
Tableau des événements du NTSB dans le crash d'Uber
Le rapport intervient à peine deux semaines avant que le conseil ne tienne une réunion publique pour "déterminer la cause probable d'un accident impliquant un piéton et un véhicule d'essai Uber", le 19 novembre.
Le comité de sécurité a également publié plus de 40 documents totalisant au moins 430 pages avec divers éléments de preuve à l'appui et des comptes rendus complets sur des éléments tels que les propriétés du véhicule et la culture de sécurité interne chez Uber.
Le vidage massif de données a également révélé que les voitures autonomes de l'industrie du covoiturage avaient été impliquées dans 37 fracas entre septembre 2016 et mars 2018, avant l'accident mortel. Dans ces 37 incidents, tous les robots roulaient en mode autonome, et dans 33 de ces cas, d'autres véhicules ont percuté les voitures autonomes.
'La tragédie'
Mardi soir, un porte-parole d'Uber nous a dit : « Nous regrettons l'accident de mars 2018 impliquant l'un de nos véhicules autonomes qui a coûté la vie à Elaine Herzberg. À la suite de cette tragédie, l'équipe d'Uber Advanced Technologies Group a adopté des améliorations critiques du programme pour donner la priorité à la sécurité.
"Nous apprécions profondément la minutie de l'enquête du NTSB sur l'accident et nous sommes impatients d'examiner leurs recommandations une fois émises après la réunion du conseil d'administration du NTSB plus tard ce mois-ci."
El Reg a demandé à Uber comment il prévoyait de former ses véhicules autonomes pour détecter les jaywalkers à l'avenir, et l'entreprise nous a dit : "Nous effectuons des centaines de tests en simulation et sur notre piste d'essai pour nous aider à améliorer la sécurité globale de notre système. Ces tests inclure prendre notre logiciel et le faire passer par des scénarios qui impliquent des situations complexes comme le jaywalking, le freinage brusque et les virages non protégés." ®