Incidents associés
Une vue intérieure de l'opérateur Rafaela Vasquez quelques instants avant qu'un VUS Uber ne frappe une femme à Tempe, en Arizona, en mars 2018. Tempe Police Department/AP
Les conclusions préliminaires sur un accident mortel à Tempe par le National Transportation Safety Board mettent en évidence le grave «problème de transfert» dans l'automatisation des véhicules.
Première règle pour voler en toute sécurité : faites attention, même si vous pensez que vous n'en avez pas besoin. Selon une étude réalisée en 1994 par le National Transportation Safety Board, 31 des 37 accidents graves survenus sur les transporteurs aériens américains entre 1978 et 1990 impliquaient une « surveillance inadéquate ». Les pilotes, les officiers et les autres membres d'équipage ont négligé de contre-vérifier les instruments, de confirmer les entrées ou de parler lorsqu'ils ont détecté une erreur. Au cours de la période de cette étude, l'aviation est entrée dans l'ère de l'automatisation, comme l'a rapporté Maria Konnikova pour The New Yorker en 2014. Les commandes du poste de pilotage qui nécessitaient autrefois une vigilance constante se maintenaient désormais, ne demandant une intervention humaine qu'au besoin. L'idée était de réduire la marge d'erreur via la précision des machines, et c'était l'effet, à certains égards. Mais à mesure que les avions volaient de plus en plus eux-mêmes, les pilotes devenaient plus complaisants. Les ordinateurs avaient introduit un nouveau problème : l'attente hasardeuse qu'un opérateur humain puisse prendre le contrôle d'une machine automatisée dans les instants précédant la catastrophe, alors que son attention n'est pas autrement requise.
Des décennies plus tard, un nouveau rapport du NTSB pointe le même "problème de transfert", cette fois dans le contexte d'une voiture Uber autonome. Jeudi, le NTSB a publié ses conclusions préliminaires de l'enquête fédérale sur un accident mortel d'un véhicule Uber autonome à Tempe, en Arizona, dans la nuit du 18 mars. Le rapport a révélé que des capteurs sur le SUV Volvo XC-90 avaient détecté Elaine Herzberg, 49 ans, environ six secondes avant que le véhicule ne la heurte alors qu'elle traversait une route à sept voies autrement vide. Mais le véhicule, qui roulait en mode autonome avec un opérateur de secours au volant, ne s'est pas arrêté. Son système de freinage d'urgence automatique équipé en usine avait été désactivé, ont découvert les enquêteurs. Uber a également désactivé sa propre fonction de freinage d'urgence pendant que le système de conduite autonome était activé, afin de "réduire le potentiel de comportement erratique", selon le rapport. Des séquences vidéo ont montré le conducteur de secours regardant vers le bas juste avant que la voiture ne heurte. Dans une interview avec le NTSB, l'opératrice, Rafaela Vasquez, a déclaré qu'elle surveillait "l'interface de conduite autonome", et non son smartphone, comme l'avaient supposé des rapports antérieurs. En l'absence de l'un ou l'autre des systèmes de freinage d'urgence automatisés, l'entreprise s'attendait à ce que le conducteur de secours intervienne à tout moment pour éviter un accident. Mais dans ce cas, l'opérateur humain n'a freiné qu'après la collision. Herzberg a été tué. Dans mon enquête de mars sur le programme de test de véhicules autonomes d'Uber, trois anciens employés qui travaillaient comme opérateurs de remplacement ont décrit un environnement de travail ardu qui a conduit à l'épuisement, à l'ennui et à un faux sentiment de sécurité dans le système de conduite autonome. Avant l'accident de Tempe, les chauffeurs d'Uber à Tempe, Phoenix, Pittsburgh et San Francisco travaillaient par quarts de 8 à 10 heures, faisant des « boucles » répétitives avec peu de pauses. Ils ne conduisaient pas, c'était la voiture, tandis que les opérateurs devaient garder les yeux sur la route et les mains au-dessus du volant. Il y avait une politique stricte sans téléphone portable. "Il était facile de se contenter du système quand on est là depuis si longtemps." Vers la fin de 2017, alors qu'Uber augmentait son ambition d'accumuler des miles de test, l'unité de développement AV est passée d'une politique consistant à avoir deux opérateurs de secours dans la voiture à tout moment à un seul. Les opérateurs solo n'étaient pas censés toucher l'interface de l'ordinateur, qui montrait la vue LiDAR de la voiture et leur permettait de prendre des notes, sans arrêter la voiture au préalable. Mais parfois, c'était difficile de ne pas le faire, a déclaré Ryan Kelley, un ancien opérateur qui a travaillé à Pittsburgh de 2017 à 2018. «C'était agréable à regarder pour que vous puissiez voir si la voiture voyait ce que vous étiez et si elle allait s'arrêter. ", m'a-t-il dit par SMS. De plus, sans une deuxième personne pour rester vigilante et sans leurs yeux supplémentaires sur la route, "il était facile de se contenter du système lorsque vous êtes là depuis si longtemps", a déclaré Ian Bennett, un ancien opérateur de sauvegarde d'Uber qui a également a travaillé à Pittsburgh de 2016 à 2017. Surtout que les performances de la voiture se sont améliorées : « Quand rien de fou ne se passe avec la voiture pendant des mois, il est difficile de ne pas s'y habituer et de rester vigilant à 100 %.
En mars, j'ai parlé avec Bennett, Kelley et un autre ancien opérateur de sauvegarde anonyme basé à Tempe. Ils ont tous convenu que le décès aurait pu être évité si ces facteurs humains avaient été davantage pris en compte. Missy Cummings, directrice du Laboratoire des humains et de l'autonomie de l'Université Duke et ancienne pilote de chasse de la marine américaine, a consacré sa carrière à comprendre cette dynamique. Les résultats des conclusions du NTSB indiquent un manque flagrant de communication entre la voiture et l'homme à l'intérieur du véhicule, Cummin