Incidentes Asociados
El auto autónomo de Uber que atropelló y mató a una mujer que caminaba en bicicleta por una calle no fue diseñado para detectar a los "peatones que cruzan la calle imprudentemente".
Eso es según un expediente oficial publicado por la Junta Nacional de Seguridad en el Transporte de EE. UU. (NTSB) el martes.
El accidente de marzo de 2018 fue la primera muerte registrada por un vehículo totalmente autónomo. Las imágenes de video a bordo mostraban a la víctima, Elaine Herzberg, de 49 años, empujando su bicicleta por la noche a través de una carretera en Tempe, Arizona, momentos antes de ser golpeada por el SUV impulsado por IA a 39 MPH.
Ahora, una investigación de la NTSB sobre el accidente ha identificado un posible factor contribuyente importante: el código no pudo reconocerla como peatón, porque no estaba en un cruce designado obvio. En lugar de anticipar correctamente sus movimientos como una persona que cruza la calle, terminó chocando con ella.
“El diseño del sistema no incluyó una consideración para los peatones que cruzan imprudentemente”, declaró el organismo de control [PDF] en su informe. "En cambio, el sistema la había clasificado inicialmente como un objeto 'otro' al que no se le asignan objetivos".
Los sistemas de visión por computadora en los automóviles autónomos están capacitados para identificar cosas, como otros vehículos, árboles, letreros, bicicletas, etc., y tomar decisiones sobre qué hacer a continuación utilizando esa información. Parece que el software de Uber no pudo identificar a Herzberg ya que no había una etiqueta de clasificación para una persona que no usaba un punto de cruce adecuado y no pudo tomar las decisiones correctas.
Cuenta regresiva para el impacto
Unos 5,6 segundos antes de golpearla, el radar del automóvil detectó a Herzberg y, a los 5,2 segundos, el Lidar la detectó. Sin embargo, el sistema de aprendizaje automático la ignoró más o menos, pensando que era un objeto inmóvil que no se interponía en el camino del vehículo.
A medida que el vehículo robótico se acercaba, la categorizó de diversas maneras como un vehículo, una bicicleta o cualquier otra cosa que no se interpusiera en su camino, o que lo hiciera solo parcialmente.
Solo 1,2 segundos antes de golpearla, la identificó no solo como una bicicleta, sino también claramente en el camino de su viaje, momento en el que ya era demasiado tarde para cambiar de rumbo.
Crucialmente, el software fue "incapaz de predecir correctamente el camino" de Herzberg, señaló el informe. Tal vez si la hubiera identificado correctamente desde el principio como una persona que cruzaba la calle, podría haber disminuido drásticamente la velocidad o haber tratado de evitarla. Pero no anticipó la colisión porque, en su mayor parte, la consideró como un objeto desconocido que no se interponía en el camino.
Además, no lo olvide: el sistema de frenado de emergencia del SUV se deshabilitó deliberadamente porque cuando se encendía, el vehículo actuaba de manera errática, según Uber. El negocio del software dijo anteriormente que "se confía en que el operador del vehículo intervenga y tome medidas" en caso de emergencia.
El automóvil autónomo era totalmente autónomo en el momento del accidente, aunque tenía un conductor humano al volante. Una cámara interna captó al trabajador de Uber mirando hacia abajo y lejos de la carretera momentos antes del accidente, sin darse cuenta de la presencia de Herzberg antes de que fuera demasiado tarde.
A continuación se muestra un cronograma, producido por la NTSB, que detalla la toma de decisiones y la velocidad del automóvil en los segundos previos al accidente:
Tabla de eventos de la NTSB en el accidente de Uber
Tabla de eventos de la NTSB en el accidente de Uber
El informe llega solo dos semanas antes de que la junta celebre una reunión pública para “determinar la causa probable de un accidente que involucre a un peatón y un vehículo de prueba de Uber”, el 19 de noviembre.
La junta de seguridad también publicó más de 40 documentos con un total de al menos 430 páginas con varios fragmentos de evidencia de respaldo y relatos completos sobre cosas como las propiedades del vehículo y la cultura de seguridad interna en Uber.
El volcado masivo de datos también reveló que los autos sin conductor del negocio de los viajes compartidos estuvieron involucrados en 37 choques entre septiembre de 2016 y marzo de 2018, antes del accidente mortal. En estos 37 incidentes, todos los vehículos robotizados conducían en modo autónomo y, en 33 de estos casos, otros vehículos chocaron contra los autos autónomos.
'Tragedia'
El martes por la noche, un portavoz de Uber nos dijo: “Lamentamos el accidente de marzo de 2018 que involucró a uno de nuestros vehículos autónomos que le quitó la vida a Elaine Herzberg. A raíz de esta tragedia, el equipo de Uber Advanced Technologies Group adoptó mejoras críticas en el programa para priorizar aún más la seguridad.
"Valoramos profundamente la minuciosidad de la investigación de la NTSB sobre el accidente y esperamos revisar sus recomendaciones una vez emitidas después de la reunión de la junta de la NTSB a finales de este mes".
El Reg le preguntó a Uber cómo planeaba entrenar sus vehículos autónomos para detectar a los peatones imprudentes en el futuro, y el negocio nos dijo: "Realizamos cientos de pruebas en simulación y en nuestra pista de prueba para ayudarnos a mejorar la seguridad general de nuestro sistema. Estas pruebas incluyen tomar nuestro software y hacer que pase por escenarios que involucran situaciones complejas como cruce imprudente, frenado brusco y giros sin protección". ®