Incidentes Asociados
El accidente fatal que mató a la peatona Elaine Herzberg en Tempe, Arizona, en marzo ocurrió debido a un error de software en la tecnología de vehículos autónomos de Uber, informó el lunes Amir Efrati de The Information. Según dos fuentes anónimas que hablaron con Efrati, los sensores de Uber, de hecho, detectaron a Herzberg cuando cruzaba la calle con su bicicleta. Desafortunadamente, el software la clasificó como un "falso positivo" y decidió que no era necesario detenerla.
Distinguir entre objetos reales e ilusorios es uno de los desafíos más básicos del desarrollo de software para automóviles autónomos. El software necesita detectar objetos como automóviles, peatones y rocas grandes en su camino y detenerse o desviarse para evitarlos. Sin embargo, puede haber otros objetos, como una bolsa de plástico en el camino o un bote de basura en la acera, que un automóvil puede ignorar con seguridad. Las anomalías de los sensores también pueden hacer que el software detecte objetos aparentes donde en realidad no existen.
Los diseñadores de software se enfrentan aquí a un compromiso básico. Si el software está programado para ser demasiado cauteloso, el viaje será lento y entrecortado, ya que el automóvil reduce constantemente la velocidad en busca de objetos que no representan una amenaza para el automóvil o que no están allí en absoluto. Ajustar el software en la dirección opuesta producirá un viaje suave la mayor parte del tiempo, pero con el riesgo de que el software ignore ocasionalmente un objeto real. Según Efrati, eso es lo que sucedió en Tempe en marzo y, lamentablemente, el "objeto real" era un ser humano.
"Hay una razón por la que Uber ajustaría su sistema para ser menos cauteloso con los objetos alrededor del automóvil", escribió Efrati. "Está tratando de desarrollar un automóvil autónomo que sea cómodo de manejar".
“Uber había estado compitiendo para cumplir con un objetivo interno de fin de año de permitir que los clientes en el área de Phoenix viajen en los vehículos Volvo autónomos de Uber sin un conductor de seguridad sentado al volante”, agregó Efrati.
Cuanto más cautelosamente se programe el software de un automóvil, más a menudo pisará los frenos innecesariamente. Eso producirá un viaje más seguro pero también uno que no será tan cómodo para los pasajeros.
Esto proporciona un contexto útil para el informe de marzo de Efrati de que los automóviles de Cruise, la subsidiaria de automóviles autónomos de GM, "con frecuencia se desvían y dudan". Escribió que los autos Cruise "a veces reducen la velocidad o se detienen si ven un arbusto al costado de una calle o un poste divisorio de carril, confundiéndolo con un objeto en su camino".
Podría leer eso como una señal de que el software de Cruise no es muy bueno. Pero también podría verlo como una señal de que los ingenieros de Cruise están siendo debidamente cautelosos. Obviamente, es mucho mejor que el software produzca un viaje errático y entrecortado que proporcionar un viaje suave que ocasionalmente atropella a un peatón. Y tal precaución está especialmente justificada cuando realiza pruebas en un entorno urbano ajetreado como San Francisco.
Por supuesto, el objetivo a largo plazo es que los automóviles autónomos sean tan buenos para reconocer objetos que los falsos positivos y los falsos negativos se vuelvan raros. Pero la muerte de Herzberg proporciona un trágico recordatorio de que las empresas no deben adelantarse demasiado. Lograr que los autos completamente autónomos salgan a la carretera es un objetivo que vale la pena. Pero asegurarse de que se haga de manera segura es más importante.
Uber se negó a comentar con The Information, citando requisitos de confidencialidad relacionados con una investigación en curso realizada por la Junta Nacional de Seguridad en el Transporte. Le hemos pedido comentarios a Uber y lo actualizaremos si la compañía responde.