Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 1257

Incidentes Asociados

Incidente 425 Reportes
Uber AV Killed Pedestrian in Arizona

Loading...
El accidente de Uber muestra una "falla catastrófica" de la tecnología de conducción autónoma, dicen los expertos
theguardian.com · 2018

Surgieron preocupaciones sobre futuras pruebas, ya que las imágenes sugieren que la colisión fatal en Arizona estaba fallando en las funciones más básicas del sistema.

El video del primer accidente automovilístico que mató a un peatón sugiere una "falla catastrófica" de la tecnología de Uber, según expertos en el campo, quienes dijeron que las imágenes mostraban que el sistema autónomo fallaba en una de sus funciones más básicas.

Días después de que un SUV Uber autónomo atropellara a una peatona de 49 años mientras cruzaba la calle con su bicicleta en Tempe, Arizona, las imágenes publicadas por la policía revelaron que el vehículo se movía en modo autónomo y no parecía disminuir la velocidad. o detectar a la mujer a pesar de que estaba visible frente al automóvil antes de la colisión. Múltiples expertos han planteado preguntas sobre la tecnología Lidar de Uber, que es el sistema de láseres que utilizan los coches autónomos para “ver” el mundo que les rodea.

“Este es exactamente el tipo de situación que Lidar y el radar deben detectar”, dijo David King, profesor de la Universidad Estatal de Arizona y experto en planificación del transporte. “Esta es una falla catastrófica que sucedió con la tecnología de Uber”.

"Uber debería ser cerrado": los amigos de la víctima de un accidente automovilístico buscan justicia Leer más

Los videos del automóvil golpeando a Elaine Herzberg también demostraron que el "conductor de seguridad" dentro del automóvil no parecía estar monitoreando la carretera, lo que generó preocupaciones sobre los sistemas de prueba que Uber y otras compañías de automóviles autónomos han implementado en ciudades de los EE. UU.

“Este conductor de seguridad no estaba haciendo ningún monitoreo de seguridad”, dijo Missy Cummings, profesora de ingeniería de la Universidad de Duke que ha testificado sobre los peligros de la tecnología de conducción autónoma. La investigación ha demostrado que es probable que los humanos que monitorean un sistema automatizado se aburran y se desconecten, dijo, lo que hace que esta fase actual de pruebas semiautónomas sea particularmente peligrosa.

“El problema de los conductores de seguridad complacientes va a ser un problema para todas las empresas”.

El video "sugiere fuertemente una falla del sistema de conducción automatizado de Uber y la falta de cuidado por parte del conductor de Uber", dijo en un correo electrónico Bryant Walker Smith, profesor de la facultad de derecho de la Universidad de Carolina del Sur y experto en vehículos autónomos. Señaló que la víctima es visible unos dos segundos antes de la colisión y dijo: “Esto es similar al tiempo de reacción promedio de un conductor. Eso significa que un conductor alerta puede haber al menos intentado desviarse o frenar”.

El automóvil viajaba a 38 millas por hora a las 10 p.m. del domingo, según la jefa de policía de Tempe, Sylvia Moir, quien le dijo a un reportero que pensaba que el video mostraba que Uber no tuvo la culpa. Sin embargo, los expertos que revisaron las imágenes dijeron que todo lo contrario parecía ser cierto.

“Realmente no entiendo por qué Lidar no detectó esto”, dijo Ryan Calo, profesor de derecho de la Universidad de Washington y experto en conducción autónoma. “Este video no absuelve a Uber”.

Facebook Twitter Pinterest Un Volvo autónomo de Uber equipado con tecnología 'Lidar'. Fotografía: Folleto de Uber/EPA

Aunque el video parecía oscuro, King dijo que probablemente había más visibilidad de lo que sugería el metraje y señaló que la oscuridad no debería afectar la capacidad de detección del automóvil.

"Las sombras no le importan a Lidar", agregó Cummings. “No hay duda de que debería haber podido verla”.

La policía enfatizó que la víctima no estaba en un cruce de peatones en el momento del accidente, pero los expertos dijeron que la tecnología aún debería haber detenido el vehículo, un Volvo, y King señaló que la sección exacta donde Herzberg ingresó a la calle es un área común para peatones para cruzar cerca de un parque local.

John Simpson, director de proyectos de privacidad y tecnología de Consumer Watchdog, dijo que el video revelaba una “falla completa” de la tecnología de Uber y sus protocolos de seguridad, y dijo que todos los programas de prueba en las vías públicas deberían suspenderse mientras se investiga el caso.

“Uber parece ser una empresa que se ha estado apresurando y tomando atajos para poner estas cosas en la carretera”, dijo Simpson, y señaló que los líderes de Arizona atrajeron a la corporación a su estado con promesas de menos regulaciones, luego de que Uber peleara con California por sus vehículos. corriendo luces rojas. “Es imperdonable”.

Uber, que suspendió temporalmente las pruebas, se negó a comentar sobre las causas del accidente. Un portavoz dijo en un comunicado que el video era "perturbador y desgarrador", y agregó: "Nuestros autos permanecen en tierra y estamos ayudando a las autoridades locales, estatales y federales en todo lo que podemos".

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd