Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 1257

Incidents associés

Incident 425 Rapports
Uber AV Killed Pedestrian in Arizona

Loading...
L'accident d'Uber montre un "échec catastrophique" de la technologie de conduite autonome, selon les experts
theguardian.com · 2018

Des inquiétudes ont été soulevées concernant les futurs tests, car les images suggèrent qu'une collision mortelle en Arizona échouait dans les fonctions les plus élémentaires du système

La vidéo du premier accident de voiture autonome qui a tué un piéton suggère une "panne catastrophique" de la technologie d'Uber, selon des experts dans le domaine, qui ont déclaré que les images montraient que le système autonome se trompait sur l'une de ses fonctions les plus élémentaires.

Quelques jours après qu'un SUV Uber autonome a heurté une piétonne de 49 ans alors qu'elle traversait la rue avec son vélo à Tempe, en Arizona, des images diffusées par la police ont révélé que le véhicule se déplaçait en mode autonome et ne semblait pas ralentir ou détecter la femme même si elle était visible devant la voiture avant la collision. Plusieurs experts ont soulevé des questions sur la technologie Lidar d'Uber, qui est le système de lasers que les voitures autonomes utilisent pour "voir" le monde qui les entoure.

"C'est exactement le type de situation que le Lidar et le radar sont censés détecter", a déclaré David King, professeur à l'Arizona State University et expert en planification des transports. "C'est un échec catastrophique qui s'est produit avec la technologie d'Uber."

« Uber devrait être fermé » : les amis d'une victime d'un accident de voiture autonome demandent justice Lire la suite

Les vidéos de la voiture heurtant Elaine Herzberg ont également démontré que le "chauffeur de sécurité" à l'intérieur de la voiture ne semblait pas surveiller la route, ce qui soulève des inquiétudes quant aux systèmes de test qu'Uber et d'autres constructeurs de voitures autonomes ont déployés dans les villes des États-Unis.

"Ce conducteur de sécurité ne faisait aucune surveillance de la sécurité", a déclaré Missy Cummings, professeur d'ingénierie à l'Université Duke, qui a témoigné des dangers de la technologie de conduite autonome. La recherche a montré que les humains surveillant un système automatisé sont susceptibles de s'ennuyer et de se désengager, a-t-elle déclaré, ce qui rend cette phase actuelle de tests semi-autonomes particulièrement dangereuse.

"Le problème des conducteurs de sécurité complaisants va être un problème pour chaque entreprise."

Les images "suggèrent fortement une défaillance du système de conduite automatisée d'Uber et un manque de diligence de la part du chauffeur d'Uber", a déclaré Bryant Walker Smith, professeur à la faculté de droit de l'Université de Caroline du Sud et expert en véhicules autonomes, dans un e-mail. Il a noté que la victime est visible environ deux secondes avant la collision, en disant : « C'est similaire au temps de réaction moyen d'un conducteur. Cela signifie qu'un conducteur alerte peut avoir au moins tenté de dévier ou de freiner.

La voiture roulait à 38 miles par heure à 22 heures dimanche, selon le chef de la police de Tempe, Sylvia Moir, qui a déclaré à un journaliste qu'elle pensait que la vidéo montrait qu'Uber n'était pas en faute. Les experts qui ont examiné les images ont cependant déclaré que le contraire semblait être vrai.

"Je ne comprends vraiment pas pourquoi Lidar n'a pas compris cela", a déclaré Ryan Calo, professeur de droit à l'Université de Washington et expert en conduite autonome. "Cette vidéo n'absout pas Uber."

Facebook Twitter Pinterest Une Volvo autonome Uber équipée de la technologie « Lidar ». Photo : Document Uber/EPA

Même si la vidéo semblait sombre, King a déclaré qu'il y avait probablement plus de visibilité que ne le suggéraient les images et a noté que l'obscurité ne devrait pas affecter les capacités de détection de la voiture.

"Les ombres n'ont pas d'importance pour Lidar", a ajouté Cummings. "Il ne fait aucun doute qu'il aurait dû être en mesure de la voir."

La police a souligné que la victime n'était pas dans un passage pour piétons au moment de l'accident, mais les experts ont déclaré que la technologie aurait encore dû arrêter le véhicule, une Volvo, et King a noté que la section exacte où Herzberg est entré dans la rue est une zone commune pour piétons à traverser près d'un parc local.

John Simpson, directeur de projet sur la confidentialité et la technologie chez Consumer Watchdog, a déclaré que la vidéo révélait un "échec complet" de la technologie d'Uber et de ses protocoles de sécurité, et a déclaré que tous les programmes de test sur la voie publique devraient être suspendus pendant que l'affaire fait l'objet d'une enquête.

"Uber semble être une entreprise qui s'est précipitée et a pris des raccourcis pour mettre ces choses sur la route", a déclaré Simpson, notant que les dirigeants de l'Arizona ont attiré la société dans son état avec des promesses de moins de réglementations, après qu'Uber se soit battu avec la Californie pour ses véhicules. griller des feux rouges. "C'est inexcusable."

Uber, qui a temporairement suspendu les tests, a refusé de commenter les causes de l'accident. Un porte-parole a déclaré dans un communiqué que la vidéo était "dérangeante et déchirante", ajoutant: "Nos voitures restent au sol et nous aidons les autorités locales, étatiques et fédérales de toutes les manières possibles."

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd