Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 188

Incidents associés

Incident 32114 Rapports
Tesla Model X on Autopilot Crashed into California Highway Barrier, Killing Driver

Loading...
Le pilote automatique autonome de Tesla impliqué dans un autre accident mortel
wired.com · 2018

TESLA A MAINTENANT une autre fatalité à accrocher à son système de conduite semi-autonome. La société vient de révéler que sa fonction de pilote automatique a été activée lorsqu'un SUV modèle X a percuté un séparateur de voie en béton et a pris feu le matin du vendredi 23 mars. Le conducteur, Wei Huang, est décédé peu de temps après à l'hôpital.

Il s'agit du deuxième accident mortel confirmé sur les routes américaines dans lequel le système de pilote automatique de Tesla contrôlait la voiture. Cela soulève des questions maintenant familières sur ce système nouveau et imparfait, qui pourrait rendre la conduite plus facile et plus sûre, mais qui repose sur une surveillance humaine constante.

Dans un article de blog publié ce soir, Tesla indique que les journaux de l'ordinateur de la voiture indiquent que le pilote automatique était activé, avec la distance du régulateur de vitesse adaptatif réglée au minimum. La voiture reste dans sa voie et à une distance fixe du véhicule qui précède, mais le conducteur est censé garder les mains sur le volant et surveiller également la route. Enlevez vos mains du volant trop longtemps et vous obtenez un avertissement visuel sur le tableau de bord. Ignorez cela et le système attirera votre attention avec un bip. Si vous êtes têtu ou incapable, la voiture allumera ses clignotants et ralentira jusqu'à l'arrêt.

Sur la base des données extraites de la voiture accidentée, Tesla affirme que Huang aurait dû avoir environ cinq secondes et 150 mètres de vue dégagée sur la barrière en béton avant l'accident. Les mains de Huang n'ont pas été détectées sur le volant pendant six secondes avant l'impact. Plus tôt dans le trajet, il avait reçu plusieurs avertissements visuels et un avertissement sonore pour remettre ses mains sur le volant.

Le manuel de la voiture rappelle aux conducteurs de Tesla que le pilote automatique est un outil d'assistance à la conduite, et non un remplacement, et qu'ils conservent la responsabilité de conduire en toute sécurité. (Le grand écran central transmet le même message lorsque vous activez le pilote automatique pour la première fois.) Mais les critiques disent que la facilité avec laquelle le système de Tesla gère la conduite régulière sur autoroute peut [bercer un conducteur en lui faisant croire qu'il est plus capable qu'il ne l'est](https:/ /www.wired.com/story/tesla-autopilot-crash-dui/), et leur permettre de se laisser distraire ou de quitter la route des yeux.

Les conducteurs doivent être prêts à saisir le volant si les marquages au sol disparaissent ou si les voies se séparent, ce qui peut avoir été un facteur contributif à cet accident. Des systèmes comme Autopilot ont des faiblesses connues. Le manuel avertit également qu'il peut ne pas voir les objets stationnaires, une lacune mise en évidence quand une Tesla a percuté un camion de pompiers à l'arrêt à proximité Los Angeles en janvier. Les systèmes sont conçus pour éliminer les données radar sur les objets qui ne bougent pas, afin d'éviter les fausses alarmes pour chaque portique aérien ou poubelle côté rue.

Le pilote automatique a été activé pour la première fois sur les voitures de Tesla, via une mise à jour logicielle en direct, en octobre 2015. Le système combine un régulateur de vitesse contrôlé par radar avec une direction automatique pour rester dans les lignes de voie peintes. La première personne connue pour mourir en utilisant le pilote automatique était Joshua Brown, dont la Model S s'est écrasée dans un camion qui a traversé son chemin en Floride, en mai 2016. Ni lui ni les ordinateurs de la voiture n'ont vu le camion blanc contre le ciel lumineux.

Les enquêteurs fédéraux se sont penchés sur le site de l'accident et les journaux de bord du véhicule, comme ils le font avec ce deuxième décès. La National Highway Traffic Safety Administration a conclu que le système fonctionnait comme prévu , n'était pas défectueux et que Tesla n'avait pas besoin de rappeler de voitures. L'accident, en d'autres termes, était la faute de Brown. Il est allé plus loin et a déclaré que les accidents avaient chuté de 40% dans les voitures Tesla équipées de la fonction de guidage automatique.

Le National Transportation Safety Board était plus accablant, disant Tesla devrait porter une partie du blâme pour avoir vendu un système qui est trop facile à abuser.

Après la mort de Brown, Tesla a modifié le pilote automatique pour s'appuyer davantage sur les données de son radar, et moins sur la caméra, pour repérer les obstacles sur la trajectoire de la voiture. Il a également envoyé une mise à jour logicielle qui a considérablement réduit la durée pendant laquelle un conducteur peut lâcher le volant et a introduit des avertissements clignotants plus lumineux. Cette durée varie en fonction de la vitesse et des conditions routières, mais peut tout de même être de quelques minutes.

Le pilote automatique était révolutionnaire lorsque Tesla l'a introduit, et Elon Musk promet que ses voitures sont capables d'encore plus, du changement de voie tout seul à l'autonomie complète -conduite. D'autres constructeurs de voitures de luxe ont introduit des systèmes similaires avec des restrictions variables et des promesses beaucoup moins grandioses. Le Super Cruise de Cadillac utilise une caméra infrarouge pour surveiller la position de la tête du conducteur (afin qu'il sache quand il regarde la route), au lieu de s'appuyer sur des capteurs de couple dans le volant.

Les enquêtes fédérales sur l'accident de Huang sont en cours et pourraient ne pas produire de rapports avant plusieurs mois (le NTSB prend généralement 12 à 18 mois pour finaliser et publier ses conclusions). En attendant, Tesla a utilisé son article de blog pour souligner certaines circonstances extrêmes de cet accident. La barrière que Huang a frappée était censée avoir un atténuateur de collision, qui se froisse pour absorber une partie de l'impact. Mais il avait été écrasé lors d'un précédent accident et n'avait pas été remplacé, selon l'entreprise. "Nous n'avons jamais vu ce niveau de dommages sur un modèle X dans un autre accident", [le billet de blog lit](https://www.tesla.com/blog/update-last-week%E2%80%99s- accident).

Couplé à l'accident mortel d'Uber en Arizona, dans lequel l'une de ses voitures autonomes a heurté et tué un piéton poussant un vélo, cet incident marque le début de ce qui risque d'être une période difficile pour le [véhicule autonome](https:/ /www.wired.com/tag/self-driving-cars/). Les ingénieurs sont convaincus que l'élimination de l'humain facilement distrait de l'équation de conduite réduira les 40 000 décès sur les routes américaines chaque année. Mais à l'heure actuelle, les systèmes ne sont pas assez sophistiqués pour fonctionner sans surveillance humaine, ce qui est difficile à assurer. Et cela laisse tout le monde dans un terrain d'entente difficile - un no man's land sans issue évidente ou immédiate.

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd