Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 1504

Incidents associés

Incident 1453 Rapports
Tesla's Autopilot Misidentified the Moon as Yellow Stop Light

Loading...
Nous avons essayé la "conduite entièrement autonome" de Tesla. Voici ce qui s'est passé
cnn.com · 2021

Washington, DC (CNN) Quand une douzaine de petits enfants ont traversé devant notre Tesla avec "l'auto-conduite complète", j'avais de bonnes raisons d'être nerveux.

Jusqu'à présent, j'avais passé ma matinée sur la banquette arrière du modèle 3 en utilisant la "conduite entièrement autonome", le système qui, selon Tesla, changera le monde en permettant des véhicules autonomes sûrs et fiables. J'avais vu le logiciel presque s'écraser sur un chantier de construction, essayer de se transformer en un camion arrêté et tenter de rouler du mauvais côté de la route. Des conducteurs en colère klaxonnaient alors que le système hésitait, parfois en plein milieu d'une intersection. (Nous avons eu un conducteur humain attentif au volant pendant tous nos tests, pour prendre le contrôle total en cas de besoin.)

La "conduite entièrement autonome" du modèle 3 a nécessité de nombreuses interventions humaines pour nous protéger, nous et tous les autres sur la route. Parfois, cela signifiait appuyer sur le frein pour désactiver le logiciel, afin qu'il n'essaie pas de contourner une voiture devant nous. D'autres fois, nous avons rapidement secoué le volant pour éviter un accident. (Tesla dit aux conducteurs de prêter une attention constante à la route et d'être prêts à agir immédiatement.)

J'espérais que la voiture ne ferait plus d'erreurs stupides. Après ce qui a semblé être une éternité, les enfants ont fini de traverser. J'ai expiré.

Nous étions clairs pour faire notre tour. La voiture semblait trop hésitante au début, mais ensuite j'ai remarqué un cycliste venant de notre gauche. Nous avons attendu.

Une fois que le cycliste a traversé l'intersection, la voiture s'est arrêtée et a effectué un virage en douceur.

Au cours de l'année écoulée, j'ai regardé plus d'une centaine de vidéos de propriétaires de Tesla utilisant la technologie « entièrement autonome », et j'ai parlé à beaucoup d'entre eux de leurs expériences.

La « conduite entièrement autonome » est une fonction d'assistance à la conduite de 10 000 $ offerte par Tesla. Alors que tous les nouveaux Teslas sont capables d'utiliser le logiciel « entièrement autonome », les acheteurs doivent opter pour l'ajout coûteux s'ils souhaitent accéder à la fonctionnalité. Le logiciel est toujours en version bêta et n'est actuellement disponible que pour un groupe restreint de propriétaires de Tesla, bien que le PDG Elon Musk ait affirmé qu'un déploiement plus large était imminent. Musk promet que "l'auto-conduite complète" sera totalement capable d'amener une voiture à destination dans un avenir proche.

Mais ça ne fait pas ça. Loin de là.

Les propriétaires de Tesla ont décrit la technologie comme impressionnante mais aussi imparfaite. Un instant, il roule parfaitement, l'instant d'après, il s'écrase presque sur quelque chose.

Jason Tallman, un propriétaire de Tesla qui documente ses voyages « entièrement autonomes » sur YouTube, a proposé de me laisser en faire l'expérience de première main.

Nous avons demandé à Jason de nous rencontrer sur Flatbush Avenue à Brooklyn. C'est une artère urbaine qui transporte des milliers de voitures, de camions, de cyclistes et de piétons vers Manhattan. Même pour les conducteurs humains expérimentés, cela peut être un défi.

La conduite en ville est chaotique, avec des véhicules aux feux rouges et des piétons à presque tous les pâtés de maisons. C'est loin des quartiers de banlieue et des autoroutes prévisibles autour des bureaux de Tesla en Californie, ou des larges rues de l'Arizona, où Alphabet's Waymo exploite des véhicules entièrement autonomes.

Cruise, la société de conduite autonome de GM, a récemment terminé ses premiers trajets entièrement autonomes à San Francisco. Mais ils ont été menés après 23 heures. la nuit, lorsque la circulation est fluide et que peu de piétons ou de cyclistes sont présents.

Brooklyn nous a offert une chance de voir à quel point le logiciel de conduite autonome de Tesla était proche du remplacement des conducteurs humains. C'est le genre d'endroit où les humains conduisent parce qu'ils le doivent, pas le genre d'endroit choisi par un siège social. C'est là que les voitures autonomes pourraient avoir le plus grand impact.

À un moment donné, nous roulions dans la voie de droite de Flatbush. Un chantier s'annonçait. La voiture a continué à toute vitesse vers une rangée de clôtures métalliques.

J'ai eu un sentiment de déjà-vu en me souvenant d'une vidéo dans laquelle un propriétaire de Tesla a appuyé sur les freins après que sa voiture soit apparue prête à s'écraser tête baissée sur un chantier de construction.

Mais cette fois, j'étais assis sur le siège arrière. J'ai instinctivement levé mon bras droit comme le Trophée Heisman, comme pour me protéger en cas de collision.

C'était un moment où je souhaitais que la "conduite entièrement autonome" soit rapide pour changer de voie. Dans d'autres cas, je souhaitais qu'il se détende dans ses virages agressifs.

"Full self-driving" fait parfois des virages saccadés. La roue commence à tourner, mais recule ensuite, avant de tourner à nouveau dans la direction prévue. Les virages décalés ne semblent généralement pas être un problème dans les virages suburbains rapides, mais dans une ville dense construite en grande partie avant les voitures, c'est inconfortable.

Il y a aussi le freinage, qui peut sembler aléatoire. À un moment donné, une voiture s'est approchée de l'arrière nous terminant après un freinage qui m'a surpris. Se faire klaxonner était courant. Je n'ai jamais vraiment eu l'impression de savoir ce que la "conduite entièrement autonome" ferait ensuite. Demander une "conduite entièrement autonome" pour naviguer à Brooklyn, c'était comme demander à un étudiant conducteur de passer un examen routier pour lequel il n'était pas encore prêt.

Ce que la "conduite entièrement autonome" pouvait bien faire était impressionnant, mais l'expérience était finalement déconcertante. Je ne peux pas imaginer utiliser "l'auto-conduite complète" régulièrement dans une ville. J'ai remarqué que j'hésitais à regarder le tableau de bord de la Model 3, par exemple pour vérifier notre vitesse, car je ne voulais pas quitter la route des yeux.

Les propriétaires de Tesla me disent régulièrement comment Autopilot, le prédécesseur axé sur l'autoroute de la "conduite entièrement autonome", rend leurs trajets moins stressants. Ils arrivent à destination en se sentant moins fatigués. Certains m'ont dit qu'ils sont plus susceptibles de faire de longs trajets en voiture à cause du pilote automatique.

Mais la "conduite entièrement autonome" ressemblait à l'inverse. J'avais l'impression que je devais être constamment sur mes gardes pour éviter que la voiture ne fasse quelque chose de mal.

En fin de compte, voir "l'auto-conduite complète" à Brooklyn m'a rappelé l'importance des subtilités de la conduite, ce qui est difficile à maîtriser pour une voiture à intelligence artificielle. Des choses comme tirer légèrement dans l'intersection sur une route étroite pour faire un virage à gauche, afin que la circulation derrière vous ait de la place pour se garer. La "conduite entièrement autonome" s'est mise en place alors que les conducteurs frustrés derrière nous klaxonnaient.

Pour l'instant, la "conduite entièrement autonome" semble plus proche d'une astuce de fête à montrer à des amis que d'une fonctionnalité incontournable.

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd