Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 1399

Incidents associés

Incident 971 Rapport
Tesla Autopilot Mistakes Red Letters on Flag for Red Traffic Lights

Loading...
Le pilote automatique Tesla confond les lettres rouges sur le drapeau avec les feux rouges
interestingengineering.com · 2020

La semaine dernière, nous avons rendu compte du déploiement de la version bêta de la conduite autonome complète de Tesla à quelques propriétaires de Tesla sélectionnés.

Bien que la technologie de conduite autonome ait indéniablement parcouru un long chemin au cours des dernières années, nous ne sommes jamais loin de nous rappeler que la technologie a également encore un long chemin à parcourir.

Un exemple concret est la vidéo récemment téléchargée par un utilisateur de Reddit montrant une interaction défectueuse entre son Tesla Model 3 et un drapeau de station-service.

Signaler une erreur liée à un indicateur

Redditor cyntrex a posté sa vidéo sur le subreddit r/teslamotors. La vidéo montre la vue depuis l'intérieur d'une Model 3 à l'arrêt. Le système de pilote automatique de la voiture enregistre les feux de circulation qui passent par intermittence du rouge au jaune, puis reviennent au rouge.

La personne qui enregistre la vidéo décale ensuite l'angle de la caméra pour nous montrer ce qu'il y a à l'extérieur, juste devant la voiture. Deux drapeaux verticaux avec le mot "coop" écrit en caractères gras rouges et orange - illustrés dans l'image ci-dessus - semblent confondre le système Tesla Autopilot.

Lorsque le drapeau flotte au vent, le système passe des feux rouges aux feux jaunes en lisant les différentes couleurs sur les "o" en boucle sur les drapeaux. La voiture pense clairement que les lettres rondes sur le drapeau, appartenant à une station-service, sont des feux rouges et jaunes.

Le pilote automatique de Tesla n'est pas parfait

La situation heureusement non dangereuse dans la vidéo sert de rappel important que le pilote automatique et la version bêta de la conduite autonome complète de Tesla ne sont pas assez avancés pour permettre simplement aux conducteurs de monter dans leur voiture, de saisir une destination, puis de laisser le véhicule faire le le repos.

Bien que le PDG de Tesla, Elon Musk, ait récemment déclaré que la nouvelle mise à jour Full Self-Driving Beta de la société serait un "saut quantique" par rapport à son itération précédente, les notes de publication de la mise à jour ont souligné que le système "pourrait faire la mauvaise chose au pire moment, donc [les conducteurs] doivent toujours garder [leurs] mains sur le volant."

Vous pouvez voir la vidéo de la publication originale de Reddit ici.

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd