Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 1153

Loading...
Un t�émoin affirme qu'Uber, qui conduit lui-même, a allumé le feu rouge tout seul, contestant les affirmations d'Uber
theguardian.com · 2016

L'entreprise insiste sur le fait que les infractions au code de la route à San Francisco sont le résultat d'une "erreur humaine" commise par des conducteurs qui peuvent prendre le contrôle si nécessaire, mais le récit d'un témoin contredit cette affirmation

Un Uber autonome a mal fonctionné alors qu'il était en "mode de conduite autonome" et a provoqué une quasi-collision à San Francisco, selon un propriétaire d'entreprise dont le compte soulève de nouveaux problèmes de sécurité concernant le lancement non réglementé de la technologie.

La voiture autonome – qu'Uber a introduite sans permis, dans le cadre d'un programme de test que la Californie a jugé illégal – a accéléré dans une intersection alors que le feu était encore rouge et que la technologie d'automatisation contrôlait clairement la voiture, a déclaré Christopher Koff, propriétaire. du café local AK Subs.

Voitures autonomes : le défi ouvert d'Uber envers la Californie met en lumière des tactiques effrontées En savoir plus

"On aurait dit que la voiture avait allumé le feu rouge toute seule", a déclaré Koff, 49 ans, à propos de l'Uber Volvo autonome, qui a un chauffeur sur le siège avant qui peut prendre le contrôle en cas de besoin. Une autre voiture qui avait le feu vert a dû « claquer les freins » pour éviter un accident, a-t-il dit.

L'histoire de Koff, que le groupe de défense des consommateurs Consumer Watchdog a partagée mardi avec des représentants de l'État, contredit directement les affirmations publiques d'Uber selon lesquelles les violations des feux rouges sont le résultat d'une "erreur humaine" et que les conducteurs, et non la technologie, n'ont pas respecté le code de la route.

Les nouvelles allégations – qu'Uber a niées et qui couvrent un incident il y a trois semaines – ont été révélées quelques jours après que la société a ouvertement refusé de se conformer aux réglementations californiennes, affirmant que son défi au gouvernement était une "question de principe".

Les voitures autonomes d'Uber ont été repérées pour la première fois dans les rues de San Francisco en septembre, mais la société a officiellement lancé un programme pilote pour les passagers la semaine dernière. Les responsables californiens ont déclaré à plusieurs reprises que la société de covoiturage, dont le siège est à San Francisco, avait besoin de permis de test, notant que 20 autres sociétés avaient suivi les protocoles.

Mais Uber a ignoré la menace de poursuites judiciaires du procureur général Kamala Harris, affirmant qu'il n'a pas besoin de permis puisque les véhicules sont surveillés par des conducteurs et citant la technologie "de pointe" et les "capacités de sécurité essentielles" des voitures.

Le récit de Koff, cependant, suggère que les produits ne sont peut-être pas prêts pour la route et que les mécanismes de sécurité sont insuffisants.

Il était environ 5 heures du matin, heure locale, et Koff a déclaré qu'il se tenait à 10 pieds du véhicule lorsqu'il l'a vu arrêté à un feu. Alors que le conducteur parlait à un passager, qui avait sorti un ordinateur portable, la voiture a soudainement avancé dans le rouge, selon Koff. Les mains du conducteur n'étaient pas sur le volant, a-t-il ajouté.

« Il ne conduisait pas. C'était en mode autonome », a déclaré Koff. Il a noté qu'il y avait du brouillard à l'époque et qu'il y avait des camions de construction à proximité qui brillaient des lumières jaunes qui auraient pu interférer avec la technologie.

Ce ne serait pas la première fois que l'ordinateur d'un véhicule autonome commettait une erreur basique avec des conséquences potentiellement mortelles.

En mai, les «capteurs de pilote automatique» d'une voiture Tesla Motors n'ont pas réussi à distinguer un semi-remorque blanc traversant l'autoroute contre un ciel lumineux, entraînant le premier décès connu causé par une voiture autonome.

Uber a également admis lundi au Guardian que ses voitures de San Francisco avaient un "problème" avec la façon dont elles traversaient les pistes cyclables, et les voitures autonomes de l'entreprise à Pittsburgh seraient entrées en collision avec d'autres voitures et auraient conduit dans le mauvais sens dans une rue.

« Nous ne sommes que des locations » : les chauffeurs Uber demandent où ils se situent dans un avenir autonome En savoir plus

La porte-parole Chelsea Kohler a refusé de fournir des détails sur les affirmations de Koff et a envoyé au Guardian une déclaration identique à celle qu'elle a fournie la semaine dernière, citant une «erreur humaine», ajoutant: «C'est pourquoi nous croyons tant à rendre les routes plus sûres en construisant auto- conduire des Uber.

Kohler n'a pas répondu aux questions sur la façon dont l'entreprise sait que le conducteur était en faute et s'il a subi des conséquences. La semaine dernière, elle a déclaré que deux conducteurs avaient été suspendus après que les véhicules autonomes avaient été enregistrés en train de brûler des feux rouges.

Les critiques ont fait valoir que, que les violations se produisent en mode autonome ou lorsqu'un humain est aux commandes, Uber doit être responsable des dangers posés par ses voitures - et devrait embrasser les régulateurs, et non les éviter.

"Quelqu'un pourrait être blessé, mutilé ou paralysé pour le reste de sa vie parce que nous essayons de précipiter quelque chose là-bas", a déclaré Koff, notant qu'il a également récemment vu un chauffeur dans un Uber autonome se précipiter pour prendre le contrôle alors qu'il essayait pour contourner un bus à proximité et une ambulance qui approche.

John M Simpson, directeur du projet de confidentialité pour Consumer Watchdog, qui a déposé un rapport basé sur l'incident de Koff, a déclaré qu'il soupçonnait Uber de ne pas suivre les réglementations qui l'obligeraient à divulguer des détails sur les erreurs au gouvernement.

"Être capable de comprendre les feux de circulation et de réagir de manière appropriée est une exigence clé de toute technologie dite d'auto-conduite", a déclaré Simpson, qui a de nouveau appelé à des poursuites pénales.

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd